Tres conversaciones en profundidad componen este reportaje especial de CyberLideria MGZN sobre la configuración mundial de un nuevo ecosistema —también llamado ‘nuevo orden digital’— tras las revolución de la IA y, por consecuencia, cuáles son los vectores clave a los que poner atención.

Nuria Oliver es Directora de la Fundación ELLIS, computer scientist y PhD en Media Lab MIT

“Como científica”, Nuria Oliver cuenta con una gran trayectoria en la academia, además de industria y policy, “yo describo este momento como la consolidación de la Cuarta Revolución Industrial, donde la IA actúa como el corazón y motor de una unión íntima entre el mundo físico, el biológico y el digital. En este contexto, conviven actores con intereses profundamente divergentes: por un lado, gigantes tecnológicos estadounidenses, que acumulan no solo poder económico sino crecientemente poder político sin precedentes; por otro, el modelo de control estatal chino, que prioriza la eficiencia sistémica sobre la libertad individual; y frente a ellos, la academia y las redes de talento como ELLIS, que luchamos por una investigación en IA abierta, transparente y para el Bien Social. El cuarto actor, y el más vulnerable, es la ciudadanía, que en esta revolución corre el riesgo de ser un mero espectador o un producto”.

“Europa se encuentra en una encrucijada crítica”, señala, dado que “o lideramos una tercera vía soberana que utilice la IA para resolver los grandes retos del estado de bienestar y la sostenibilidad planetaria, o delegamos nuestro futuro en algoritmos desarrollados por otros, con intereses no necesariamente alineados con los nuestros. Como defiendo en mi libro Inteligencia Artificial, naturalmente, nuestro desafío es convertir esta Cuarta Revolución en un verdadero humanismo tecnológico, asegurando que la tecnología sea una herramienta para el progreso inclusivo y la prosperidad compartida”, con retos que van “desde la asimetría de poder y la opacidad algorítmica hasta su impacto en el mercado laboral y la sostenibilidad, no conocen fronteras. Una gobernanza global es la única vía para evitar una ‘carrera hacia el fondo’ donde la competitividad se logre sacrificando los derechos humanos. Debemos aspirar a un marco internacional que garantice que la IA respete los derechos fundamentales en cualquier rincón del planeta. Necesitamos entender la IA como un bien público global”, subraya, “similar al clima o la salud, cuya gestión no puede quedar en manos de monopolios comerciales o de modelos autoritarios”.

“Desde la mirada de España”, en su opinión, el momento actual se define por una dualidad: “poseemos un talento científico y una infraestructura de datos de primer nivel, pero nos enfrentamos al desafío histórico de traducir esa excelencia en soberanía industrial y competitividad real. España vive un despertar donde instituciones y academia han entendido que no podemos ser meros espectadores”. Se refiere a temas como “la soberanía tecnológica, entendida como la capacidad de desarrollar soluciones tecnológicas propias que nos permitan dejar de ser consumidores de cajas negras creadas en otros continentes; la lucha contra la manipulación y desinformación, un reto sistémico para nuestra salud democrática; y la IA para el Bien Social, centrada en su potencial para mejorar servicios públicos esenciales como la sanidad o la transición ecológica. Asimismo, yo agregaría la necesaria inversión en talento, el activo más valioso”.

Desde su perspectiva, el reto fundamental reside en transitar hacia ese “modelo de excelencia ética y eficiencia algorítmica. El sector público tiene la responsabilidad histórica de garantizar que la IA sea una herramienta de valor público, liderando la creación de infraestructuras de datos soberanas y seguras que fortalezcan el estado de bienestar sin comprometer los derechos fundamentales. Por su parte, el sector privado debe entender que la competitividad no vendrá de la especialización, la frugalidad computacional y la innovación responsable”.

El mayor desafío compartido sería “la gestión del talento: si no somos capaces de crear ecosistemas vibrantes que retengan (y atraigan) a nuestras mentes más brillantes, seremos meros consumidores de una tecnología creada por otros. Debemos poner el foco en una colaboración público-privada que actúe como catalizadora de la investigación de alto riesgo y alto impacto, entendiendo que invertir en ciencia no es un gasto, sino el único seguro de vida para nuestra autonomía futura. Precisamente, tanto ELLIS Europa como ELLIS Alicante, la fundación que dirijo, tienen como objetivo atraer y retener el talento investigador excelente en IA con un modelo de financiación público-privado. En este contexto, aprovecho para hacer un llamamiento hacia la filantropía a la investigación científica. Esta necesidad de colaboración público-privada es acuciante”.

En un mundo donde la infraestructura crítica depende de algoritmos, “la seguridad es una necesidad existencial. En cuanto a la desinformación, el reto es quizás el más urgente para nuestra salud democrática, ya que la IA generativa ha reducido a cero el coste de crear contenidos sintéticos hiperrealistas. Para combatirla, no basta con soluciones técnicas como el marcado de agua o la detección algorítmica, que son necesarias pero insuficientes. La alfabetización digital crítica y la supervisión para velar por el cumplimiento de la ley son fundamentales. Debemos empoderar a la ciudadanía para que entienda que estamos en una realidad donde «ver ya no es creer», fomentando una sociedad que cuestione la fuente y la intención de la información. Como defiendo en mi libro, la mejor defensa contra la manipulación es una población educada y un ecosistema de información basado en la verificabilidad, donde la tecnología se use para amplificar la verdad y no para acelerar la mentira”.

En esta nueva configuración, la Universidad, la Academia y los centros de Investigación “deberían ser los garantes de la soberanía intelectual. Instituciones como ELLIS Alicante, dedicada a investigación sobre IA ética, responsable y para el Bien Social, son fundamentales porque representan un modelo de investigación científica de vanguardia con total independencia de los intereses comerciales de las grandes corporaciones. Nuestro objetivo es liderar en excelencia científica con propósito social, asegurando que la IA se desarrolle bajo los principios de transparencia, justicia y beneficio para la humanidad.

La Universidad debe evolucionar hacia un modelo de formación polímata, donde el pensamiento crítico y las humanidades se entrelacen con la tecnología. Sin una investigación básica independiente y académicamente rigurosa, corremos el riesgo de que el conocimiento se convierta en un secreto industrial opaco. La formación y la investigación independiente son la única base sólida sobre la que podemos construir una sociedad que gobierne la tecnología, en lugar de ser gobernada por ella”.

Borja Adsuara Varela es profesor, abogado y consultor experto en Derecho Digital.

Que entramos en un nuevo ecosistema u orden mundial digital es evidente para el experto Borja Adsuara, que señala el impacto de la época que vivimos auténticamente como “igual o mayor aún de lo que ocurrió con la aparición de Internet. Y creo también que el momento actual lo podemos describir como de una carrera en la toma de posiciones estratégicas, tanto de las grandes empresas tecnológicas (Nvidia, ASML, OpenAI, Microsoft, Google, Anthropic, Amazon, Meta, DeepSeek, Baidu, etc.) como de los países (EEUU, China y de la Unión Europea, principalmente)”.

No sólo tiene sentido para él proponer una mirada global a la IA y, especialmente, a su gobernanza, “sino que resulta imprescindible, porque se trata de un fenómeno global, que va más allá de los esfuerzos políticos y regulatorios que pueda realizar un país o región (como la Unión Europea)”. Por eso, explica a continuación, es de vital importancia subrayar que ya “se han propuesto distintas iniciativas sobre este tema en la ONU, como el Panel Científico Internacional Independiente sobre IA o el Laboratorio de Gobernanza de la IA para la Humanidad (con sede en Valencia)”.

Los principales vectores de reflexión y acción del momento actual serían, según su experiencia y visión general del nuevo orden mundial “una gran incertidumbre tecnológica (cada poco tiempo aparece una novedad) y una gran inseguridad jurídica (porque se están definiendo los marcos regulatorios, que además todavía no se aplican)”. Los tres temas más debatidos hoy “en nuestro país son los mismos que en toda Europa y me atrevería a decir en todo el mundo: los malos usos de la IA (usos prohibidos y usos de alto riesgo); los temas de propiedad intelectual respecto de la IA generativa; y la IA agéntica y la responsabilidad jurídica de lo que ésta haga”. Temas que tienen todos ellos profundas implicaciones filosóficas.

“Hay un discurso muy extendido sobre los aspectos éticos del uso de la IA”, explica y aclara respecto a su postura, “pero a mí me interesan más los aspectos jurídicos (quiénes son responsables de lo que haga la IA) y los aspectos pedagógicos, porque se está produciendo una brecha entre la minoría que domina esta nueva tecnología y la mayoría de los ciudadanos, que están perdidos por el ritmo vertiginoso de su desarrollo. Lo cual tendrá, sin duda, consecuencias políticas, económicas, sociales, educativas, laborales, etcétera”.

El mejor enfoque para tratar el tema de la seguridad en esta nueva época de la Inteligencia Artificial comenzaría realmente por “la transparencia algorítmica. No hay labor más importante que auditar los algoritmos, para conocer las intenciones de los que los desarrollan y despliegan. Y actuar en consecuencia. No hay que tener miedo a la tecnología, sino a la maldad humana. Y para eso existe el Derecho, para exigir responsabilidades (económicas y hasta penales) a los que hagan un mal uso de la IA”.

La mejor forma de luchar contra la desinformación “no sería analizar una por una las noticias, para ver si son veraces o falaces (que no es lo mismo que verdaderas o falsas)”, añade, “sino desarticular las redes de bots que viralizan artificialmente las ‘fakenews’. Nos hemos olvidado de que el tema de la desinformación surge en la UE a raíz de las ‘campañas’ que realizan países como Rusia y China para intentar desestabilizar las democracias occidentales (especialmente, en procesos electorales). Países a los que se han unido las grandes redes sociales, con sus algoritmos de moderación (censura) y recomendación (manipulación)”.

En resumen, concluye finalmente, “la función de Academia y la Universidad, de la formación y la divulgación es esencial. No sólo en los aspectos tecnológicos o competencias digitales, sino, sobre todo, en la repercusión que va a tener el uso de la IA en nuestros derechos fundamentales. La pregunta que hacía Juvenal en el siglo primero tiene más actualidad que nunca: “¿quién vigila a los que nos vigilan?” (y ahora con IA)”.

Pablo de Soto es curator de arte y tecnología

El momento actual de la IA y la infraestructura tecnológica es, para el experto Pablo de Soto, comisario especializado en la relación entre arte y tecnología, verdaderamente “el de algo parecido a una revolución, con una tecnología disruptiva que traerá cambios, algunos difíciles aún de imaginar, y con unas poquísimas empresas que están acumulando un poder sin precedentes. Ante estos retos, creo que tiene sentido proponer una mirada global a la inteligencia artificial y su gobernanza, y en ese sentido la UE ha dado un paso pionero con la AI Act, pero es también necesaria una mirada situada”, añade. 

“¿Qué está pasando en el patio trasero, en los márgenes de esta revolución tecnológica?”, enumera como una cuestión  fundamental en la nueva conversación global. “¿Qué pasa con las comunidades, qué pasa con el agua o la energía en los márgenes de las fábricas de IA que se están construyendo (naves industriales llenas de ordenadores del tamaño, ya en algunos casos, de pequeñas ciudades)? ¿Qué nuevas desigualdades se están creando o exacerbando con esta revolución tecnológica? ¿Quiénes, trabajadores y empresas, tienen el riesgo de quedar fuera o de perder parte de su soberanía?”, añade como preguntas clave de este diálogo.

Sobre el mejor enfoque para tratar el concepto de una ‘sostenibilidad’ con la llegada de esta nueva época, cree “que comienza con utilizar las metáforas adecuadas para la revolución en curso. En ese sentido, algunas expertas creen que tenemos que entender la infraestructura de la IA generativa como algo parecido a una infraestructura como la del transporte: hay coches, aviones, naves espaciales, autobuses, bicicletas. Hay que regular el tránsito, pero no parece sostenible usar cohetes para trayectos que se podrían hacer en bus o en bicicleta”.

Y añade un ejemplo al respecto en su explicación. “Me refiero, por ejemplo, a usar la última versión de Claude o ChatGPT, con el gasto de agua y energía que supone, o incluso la pérdida potencial de privacidad, para tareas que un modelo de lenguaje más ligero, y trabajando en local, podría solucionar, por poner un ejemplo”, señala.

En cuanto a España, el experto comisario señala que en realidad “estamos en un momento interesante, en el que el gobierno está apoyando una IA pública y soberana, con un modelo llamado ALIA, que ha sido entrenado en el supercomputador MareNostrum del BSC. Esta es una historia sensacional y debemos sentirnos orgullosos. Que los modelos ALIA estén disponibles para las empresas es muy relevante y creo que no se conoce lo suficiente. En Francia está Mistral, una IA de código abierto también potentísima. En Suiza están innovando, tanto en privacidad como en centros de datos que alimentan las calefacciones de complejos residenciales”.

Sobre los aspectos en los que hay que poner mayor atención, tanto desde el sector público como el privado, “creo que es fundamental que, ante una tecnología tan disruptiva, esta conversación pública se intensifique: ¿cuáles son las preguntas que debemos hacernos como sociedad? En este sentido, el Festival de Cultura y Tecnología que celebramos en el centro Infinito Delicias va a ser un momento muy interesante de debate público con diferentes visiones alrededor del papel de la cultura ante el auge de la IA en nuestra sociedad”.

Son muchas las preguntas que están abiertas, añade. “¿Podemos imaginar la independencia digital frente al poder de los imperios de la IA? ¿O una IA al servicio del bien común? ¿Qué iniciativas están promoviendo centros de datos e infraestructuras digitales más sostenibles? O, ¿cómo pueden las instituciones culturales contribuir a promover formas de IA arraigadas en la proximidad y la cooperación?”, concluye. Sin duda se trata de preguntas de gran calado que requieren una reflexión futura en medios como el que lees en este momento.