Los máximos responsables de OpenAI y Anthropic llevan el debate sobre la seguridad de la inteligencia artificial a Naciones Unidas y advierten de los desafíos que plantean sistemas cada vez más capaces y autónomos.
La carrera por desarrollar una inteligencia artificial cada vez más avanzada ya no es únicamente una cuestión tecnológica o empresarial. También se ha convertido en un asunto de seguridad internacional.
Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, participaron el 23 de septiembre en una sesión del Consejo de Seguridad de Naciones Unidas dedicada a analizar las implicaciones de la inteligencia artificial para la seguridad global. Junto a ellos intervinieron otros referentes del sector, como Yoshua Bengio y Clément Delangue, CEO de Hugging Face.
El mensaje de Altman puso el foco en una cuestión que gana peso a medida que aumentan las capacidades de los modelos: el ser humano debe continuar en el centro de las decisiones.
El CEO de OpenAI presentó dos posibles caminos. Por un lado, una inteligencia artificial capaz de impulsar la creatividad, la investigación, la productividad y nuevos descubrimientos. Por otro, una tecnología cuyo desarrollo avance más rápido que la capacidad de las instituciones para adaptarse y establecer mecanismos de control.
Para Altman, las decisiones más importantes sobre el futuro de esta tecnología tampoco deberían quedar exclusivamente en manos de los laboratorios que desarrollan los modelos más avanzados. Su planteamiento pasa por incorporar a gobiernos e instituciones democráticas a la gobernanza de la IA, al tiempo que evita una regulación excesivamente restrictiva que pueda frenar sus beneficios.
Dario Amodei elevó el tono de la advertencia. El CEO de Anthropic señaló dos grandes áreas de riesgo: el posible uso malicioso de los modelos más avanzados —incluido su empleo para facilitar el desarrollo de amenazas biológicas— y la posibilidad de que las capacidades de estos sistemas progresen más rápido que la capacidad de sus propios desarrolladores para mantenerlos bajo control.
Su propuesta pasa por llevar la seguridad de la IA a una escala internacional.
Entre las medidas defendidas por Amodei se encuentran la creación de estándares globales para evaluar los modelos, mecanismos comunes para analizar riesgos de pérdida de control o usos indebidos y acuerdos internacionales que limiten aplicaciones especialmente peligrosas, como el desarrollo de armas biológicas mediante inteligencia artificial.
La comparecencia deja una imagen significativa: dos de las compañías que están protagonizando la carrera por desarrollar los sistemas de IA más avanzados reclaman ahora una mayor coordinación entre empresas, gobiernos e instituciones internacionales.
El debate, por tanto, empieza a desplazarse. Ya no gira únicamente alrededor de qué será capaz de hacer la próxima generación de inteligencia artificial, sino también de quién establecerá sus límites, cómo se comprobará que esos límites funcionan y qué mecanismos existirán cuando los modelos operen con mayores niveles de autonomía.
La llegada de este debate al Consejo de Seguridad de Naciones Unidas refleja hasta qué punto la IA ha dejado de ser únicamente una cuestión de innovación para convertirse también en un asunto de gobernanza, seguridad y poder global.
Actualidad
28 Septiembre 2026
Podcast de Cyberlideria MGZN.
Todos los jueves, a partir de las 22:00, estará disponible en CyberLideria MGZN una nueva entrevista, donde un prestigioso CISO colaborador charlará con una personalidad inspiradora, importante, y líder empresarial, tanto del ámbito privado como público.
Manténgase informado sobre la ciberseguridad, tecnología, las tendencias y las noticias que afectan a los líderes de TI.
Suscríbete GRATIS y disfruta de contenido ilimitado sobre ciberseguridad y personas
