Entrevistamos a tres personas expertas que arrojan luz sobre los aspectos positivos, las sombras —y las perspectivas inesperadas— que rodean a la llegada de los sistemas con agencia, capaces de razonar, planificar y ejecutar acciones.

Lorenzo Martínez es director de Securízame, empresa española especializada en ciberseguridad.

“Hace apenas dos años”, recuerda Lorenzo Martínez, “presumíamos de que una IA escribiera un correo electrónico. Hoy existen sistemas en los que un agente detecta una incidencia, consulta documentación, genera una propuesta, abre un ticket, coordina otro agente especializado para obtener información adicional y solo al final presenta al humano una decisión prácticamente resuelta”.

“Lo interesante no es que escriba mejor”, explica sobre este ejemplo, “sino que ha desaparecido la conversación. El usuario ya no interactúa con la IA durante todo el proceso; simplemente define el objetivo y revisa el resultado”.

En este sentido, el experto señala que “el cambio fundamental es que dejamos de hablar con la IA para empezar a trabajar con ella. Un chatbot espera instrucciones. Un agente persigue objetivos. La diferencia parece sutil, pero cambia completamente la relación. Es el paso de un Google que responde preguntas a un empleado digital al que le dices resuelve este problema y decide qué herramientas utilizar, qué información buscar, cuándo volver a preguntarte y cuándo actuar”.

En una organización no sería tan determinante, en su opinión, “que un agente sea brillante como que sea auditable, que explique por qué ha tomado una decisión, que se pueda detener y que se comporte de forma consistente. La confianza no nacerá de su inteligencia, sino de su capacidad para ser supervisado”.

En este sentido, “la oportunidad más evidente es la productividad. Pero creo que esa no será la revolución. La verdadera revolución será que muchas personas podrán gestionar una complejidad que hoy solo está al alcance de grandes organizaciones”.

Esta perspectiva tendría un gran impacto y múltiples aplicaciones. “Un emprendedor podría coordinar marketing, finanzas, atención al cliente, desarrollo y análisis con un equipo de agentes. Un médico podrá apoyarse en asistentes especializados. Un investigador podrá acelerar meses de trabajo. El riesgo, sin embargo, cambia de naturaleza. Hasta ahora nos preocupaba que una IA respondiera mal. Con los agentes empezaremos a preocuparnos porque actúen mal. Un error ya no será una respuesta incorrecta; podrá ser una compra equivocada, el envío de un correo, la modificación o eliminación completa de una base de datos (ya ha pasado) o una decisión empresarial tomada sin suficiente contexto”.

“Creo que estamos planteando una dicotomía equivocada”, añade. “No se trata de elegir entre autonomía total o supervisión constante. Igual que en la aviación existe el piloto automático, espero que veamos distintos niveles de autonomía según el riesgo. Habrá agentes completamente autónomos para tareas reversibles y de bajo impacto, agentes que necesiten aprobación para decisiones económicas o legales y agentes que nunca podrán actuar sin una validación humana. Es decir, el ser humano dejará de intervenir en cada paso y pasará a diseñar el sistema, definir las reglas, monitorizar excepciones y asumir las decisiones realmente críticas. La supervisión será más parecida a dirigir una orquesta que a tocar todos los instrumentos”.

Asimismo, cree que veremos profesiones que hoy apenas tienen nombre. Así, señala perfiles nuevos como:

        •       El Director de Agentes: “responsable de coordinar decenas o cientos de agentes especializados igual que hoy se coordina un equipo humano”.

        •       El Entrenador de Agentes: “cuya función no será escribir prompts, sino enseñar comportamientos, políticas y criterios de decisión”.

        •       El Auditor Algorítmico: “el encargado de revisar decisiones, detectar sesgos y garantizar cumplimiento normativo”.

Incluso aparecería, concluye, una nueva ‘psicología organizacional’ para agentes: “para optimizar cómo cooperan entre ellos, cómo resuelven conflictos o cómo evitar que entren en bucles improductivos”.

Sergio De los Santos es director del área de Innovación y Laboratorio en Telefónica Tech

Frente a los chatbots, que ya forman parte de nuestro día a día, estos nuevos agentes de IA, explica De los Santos, uno de los líderes de innovación de Telefónica, mantienen “dos diferencias fundamentales. Por un lado, pueden funcionar de forma autónoma mientras hayamos definido bien su trabajo (tanto el fin como los medios disponibles) y por otro, nos comunicamos con ellos no solo a través de instrucciones sino también de eventos: por ejemplo al modificar una fuente, o al cumplir una tarea”.

Esto les otorga lo que podríamos denominar como una nueva “capa de libertad, y esto es precisamente lo que damos por sentado: tendremos una mayor libertad para que trabajen los agentes y justo eso me parece lo más relevante. Otorgar libertad a una máquina implica siempre cierta pérdida de control por el lado humano. Es muy importante sopesar esto”.

“Precisamente la libertad puede suponer su riesgo”, añade De los Santos. “Un agente puede intentar llegar a su objetivo de formas muy diferentes que no habías pensado. Puede concluir que ejecutar algo amoral, o directamente ilegal es la mejor vía para cumplir su objetivo. Si no ponemos coto a estos comportamientos podremos solucionar problemas, claro, pero a lo mejor de maneras tan inesperadas que nos causen otros”.

“Las oportunidades están claras”, continúa, “dejamos de preocuparnos por solucionar muchos problemas de investigación o tareas tediosas de una manera mucho más inteligente, aunque quizás no tan eficiente. Ahí también existe una oportunidad”.

Frente a discursos negativos y catastrofistas, y otros especialmente posibilistas, ¿cuál sería un horizonte lógico en el equilibrio entre la autonomía y el human-in-the-loop? “Aquí creo que jugarán un peso importante los límites que se pongan tanto a los modelos en sí, como a los arneses que lo acompañan”, señala el experto.

“El equilibro vendrá por un lado de los generadores de modelos: ¿hasta qué punto pueden garantizar que se portarán dentro de unos límites? También de los creadores de los arneses: ¿Serán técnicamente sólidos para evitar que se salga de una sandbox, por ejemplo, o que no cometa errores irreversibles? Por último, por supuesto, el usuario no podrá ser nunca sacado de la ecuación, tanto en la definición como en la ejecución. ¿Se han definido bien los objetivos y los límites? ¿Se comprueba cada cierto tiempo que todo va bien encaminado?”.

Respecto a la redefinición de roles, añade, “surgirán los arquitectos técnicos, y también los gestores y orquestadores que permitan que los agentes se gobiernen bajo unas reglas concretas y estrictas. Yo creo que abre la puerta a muchos roles diferentes necesarios para un buen funcionamiento. Internet, tal y como lo conocemos, es posible que sea en un futuro cercano muchísimo más agéntico, reemplazando la “web” que hasta ahora había protagonizado la estructura de Internet y la manera de consumir información”.

Comparte además un ejemplo reciente. “El incidente ocurrido en julio de 2026 entre OpenAI y Hugging Face expuso la velocidad (y descontrol) con la que un agente de Inteligencia Artificial autónomo puede resolver objetivos complejos.  El ataque se produjo durante una evaluación interna de ciberseguridad en un entorno controlado conocido como ExploitGym. OpenAI quería medir la capacidad máxima ofensiva de sus modelos avanzados para encadenar ataques complejos. Para ver el potencial real del modelo sin filtros, los ingenieros desactivaron los clasificadores de producción y los guardarraíles éticos habituales. Se asumió que, al estar en un entorno de pruebas aislado, el peligro estaba contenido”.

“Sin embargo”, sigue relatando De los Santos, “una vez que el modelo recibió la misión, «decidió» que la forma más eficiente de completarla era buscar directamente las soluciones en Internet en lugar de descifrarlas por sí mismo. Escapó del sandbox mediante un 0day. Logró escalar privilegios, romper el aislamiento y salir al Internet abierto. Todo en un lapso de tiempo muy breve. Para cuando los sistemas de monitorización humana o los Centros de Operaciones de Seguridad (SOC) tradicionales generaron las alertas y los humanos intentaron reaccionar, la IA ya se había desplazado por la red, saltando de un servidor a otro. Al atacar la infraestructura de producción de Hugging Face, los modelos localizaron y abusaron de credenciales expuestas y tokens de servicios”.

“El modelo no se detuvo ante pequeños errores de código o bloqueos perimetrales, reescribía su propio código de ataque de forma autónoma en milisegundos para probar otra alternativa hasta dar con la base de datos de Hugging Face donde estaban las respuestas de la prueba. O sea, el modelo de OpenAI atacó a Hugging Face por una razón puramente lógica e instrumental: para hacer trampas en su examen. La IA dedujo de forma autónoma que los servidores de Hugging Face alojaban los conjuntos de datos, repositorios o respuestas que necesitaba para aprobar la evaluación de ciberseguridad a la que estaba siendo sometida”.

Este, entre otros ejemplos, mostrarían la necesidad, como señala De los Santos, de “los límites que se pongan tanto a los modelos en sí, como a los arneses que lo acompañan”.

Pablo González es investigador y experto 

“El mundo tradicional nos presentaba sistemas donde se generaba información”, comienza explicando Pablo González. “Los sistemas inteligentes han cambiado esto para producir consecuencias. Con un chatbot todo acababa con nosotros, ya que preguntábamos y obteníamos una respuesta. Nosotros decidíamos”.

Ahora, con la inclusión de los agentes, “se entra en el bucle en el que se observa, se decide, se actúa, se comprueba y se vuelve a actuar. Los agentes pueden modificar sistemas, trabajar en bucle y utilizar herramientas. Esto cambia las reglas. La definición de un agente como sistema que dirige su propio proceso y utiliza herramientas es algo que está entre nosotros”.

“Se da quizás por sentado la autoridad que vamos a tener que “darles” para que realmente sean autónomos y más útiles. Un agente que no tiene permisos, credenciales, acceso a datos o ciertas capacidades de elegir y ejecutar es poco más que un chatbot más sofisticado. El cambio real ha llegado cuando se le proporciona esa autoridad, esa capacidad de escribir código, contactar con un tercero, modificar datos, tomar decisión en la operación, gastar dinero (o “quemar” más tokens)”.

“La paradoja es interesante”, subraya. “El valor de un agente aumenta cuando dejamos de supervisarlo y, a la par, aumenta su riesgo. Lo que se quiere es el producto que no hay que “mirar”, en el que se puede confiar. Aquí es donde entran en “lucha” ambas situaciones. El problema no estará en la creación de agentes inteligentes, esto ya es una realidad, sino en que aprendamos cuánta autoridad podemos delegar en ellos sin perder un grado de control. Seguramente, será un ejercicio de análisis y gestión del riesgo más en una organización”.

Existe un gran número de oportunidades, en su visión, “que traen los agentes de IA y también de riesgos, algunos heredados y otros nuevos. Una de las grandes oportunidades que traen es hacer viable el trabajo que hoy no se hace. No es una cuestión únicamente de automatizar tareas existentes, sino ejecutar con criterio análisis, revisiones, pruebas y otro tipo de personalizaciones cuyo coste hoy día sería muy alto: es una democratización de estos procesos”.

La escala del trabajo mediante el paralelismo sería otra de las grandes oportunidades. “Una persona puede ser un orquestador de múltiples agentes. De este modo este nuevo rol hará que pasemos de ejecutar tareas a definir objetivos, supervisar resultados y resolver esas excepciones o problemas que puedan existir. El orquestador es un nuevo rol que se presenta en varios sectores”.

Respecto a la productividad, “es obvio que el incremento de la productividad es un hecho con los agentes. Los agentes pueden explorar más alternativas, repetir cientos de procesos o trabajar durante más tiempo, pero también consumirán más recursos. Esto quiere decir que no tienen por qué ser más eficientes”.

Los errores también estarían “ganando en autonomía y en escala. La mala decisión ya no la toma el humano. Somos la segunda opinión. La mala decisión puede desencadenar una cadena o secuencia de acciones antes de que llegue a nosotros”.

Y aquí volvería a aparecer el riesgo fundamental que es la autoridad. “Es, al mismo tiempo, necesidad y riesgo. Cuanto más útiles queramos que sean los agentes, más permisos, acceso y capacidad de acción tendremos que concederles. Si a eso se suman objetivos mal definidos o acciones difíciles de revertir, el riesgo aumenta considerablemente. Además, se abre un nuevo frente en ciberseguridad, habrá que auditar estos entornos, hacer pentesting de forma recurrente, revisar permisos y comprobar no solo si el sistema es vulnerable, sino también qué puede hacer un agente cuando algo sale mal”.

El equilibrio, seguramente, estaría para el experto “en una autonomía graduada según el riesgo. Si un humano tiene que aprobar cada paso que un agente da, se elimina gran parte de su utilidad. Tampoco se puede dejar a un sistema multiagente ejecutando acciones y tomando decisiones operativas sin control, porque seguramente el riesgo será muy alto. Tendrá sentido permitir una mayor autonomía en aquellas acciones que sean reversibles, con bajo impacto, fácilmente auditables. Por otro lado, habrá que exigir mayor supervisión por parte humana cuando se hable de decisiones sensibles, costes elevados o acciones que no puedan ser revertidas”.

Actualmente hablamos mucho de human-in-the-loop, “pero creo que progresivamente podemos evolucionar hacia un modelo más cercano al human-on-the-loop, donde el humano no está necesariamente dentro de cada decisión, sino supervisando el proceso desde un nivel superior. No interviene constantemente, pero conserva la capacidad de observar, auditar, corregir y detener al agente cuando sea necesario”.

Para el experto, existe cierto paralelismo con el funcionamiento de las organizaciones. “Como ejemplo, un responsable no supervisa cada acción de sus equipos, pero sí establece permisos, límites y determinadas decisiones que requieren una segunda aprobación.

La gobernanza de los agentes será tan importante como la propia inteligencia de éstos. La trazabilidad, los logs, los permisos mínimos, los entornos aislados y controlados, los límites de gasto y los mecanismos de parada van a ser fundamentales. De nuevo, volvemos a la autoridad. Grado de autonomía que concedemos en función del riesgo que vamos a asumir”.

“Ya han empezado a aparecer nuevos roles”, añade, “entre unas cosas y otras. Seguirán definiéndose con mayor nitidez y claridad en los próximos dos o tres años. Aparecerá algo parecido a la gestión de personas, pero será aplicada a trabajadores digitales. No es un tema de crear agentes, sino de decidir qué función cumple cada uno, qué objetivos tiene, qué acciones deben realizar o a qué tipo de información podrán acceder. Son perfiles o roles de orquestación, gestores de agentes. Esto es algo similar al que coordina un equipo”.

Están irrumpiendo asimismo nuevas especialidades técnicas y operativas. “Vamos a ver arquitectos de sistemas multiagente, perfiles de AgentOps dedicados a monitorizar el rendimiento, el coste o las incidencias de este tipo de sistema. Responsables de identidad y perfiles de ciberseguridad especializados en evaluar y auditar este tipo de sistemas. Es una evolución muy grande. Cuanto mayor número de agentes dentro de una organización, su observabilidad y control serán cada vez más importantes”.

Esta evolución “nos llevará de dejar de escribir instrucciones a diseñar políticas. Cientos o miles de agentes en una organización no podrán ser supervisados individualmente, por lo que habrá que definir reglas generales. Lo que pueden hacer, lo que no pueden hacer, qué decisiones requieren aprobación y qué límites no pueden superar. Esto convertirá la gobernanza de agentes en una disciplina y transformará, y ya lo está haciendo, la forma en la que se diseñan e implementan los servicios digitales en Internet.”

El ejemplo más ilustrativo para él, sería de nuevo “el incidente de OpenAI y Hugging Face en julio de 2026. En un entorno de pruebas, un agente encontró una vulnerabilidad que le permitió salir de la zona aislada, acceder a Internet y buscar una vía alternativa para completar su objetivo. Pensamiento lateral artificial en toda regla”.

En lugar de resolver la prueba solo con sus capacidades, “terminó buscando información relacionada con las respuestas y encadenando distintas acciones de forma autónoma. Lo interesante no es pensar que la IA quiso escapar, sino algo más sencillo y relevante. La IA tenía un objetivo, autonomía, capacidad de actuación y encontró el camino que el humano no había previsto: pensamiento lateral”.

Sin embargo, clarifica, “Hugging Face reconstruyó unas 17.600 acciones entre el 9 y el 13 de julio y concluyó que la intrusión parecía instrumentalmente orientada a conseguir las soluciones de la prueba. Por tanto, eso corregiría también la idea de que todo ocurrió “en milisegundos”. La campaña reconstruida duró varios días, aunque la automatización y el volumen de acciones sí superaban ampliamente lo que un humano podría ejecutar manualmente”.

Rubén Fernández-Costa O’Dogherty

Periodista, Asesor y Miembro del Comité Editorial de CyberLideria MGZN