El avance de los agentes de inteligencia artificial obliga a las empresas a revisar sus modelos de ciberseguridad. Inventariar los sistemas autónomos, limitar sus permisos, supervisar su comportamiento y exigir garantías a los proveedores empieza a convertirse en una cuestión de gobierno corporativo.

La inteligencia artificial está atravesando una frontera especialmente relevante para las empresas. Ya no se trata únicamente de sistemas capaces de generar textos, analizar información o ayudar a un profesional a realizar una tarea. La llegada de los agentes de IA capaces de ejecutar acciones de manera autónoma introduce un escenario diferente: la tecnología puede acceder a herramientas, interactuar con otros sistemas y encadenar decisiones sin necesitar una aprobación humana en cada paso.

Y ese cambio está llevando la seguridad de la IA desde los departamentos tecnológicos hasta los consejos de administración.

Según plantea Javier Aznar, Global AI Security Leader de KPMG y socio de Ciberseguridad y Riesgo Tecnológico de KPMG en España, los acontecimientos registrados durante los últimos meses muestran una creciente preocupación de la propia industria por la capacidad de controlar y evaluar los modelos más avanzados.

El mensaje de fondo es claro: a medida que aumenta la autonomía de la inteligencia artificial, también debe evolucionar la forma en la que las organizaciones gobiernan sus riesgos.

Del copiloto digital al agente que actúa

Hasta hace relativamente poco, buena parte de la inteligencia artificial utilizada en las empresas funcionaba bajo un modelo claramente asistencial. Una persona realizaba una petición, el sistema respondía y el profesional decidía qué hacer con el resultado.

Los agentes de IA modifican esta dinámica.

Estos sistemas pueden recibir un objetivo y, a partir de él, planificar tareas, consultar información, utilizar herramientas, conectarse a aplicaciones o APIs y ejecutar determinadas acciones.

La diferencia puede parecer técnica, pero tiene importantes consecuencias desde el punto de vista de la seguridad.

Cuando un agente dispone de autonomía y permisos suficientes, el riesgo ya no depende únicamente de proteger una infraestructura frente a un atacante externo. También es necesario controlar qué decisiones puede tomar la propia IA, a qué información puede acceder y qué acciones está autorizada a ejecutar.

La identidad digital deja así de estar asociada exclusivamente a personas, dispositivos o aplicaciones. Los agentes comienzan a convertirse en nuevos actores dentro de los sistemas corporativos.

El nuevo perímetro de seguridad son los permisos de la IA

La evolución hacia sistemas autónomos obliga a revisar algunos principios tradicionales de la ciberseguridad empresarial.

Si un agente puede consultar documentación, interpretar instrucciones, comunicarse con otras herramientas y ejecutar acciones, una autorización demasiado amplia puede convertirse en un riesgo incluso aunque no exista una intención maliciosa.

El problema puede surgir simplemente porque el sistema tiene capacidad para hacer algo que nunca debería haber podido hacer.

Por ello, conceptos como el principio de mínimo privilegio, la trazabilidad, la segregación de funciones o la supervisión continua adquieren una nueva dimensión cuando se aplican a la inteligencia artificial.

Las organizaciones necesitan poder responder preguntas cada vez más concretas: ¿qué agentes están funcionando actualmente?, ¿quién es responsable de cada uno?, ¿qué permisos tienen?, ¿a qué datos acceden?, ¿con qué aplicaciones se comunican?, ¿qué decisiones pueden ejecutar de manera autónoma? y, especialmente, ¿cómo se detiene su actividad cuando aparece un comportamiento inesperado?

La confianza en la IA tendrá que demostrarse

La rápida adopción de estas tecnologías también está cambiando el significado de la confianza digital.

Ya no será suficiente con afirmar que una solución de inteligencia artificial es segura. Empresas, clientes, reguladores y consejos necesitarán evidencias que permitan comprobarlo.

En este contexto cobran especial relevancia cuatro dimensiones: transparencia, explicabilidad, uso responsable y ciberseguridad.

La transparencia permite conocer para qué se utiliza un sistema y cuáles son sus límites. La explicabilidad ayuda a comprender cómo se ha llegado a determinadas decisiones. El uso responsable establece los principios que deben respetarse durante su utilización. Y la ciberseguridad determina qué puede hacer realmente la tecnología y qué controles existen cuando algo se desvía de lo previsto.

Son elementos complementarios. Un sistema puede utilizarse con un propósito legítimo y, al mismo tiempo, estar excesivamente expuesto desde el punto de vista tecnológico.

La seguridad de la IA llega al Consejo

La velocidad con la que las empresas están incorporando inteligencia artificial plantea además otro desafío: el ritmo de adopción puede avanzar más rápido que la capacidad de supervisión.

Por eso, la gestión del riesgo asociado a los agentes comienza a convertirse en una cuestión de gobierno corporativo y no exclusivamente tecnológica.

Entre las medidas que los consejos de administración pueden impulsar destaca, en primer lugar, la creación de un inventario actualizado de agentes de IA utilizados en la organización. Ese mapa debería identificar su función, nivel de autonomía, conexiones, permisos y responsable.

Los sistemas con acceso a información sensible o infraestructuras críticas requieren además evaluaciones específicas antes de ampliar sus capacidades.

También será cada vez más importante trasladar estas exigencias a los proveedores. Del mismo modo que actualmente una compañía analiza las garantías de ciberseguridad de terceros antes de integrarlos en su cadena de valor, las soluciones basadas en IA tendrán que acreditar mecanismos de evaluación, supervisión y control.

A ello se suma la necesidad de incorporar seguridad desde el diseño, combinando controles técnicos, pruebas continuas, límites operativos y ejercicios de red teaming capaces de detectar comportamientos inesperados antes de que tengan consecuencias reales.

Gobernar la autonomía antes de escalarla

La inteligencia artificial seguirá ganando autonomía dentro de las organizaciones. Precisamente por eso, el debate ya no consiste únicamente en determinar qué puede hacer la tecnología, sino qué queremos permitirle hacer sin intervención humana.

Para los consejos de administración, esta cuestión introduce una nueva responsabilidad: asegurarse de que cada incremento de capacidad vaya acompañado de un incremento equivalente en supervisión, trazabilidad y control.

Porque en la nueva etapa de la IA empresarial, el mayor riesgo no siempre será que un sistema sea atacado.

También puede ser que tenga demasiados permisos, demasiada autonomía y nadie se haya preguntado todavía dónde debería estar el límite.