Cuando la IA es a la vez, riesgo y solución

Supongamos que una organización descubre que su modelo de detección de fraude lleva semanas tomando decisiones alteradas. No hubo intrusión clásica. No hubo malware. Alguien había envenenado silenciosamente los datos de entrenamiento. El sistema funcionaba, los indicadores estaban en verde… pero el daño ya estaba hecho.

O supongamos que un sistema autónomo identifica el perímetro de una organización, encuentra varios vectores de entrada y genera el código de explotación, todo esto, en 10 minutos. Ningún equipo humano, por bien dimensionado que esté, puede responder a ese ritmo. Ese es el cambio de paradigma, no hablamos de más ciberataques, sino de otra velocidad, otro tipo de superficie y otra lógica de riesgo.

Son dos supuestos totalmente plausibles, que evidencian que estamos entrando en una etapa en la que la IA ya no es solo una herramienta que las organizaciones adoptan: es parte de su infraestructura crítica, de su cadena de decisión y, cada vez más, de su perímetro de seguridad. Porque la IA es, simultáneamente, la superficie de ataque más nueva y una de las pocas herramientas capaces de defendernos en ese mismo escenario.

Gestionar esa dualidad es, probablemente, el principal reto estratégico de los próximos años. Y la mayoría de las organizaciones tienen deberes.

El perímetro ya no son solo sistemas y usuarios. Son también modelos, datos de entrenamiento, identidades y una cadena de suministro de IA que pocas organizaciones tienen realmente mapeada: proveedores de modelos base, APIs externas, librerías de terceros, datasets licenciados. Cada eslabón es una superficie de exposición. Y a diferencia del software tradicional, un componente comprometido en esa cadena puede derivar en un riesgo exponencial.

Os comparto tres ejemplos concretos de riesgos que merecen atención, precisamente porque son menos visibles que los ataques tradicionales:

El primero es la manipulación de modelos en producción. No hace falta comprometer el modelo en origen: basta con alterar los datos que lo alimentan de forma continuada. La detección es difícil porque el sistema técnicamente “funciona”.

El segundo son las fugas de información a través de los propios modelos. Un modelo entrenado con datos sensibles puede revelarlos de formas no obvias ante consultas aparentemente inocuas. No es una vulnerabilidad técnica clásica, es una propiedad del modelo que los controles tradicionales no están diseñados para detectar.

El tercero es el uso de IA para automatizar ataques. Modelos capaces de identificar superficies de exposición, iterar vectores y generar exploits reducen drásticamente la barrera de entrada y el tiempo de ataque.

Y también, os traslado tres preguntas que un comité de dirección debería hacerse hoy y que si no tienen respuesta, pueden indicar por dónde va el problema:

¿Qué decisiones críticas de negocio estamos delegando ya en sistemas de IA y quién asume la responsabilidad si fallan?

¿Estamos gestionando la cadena de suministro de IA (modelos, datos, proveedores) con el mismo nivel de exigencia que otros riesgos estratégicos?

¿Nuestra capacidad de defensa está evolucionando al mismo ritmo que los riesgos basados en IA, o seguimos operando con controles diseñados para otro contexto?

La estrategia correcta no es frenar la adopción de IA por miedo, ni acelerar sin controles por presión competitiva. Es construir la capacidad de innovar y defenderse al mismo tiempo, de manera estratégica y con inteligencia, también humana.

Eso requiere elevar el tema donde corresponde: no como un riesgo tecnológico más en el registro, sino como una decisión de negocio con consecuencias organizacionales.

La pregunta no es si vuestra organización usa IA. La pregunta es si sabéis lo que vuestra IA está haciendo mientras leéis esta columna.

Javier Aznar

Socio Ciberseguridad y Riesgo Tecnológico & Global AI Security Lead de KPMG