Los espejismos de la IA: Ferraris para caminos de tierra

Llevamos años contando la misma historia: la inteligencia artificial y los datos son el nuevo petróleo, el nuevo motor, la nueva electricidad. Y sin embargo, la mayoría de las organizaciones siguen atascadas en la misma rotonda: datos fragmentados, gobernanza inexistente, pilotos que nunca escalan y una brecha abismal entre las expectativas y la realidad operativa.

El problema no es tecnológico. Tenemos mejores, más baratos y accesibles. El problema es organizativo, cultural y de gobierno. Las empresas han comprado Ferraris (LLM, plataformas Cloud y data lakes) para circular por calles de tierra (datos sucios, sin dueño, sin calidad, sin trazabilidad). Y cuando el coche no funciona como debería, culpan al motor.

El espejismo de los datos: cantidad vs. Calidad

Tener datos no es tener activos de datos. La mayoría de las organizaciones acumulan data swamps donde no hay dueño, ni calidad, ni linaje y, por tanto, no hay confianza. Y sin un gobierno efectivo del dato, la IA generativa no democratiza el acceso al conocimiento: democratiza la alucinación a escala. Un agente que alucina sobre datos basura no democratiza nada, tan solo ahonda en el error.

Por otro lado, hay quien piensa que la IA generativa resuelve la calidad del dato, pero eso es falso. La IA generativa exige calidad a los datos. Un agente RAG sobre documentación obsoleta, sin dueño y sin versión certificada no «arregla» las cosas, amplifica el ruido. La calidad no se resuelve con prompt engineering; se resuelve con gobernanza, propiedad, contratos de datos y observabilidad. La IA generativa no es un sustituto del gobierno; es su examen de estrés más exigente.

El espejismo del AI-first

La adopción empresarial no es comprar licencias de Copilot ni desplegar un chatbot RAG sobre un SharePoint sin gobernar. La adopción es cambiar procesos, incentivos, roles y cultura. Es definir qué decisiones se delegan a un agente, con qué supervisión humana, qué trazabilidad exige el regulador y qué métricas de negocio validan el resultado. Sin eso, no hay adopción: hay shadow AI disfrazada de innovación.

La regulación (AI Act, DORA, NIS2, GDPR) no pide modelos perfectos; pide trazabilidad, gestión de riesgo, supervisión humana y evidencia documental. Eso no se compra; se diseña: catálogo de modelos, registro de riesgos, model cards, data contracts, observabilidad en producción, human-in-the-loop real, etc. El gobierno del dato y el gobierno de la IA son la misma disciplina. Quien los separe, falla en los dos.

Los retos: perfiles híbridos y ciberseguridad

De este modo, no hace falta más gente que ajuste parámetros de los modelos. Hacen falta profesionales que sepan traducir los problemas de negocio en casos de uso viables, que definan acuerdos sobre el uso y la calidad de los datos, que establezcan mecanismos de control y supervisión para los agentes de inteligencia artificial, y que hablen el lenguaje del riesgo y del regulador. Ese perfil, híbrido entre negocio, datos, gestión del riesgo y tecnología, es el que realmente escasea. Y no se forma en un bootcamp de seis semanas.

Por otro lado, nos encontramos con el reto de la ciberseguridad. La IA no es solo un punto de ataque; es superficie de ataque.

Prompt injection, model extraction, supply chain de modelos abiertos, adversarial exámenes en clasificadores de seguridad, etc. La IA generativa amplía la superficie de ataque y exige explicabilidad y gobernanza de modelos como parte la postura de seguridad.

Las organizaciones que escalen IA no serán las que tengan el modelo más grande, sino las que tengan datos con dueño, calidad certificada, contratos de datos vivos, gobernanza de modelos auditables y talento híbrido que hable negocio, riesgo y tecnología. Todo lo demás es comprar Ferraris para circular por calles de tierra.

Autor: Daniel Diaz, Head of Data & AI Practice en Sopra Steria