Artículo de Mario Piattini: No puede haber gobierno de la IA sin un buen gobierno del dato

La Inteligencia Artificial (sobre todo el aprendizaje automático, el aprendizaje profundo y, en los últimos años, los agentes) se ha convertido en una de las tecnologías más potentes en la actualidad ya que permite incrementar la eficacia y la productividad de las organizaciones, revolucionando los procesos de negocio y la toma de decisiones prácticamente todos los sectores e industrias.

De hecho, los beneficios de los sistemas inteligentes son extraordinarios, pero incluso superiores pueden ser los riesgos que conllevan. Aunque toda nueva tecnología informática presenta riesgos, quizás la IA sea de las que más incrementa la magnitud de los riesgos, tanto negativos (por su impacto potencial a nivel organizacional y social) como positivos (por las magníficas oportunidades que ofrece para el soporte a las decisiones) y en todos los ámbitos: legal, ético y técnico. Hay que tener en cuenta además que los riesgos de la IA evolucionan más rápidamente que la mayoría de los demás riesgos tradicionales.

Por tanto, el esfuerzo por implantar y utilizar sistemas de IA debe llevar consigo la adoptación de un buen sistema de gobierno de la IA, que permita aprovechar los beneficios y gestionar los riesgos.  Evidentemente a medida que la IA se implanta a mayor escala en las organizaciones, el gobierno desempeña un papel clave en la supervisión adecuada de las iniciativas de IA y los sistemas relacionados.

Ahora bien, aunque existen varios marcos de gobierno de la IA y que se viene insistiendo en la necesidad de tener una “IA confiable” (“responsable”), que respete los aspectos legales y éticos, y que permita construir y explotar sistemas inteligentes robustos; entre el 60% y el 85% de los proyectos de Inteligencia Artificial fallan estrepitosamente. Y la gran parte de estos fallos se debe a datos de mala calidad, de hecho, el esfuerzo que se emplea en los sistemas de IA se dedica un 33% a la construcción de los modelos de IA y el 67% en la limpieza de datos. Por tanto, el verdadero freno de la IA se encuentra en los datos, su mala calidad, gestión y gobierno.

Por ello, es fundamental partir de un buen gobierno de datos para lograr un adecuado gobierno de la IA (lo que reconoce el propio Reglamento europeo de IA (AI Act) especialmente en su artículo 10). Pensamos que un excelente punto de partida puede ser implantar un sistema de gobierno siguiendo la guía que ofrece la especificación UNE 0077, y revisarlo por si fuera necesario ampliar su alcance para que contemple todos los datos utilizados por los sistemas de IA (de entrenamiento, prueba, operación, etc.).

Partiendo de esta base, habrá que crear un sistema de gobierno de la IA, definiendo una estrategia de la IA, completando las políticas, buenas prácticas y procedimientos del dato con los de la IA (p.ej. política de uso aceptable de la IA, política de ética, equidad y transparencia, de ciberseguridad, etc.). De manera análoga, además de las estructuras organizativas de los datos (CDO –Chief Data Officer-, oficina del dato, etc.) habrá que crear las específicas de la IA (Director de la IA (Chief AI Officer), comité de ética de la IA, etc.), y modificar las responsabilidades tanto del consejo de administración como del comité ejecutivo, así como las del CIO, CISO, CDO, DPO, etc. Para completar el sistema de gobierno, habría que abordar también la optimización de los riesgos y del valor de la IA.

En definitiva, si por un lado, el gobierno de la IA  con sus prácticas y actividades forman parte de un marco organizacional más amplio, por lo que hay que tener en cuenta las implicaciones en el gobierno organizacional o corporativo; por otro, el gobierno de la IA puede considerarse que es un superconjunto del gobierno del dato, por lo que es aconsejable integrar las prácticas de gobierno de la IA en los sistemas de gobierno de datos existentes.

La IA no es nueva, aunque la disponibilidad de algunas tecnologías como los LLMs es reciente), pero en cualquier caso se ve sometida al principio clásico de la informática “garbage in-garbage out”, por lo que sin un buen gobierno del dato, el gobierno de la IA está condenada al fracaso.

Mario Gerardo Piattini Velthuis

Socio-director de I2SC, S.L.

Catedrático de la Universidad de Castilla-La Mancha