Europa y España lanzan estrategias para una IA ética y segura

El Consejo de Europa ha aprobado un marco regulatorio para la inteligencia artificial (IA) que entrará en vigor el 5 de septiembre. Con ello, la Unión Europea ha votado una Ley de Inteligencia Artificial y se han presentado tres textos cruciales en el ámbito de la gobernanza, estrategia y regulación de la IA y el dato.

Además, España ha lanzado una Estrategia Nacional de Inteligencia Artificial con inversiones por mil doscientos millones de euros y seis estrategias para su aplicación.

El Convenio Marco del Consejo de Europa sobre IA y Derechos Humanos, Democracia y Estado de Derecho establece objetivos para garantizar la coherencia con los derechos humanos y define la IA como un sistema basado en máquina. El Reglamento DAS-2, ya en vigor, busca reforzar la confianza en las transacciones electrónicas y dar a los ciudadanos europeos control sobre su identidad digital. El reto es gestionar los riesgos y asegurar que la IA no se convierta en un fin en sí misma, sino en un medio para el crecimiento real y humanístico.

Este compromiso aborda la definición y gestión de riesgos de los sistemas de inteligencia artificial de la siguiente manera:

Definición de IA:

El artículo segundo del convenio define un sistema de inteligencia artificial como un sistema basado en una máquina que, para alcanzar objetivos explícitos o implícitos, infiere, a partir de los datos que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que puedan influir en las condiciones físicas o entornos virtuales. Los diferentes sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad después del despliegue.

Gestión de riesgos:

El artículo 16.2 del convenio establece que las medidas de gestión de riesgos deben ser graduadas y diferenciadas según varios parámetros, incluyendo:

• El contexto y el uso previsto de los sistemas de inteligencia artificial.
• La gravedad y probabilidad de posibles impactos.
• Las perspectivas de las partes interesadas relevantes.
• La duración del ciclo de vida del sistema de inteligencia artificial.
• El monitoreo de riesgos e impactos adversos para los derechos humanos, la democracia y el estado de derecho.
• La documentación de los riesgos, los impactos reales y potenciales y el enfoque de gestión de riesgos. En resumen, el Convenio Marco proporciona una definición clara de los sistemas de inteligencia artificial y establece un enfoque detallado para la gestión de riesgos asociados con estos sistemas, con el objetivo de proteger los derechos humanos, la democracia y el estado de derecho.

Por otro lado, el plan de vuelo de España en inteligencia artificial se resume en las siguientes seis estrategias:

1. Impulsar la investigación científica, el desarrollo tecnológico y la innovación en IA.
2. Promover el desarrollo de capacidades digitales, potenciar el talento nacional y atraer talento global en inteligencia artificial.
3. Desarrollar plataformas de datos e infraestructuras tecnológicas que den soporte a la IA.
4. Integrar la IA en las cadenas de valor para transformar el tejido económico.
5. Potenciar el uso de la IA en la administración pública y en las misiones estratégicas nacionales.
6. Establecer un marco ético y normativo que refuerce la protección de los derechos individuales y colectivos, a efectos de garantizar la inclusión y el bienestar social.

Fuente: Pedro Fernández-Villamea Alemán