El 12 de julio de 2024, ha sido publicado en el Diario Oficial de la Unión Europea (DOUE) el Reglamento de Inteligencia Artificial de la Unión Europea (RIA), y entrará en vigor el 1 de agosto.

Este marco regulador es la primera iniciativa regulatoria integral a nivel mundial en establecer directrices y normativas específicas para el desarrollo, despliegue y uso de la IA, y representa un hito significativo en la legislación tecnológica. El reglamento busca asegurar que la IA se desarrolle y utilice de manera ética y segura, minimizando los riesgos asociados y promoviendo la innovación responsable.

Objetivos del Reglamento

El principal objetivo del Reglamento de IA es garantizar la seguridad y los derechos fundamentales de los ciudadanos de la UE frente a los riesgos potenciales de la IA. Para lograrlo, se establecen una serie de requisitos y obligaciones tanto para los desarrolladores como para los usuarios de sistemas de IA. Estos requisitos se estructuran en función del nivel de riesgo que representan las aplicaciones de IA, categorizándolas en cuatro niveles: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo.

Riesgo Inaceptable

El reglamento prohíbe ciertos usos de la IA considerados inaceptables debido a su potencial para causar daños significativos. Entre estos usos se incluyen:

• Sistemas de IA que manipulen comportamientos humanos: Por ejemplo, aquellos que utilizan técnicas subliminales para influir en personas de manera que las hagan actuar contra sus intereses.
• Puntuaciones sociales: La utilización de IA por parte de las autoridades públicas para puntuar a los ciudadanos basándose en su comportamiento social.
• Reconocimiento facial en tiempo real en espacios públicos: Con excepciones muy limitadas, como la búsqueda de un sospechoso de un crimen grave.

Riesgo Alto

Los sistemas de IA considerados de alto riesgo están sujetos a estrictos requisitos debido a su potencial impacto en la seguridad o los derechos fundamentales. Las áreas cubiertas por esta categoría incluyen:

• Infraestructura crítica: Como la energía y el transporte, donde fallos en los sistemas de IA podrían poner en riesgo la vida o la salud.
• Educación y formación profesional: Sistemas que determinan el acceso a la educación o la carrera profesional de una persona.
• Empleo y gestión de trabajadores: IA utilizada en procesos de contratación, evaluación de desempeño y terminación de contratos.
• Servicios esenciales: Como la banca y los servicios públicos, donde errores en los sistemas de IA podrían afectar significativamente a los ciudadanos.

Obligaciones para Sistemas de Alto Riesgo

Para los desarrolladores y usuarios de sistemas de IA de alto riesgo, el reglamento impone varias obligaciones:

• Gestión de riesgos: Implementar un sistema de gestión de riesgos para identificar, analizar y mitigar los riesgos potenciales.
• Documentación técnica: Mantener una documentación técnica detallada que permita evaluar la conformidad del sistema de IA con los requisitos del reglamento.
• Transparencia y provisión de información: Proveer información clara y comprensible sobre el funcionamiento del sistema de IA y sus limitaciones.
• Supervisión humana: Asegurar que los sistemas de IA de alto riesgo estén sujetos a supervisión humana adecuada para prevenir y mitigar riesgos.
• Registro y trazabilidad: Mantener registros de las operaciones del sistema de IA para garantizar la trazabilidad de sus decisiones.

Riesgo Limitado

Para los sistemas de IA considerados de riesgo limitado, el reglamento establece menos obligaciones, pero aun así requiere ciertas medidas para garantizar la transparencia y la responsabilidad. Los usuarios de estos sistemas deben:

• Proveer notificaciones: Informar a los usuarios cuando están interactuando con un sistema de IA, a menos que sea evidente por el contexto.
• Permitir la supervisión humana: Asegurar que existan mecanismos para la correcta supervisión humana cuando sea necesario (por ejemplo profesiones colegiadas como Abogados, Médicos, Arquitectos, Ingenieros, etc)

Riesgo Mínimo

El hecho de que el RIA no establezca obligaciones específicas para las aplicaciones de IA que no estén incluidas dentro de las categorías anteriores, no implica que no de deban atender y gestionar los riesgos legales derivados del uso de la IA que puedan implicar ilícitos en materias relacionadas con Propiedad Intelectual, Protección de Datos, Confidencialidad, Secreto empresarial, Ciberseguridad, Defensa de Consumidores y Usuarios, Derecho Laboral, Derecho Civil, Derecho Penal etc.

Plazos

El RIA entrará en vigor el 1 de agosto. A partir de esa fecha será plenamente aplicable 24 meses después, excepto: prohibiciones de prácticas prohibidas (6 meses después) códigos de práctica (9 meses después) normas de IA de uso general, incluida la gobernanza (12 meses después) y obligaciones para sistemas de alto riesgo (36 meses).

Se puede acceder al reglamento a través de este link: https://www.boe.es/doue/2024/1689/L00001-00144.pdf