El pasado agosto entró en vigor el Reglamento Europeo de Inteligencia Artificial. Esta normativa, propuesta por la Comisión en abril de 2021 y aprobada por el Parlamento Europeo y el Consejo en diciembre de 2023, tiene como objetivo promover el desarrollo e implementación responsable de la IA, protegiendo la salud, la seguridad y los derechos fundamentales de los ciudadanos.

Desde la perspectiva de Bonitasoft, que desarrolla software para automatizar procesos empresariales, representa desafíos y oportunidades que pueden impactar el desarrollo de sus productos y servicios.

Estos son algunos de los elementos específicos que estamos considerando al respecto:

1. Transparencia y responsabilidad en la IA

El reglamento impone una serie de requisitos de transparencia que exigen que los sistemas de IA informen a los usuarios sobre su naturaleza. Por ejemplo, los chatbots deberán dejar claro que los usuarios están interactuando con una máquina. Nosotros, con el enfoque de código abierto y soluciones de automatización de procesos, ya operamos con un alto grado de transparencia, lo que nos otorga una ventaja en este nuevo entorno regulatorio. La capacidad para ofrecer soluciones auditables y explicables cumple con la normativa y refuerza la confianza de los clientes.

2. Adaptación a la clasificación de riesgos

El Reglamento clasifica los sistemas de IA en cuatro niveles de riesgo, desde mínimo hasta inadmisible. Las aplicaciones de bajo riesgo no tienen obligaciones regulatorias, pero las de alto riesgo, como en salud o contratación, deben cumplir con estrictos requisitos de supervisión y seguridad. Estamos evaluando en qué categoría se encuentran nuestros productos, especialmente aquellos que automatizan procesos críticos o manejan datos sensibles, y tomando las medidas adecuadas.

3. Innovación y competitividad

El reglamento ha sido diseñado para equilibrar la innovación con la seguridad, proporcionando un marco que permita el desarrollo ético de la IA sin comprometer los derechos fundamentales. Nosotros, como empresa con una cultura de innovación abierta, estamos bien posicionados para adaptarnos a las estas exigencias. Esto incluye la integración de herramientas de auditoría y gestión de riesgos en los sistemas para cumplir con los requisitos regulatorios.

Además, encontramos nuevas oportunidades al ofrecer servicios que ayudan a los clientes a cumplir con las normativas. En este sentido, la plataforma de automatización de procesos Bonita, está diseñada para integrar herramientas de auditoría y gestión de riesgos en los procesos empresariales corporativos y garantizar el cumplimiento de estos requisitos.

4. Impacto en la personalización de soluciones

Aunque el reglamento ha reducido la carga administrativa y financiera para muchas empresas, el cumplimiento en los desarrollos personalizados requerirá una mayor inversión de tiempo y recursos en la fase de diseño. Nosotros, que apoyamos el desarrollo de soluciones personalizadas guiaremos a los clientes en la implementación de sistemas conformes desde la fase de diseño hasta su despliegue.

Si bien esto podría alargar los ciclos de desarrollo, también representa una oportunidad para fortalecer las relaciones de confianza con socios y clientes, ofreciendo soluciones de IA que no solo optimicen sus procesos, sino que también garanticen un cumplimiento normativo riguroso.

5. Fomento de la IA ética y segura

El reglamento busca fomentar un ecosistema de IA seguro y ético. Nuestras soluciones de automatización mejoran la eficiencia empresarial y cumplen con altos estándares de ética y seguridad. Gracias al enfoque de código abierto, podemos controlar la implementación de los procesos automatizados, asegurando el cumplimiento de los requisitos de transparencia, supervisión y gestión de riesgos del reglamento.

Impacto en España

El Reglamento de IA tendrá un gran impacto en España, donde el 43% de las empresas ya utilizan IA, pero el 62% carece de políticas claras sobre su uso responsable. Establece un marco regulador que clasifica los sistemas según su riesgo, afectando sectores como banca, sanidad, educación y comercio electrónico. Esto representa un reto, pero también una oportunidad para posicionarnos como proveedores estratégicos, ayudando a las empresas a cumplir con los requisitos normativos, especialmente en sectores de alto riesgo.

En 12 meses, entrarán en vigor disposiciones para modelos de IA de uso general, lo que permitirá ofrecer soluciones seguras y conformes. Aunque los ajustes necesarios podrían generar costes adicionales, el fortalecimiento de la seguridad y transparencia atraerá inversiones y fomentará la innovación ética en IA, creando oportunidades para liderar en la creación de soluciones de automatización responsables.

Nicolas Chabanoles, CTO de Bonitasoft