NacionesUnidas

Rincón del CISO

Entrevista a Linghan Zhang: «Nuestro trabajo se centra en alinear la gobernanza de la IA con los derechos humanos y los Objetivos de Desarrollo Sostenible».

Sonia Pulgarín, Directora de CyberLideria MGZN entrevista a Linghan Zhang, Miembro del Órgano Asesor de Alto Nivel de las Naciones Unidas sobre IA. Sonia Pulgarín: Hola Linghan, bienvenida. Para empezar, diremos que además de Miembro de las Naciones Unidas como Consejera de IA eres Co-Leader del Grupo de Trabajo en la Alianza Industrial de China University of Political Science and Law, ¡casi nada! ¿Puedes describir tu función y responsabilidades como miembro del Órgano Asesor de Alto Nivel de las Naciones Unidas sobre IA? Linghan Zhang: El Secretario General convoca el Órgano Asesor de Alto Nivel de las Naciones Unidas sobre IA para realizar análisis y promover recomendaciones para la gobernanza de la IA coordinada a nivel mundial. Como miembro de este organismo, mis responsabilidades principales implican contribuir a la gobernanza internacional de la IA colaborando con otros expertos globales de diversas disciplinas para proporcionar análisis integrales y desarrollar recomendaciones que aprovechen la IA en beneficio de la humanidad y al mismo tiempo mitiguen los riesgos y las incertidumbres.Nuestro trabajo se centra en alinear la gobernanza de la IA con los derechos humanos y los Objetivos de Desarrollo Sostenible. Nos involucramos con diversas partes interesadas, incluidos gobiernos, el sector privado y la sociedad civil, para garantizar un enfoque de múltiples partes interesadas. Esto implica amplias consultas con iniciativas de IA existentes y emergentes y organizaciones internacionales para unir diferentes perspectivas y crear un marco de gobernanza cohesivo. Al fomentar la cooperación entre las partes interesadas, pretendemos abordar los desafíos que plantean los rápidos avances tecnológicos en IA, contribuyendo a una mejor gobernanza y garantizando que las tecnologías de IA se desarrollen y utilicen de manera responsable para el bien común. S.P.: ¿Cómo podemos garantizar que el desarrollo y la implementación de la IA se alineen con los derechos humanos y los principios éticos fundamentales? L.Z.: Alinear el desarrollo y la implementación de la IA con los derechos humanos y los principios éticos fundamentales es crucial, especialmente teniendo en cuenta los importantes desafíos que la IA ha planteado en estas áreas. Tanto las Naciones Unidas como varios gobiernos nacionales enfatizan la importancia de estos marcos en la gobernanza de la IA, pero la cuestión crucial es cómo implementar efectivamente estos principios a través de la regulación. Actualmente, la gobernanza de la IA aún se encuentra en sus etapas incipientes. Los reguladores de todo el mundo están explorando la mejor manera de alinear las prácticas de IA con los derechos humanos y los estándares éticos. Las estrategias regulatorias comunes incluyen registro, piloto de sandbox y auditorías de IA. Estos métodos tienen como objetivo monitorizar y mitigar de manera efectiva los riesgos potenciales asociados con las tecnologías de IA. A medida que la IA continúa evolucionando rápidamente, existe una necesidad apremiante de realizar la transición de modelos de gobernanza tradicionales a otros más ágiles. Este cambio implicaría el establecimiento de sistemas dinámicos de seguimiento y la alerta temprana para que puedan identificar y responder rápidamente a posibles problemas. La gobernanza ágil, caracterizada por su adaptabilidad y capacidad de respuesta, es esencial para seguir el ritmo del rápido desarrollo de la IA y garantizar que su implementación siga alineada con los derechos humanos y los principios éticos fundamentales. S.P.: ¿Puedes compartir alguna experiencia o nombrar a algún mentor influyente que haya modelado tu trayectoria profesional? L.A.: Servir como miembro del Órgano Asesor de Alto Nivel de las Naciones Unidas sobre IA ha tenido un profundo impacto en mi carrera, particularmente al ampliar mi perspectiva sobre la gobernanza internacional de la IA y su interacción con las agendas de desarrollo sostenible. Este puesto me ha expuesto a diversos puntos de vista globales y desafíos complejos asociados con el gobierno de tecnologías emergentes en diferentes culturas y marcos legales. Además, colaborar con otros expertos en el campo ha enriquecido mi conocimiento y mi red profesional, brindándome una plataforma única para influir en las políticas globales y participar en debates fundamentales que dan forma al futuro de la gobernanza de la IA. Me alegra tener esta oportunidad de contribuir a iniciativas que alinean el desarrollo de la IA con la agenda de Desarrollo Sostenible de las Naciones Unidas. S.P.: ¿Qué consejo darías a los jóvenes juristas y profesionales interesados en especializarse en IA y en derecho? L.Z.: Me gustaría sugerirles que se mantengan al día con los avances tecnológicos y participen en el diálogo internacional. La IA es un campo que evoluciona rápidamente y siguen surgiendo nuevas tecnologías, metodologías y desafíos legales que transforman el panorama en el que opera la IA. Mantenerse informado sobre los avances tecnológicos es crucial para discutir una gestión y regulación efectivas. Por lo tanto, incluso como académico de derecho, es necesario conocer la vanguardia de los desarrollos tecnológicos. Además, la gobernanza de la IA es un problema global y comprender las políticas de los diferentes territorios es importante para la investigación. Participar en foros internacionales y colaborar con investigadores y profesionales de diferentes países ayuda a ampliar las perspectivas de los jóvenes académicos y les hace comprender cómo los diversos marcos legales interactúan con las políticas globales de IA. Por lo tanto, sugiero que los jóvenes académicos asistan a conferencias internacionales, participen en talleres y escuchen las ideas de diversas comunidades. S.P.: En tu opinión, ¿cuál será el impacto más significativo de la IA en la sociedad en los próximos 20 años y cómo podemos prepararnos para ello? L.Z.: El impacto más significativo de la IA en la sociedad en los próximos 20 años probablemente girará en torno a cómo gestionamos la relación entre la IA y los humanos. Desde una perspectiva centrada en el ser humano, esperamos que la IA sirva como herramienta para mejorar la eficiencia, impulsar el desarrollo social y mejorar el bienestar a nivel mundial. Sin embargo, el rápido avance de la IA también puede profundizar las divisiones sociales existentes, ampliando la brecha de desarrollo entre las naciones y potencialmente concentrando riqueza y recursos, planteando así riesgos de desplazamiento de empleos y una mayor marginación de los grupos minoritarios. Abordar la redistribución de los recursos y la riqueza será un desafío considerable. El desarrollo futuro de la IA plantea una gran incertidumbre y la mejor preparación que podemos hacer ahora es familiarizarnos y aprender habilidades relevantes para la IA. Los gobiernos deberían brindar apoyo político para dotar a las personas, especialmente a aquellas en riesgo, de las herramientas necesarias para adaptarse a estos cambios.

27 Junio 2024

ESG

70 empresas y organizaciones impulsan el Manifiesto por una inteligencia artificial responsable y sostenible

El Manifiesto promueve cinco principios para una gobernanza de la IA ética, inclusiva y transparente, que respete los derechos humanos y contribuya a la consecución de los compromisos frente al clima y la recuperación de la naturaleza. Forética presenta el Manifiesto por una inteligencia artificial responsable y sostenible, con el objetivo de guiar a las empresas y organizaciones para que lideren el camino hacia un futuro donde la Inteligencia Artificial (IA) sea generadora de impacto positivo en el planeta, las personas y la sociedad. Forética propone cinco principios, desarrollados en diecisiete especificaciones concretas, que las empresas y organizaciones deben considerar como guía en su camino hacia una Inteligencia Artificial responsable y sostenible: (1) alinear el desarrollo y/o uso de productos de IA con la consecución de los objetivos de cero emisiones netas de gases de efecto invernadero (GEI), (2) acompasar el desarrollo y/o uso de productos de IA con los objetivos de recuperación de la naturaleza, (3) promover que el desarrollo y/o uso de productos de IA sea ético, transparente, confiable, seguro y respetuoso con los Principios Rectores de las Naciones Unidas sobre Empresas y Derechos Humanos, (4) integrar en el desarrollo y/o uso de productos de IA la contribución a la inclusión, la igualdad, la diversidad y la eliminación de cualquier forma de discriminación y (5) operar y usar productos de IA de acuerdo con principios de buen gobierno y conscientes de las responsabilidades que conlleva. El Manifiesto es fruto de una amplia reflexión que parte del Consejo Empresarial Español para el Desarrollo Sostenible, compuesto por presidentes y CEO de grandes empresas españolas, que en su reunión ejecutiva anual el pasado mes de febrero presentó una declaración proponiendo unos principios de IA responsable. Estos principios fueron ratificados por la Junta Directiva de Forética, y se desarrollaron y complementaron incorporando tanto los aspectos destacados por expertos en la materia, recogidos en la plataforma ‘AI on ESG’, como con la colaboración de directivos de IA responsable y de sostenibilidad empresarial, así como el apoyo de un equipo técnico de Accenture para asegurar la compatibilidad de los mismos tanto con los estándares internacionales más exigentes como con la Ley de Inteligencia Artificial europea. El Manifiesto ha sido presentado hoy al ministro para la Transformación Digital y de la Función Pública, José Luis Escrivá, y la secretaria de Estado de Digitalización e Inteligencia Artificial, Mayte Ledo. En representación de las empresas y organizaciones adheridas al manifiesto, han asistido Alberto Granados, presidente de Forética, Mercedes Oblanca, miembro del Consejo Empresarial Español para el Desarrollo Sostenible liderado por Forética donde ha impulsado la iniciativa de IA responsable, Ignasi Belda, director general de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), y Ana Herrero, directora de Transformación Sostenible de Forética. Este documento surge con la vocación de ser un elemento de sensibilización e inspiración que inste a empresas y organizaciones al desarrollo y mejora continua de políticas corporativas que permitan respaldar los principios de IA responsable y sostenible y transformarlos en acción, yendo más allá de lo requerido por la ley. En este sentido, se trata del primer Manifiesto sobre IA centrado en una visión integral de los aspectos ambientales, sociales y de gobernanza en Europa. Un total de 70 empresas y organizaciones han confirmado su apoyo al Manifiesto, reafirmando su compromiso con una Inteligencia Artificial que sea respetuosa con las personas, la sociedad y el planeta y que esté bien gobernada: Accenture, Acción contra el Hambre, ADAMS Formación, Adif, Airbus, Antolín, AstraZeneca, Atresmedia, Grupo Cooperativo Cajamar, Bankinter, BERGNER, BMW, Brico Depôt, Capital Energy, Cecabank, CELSA Group, CEMEX, Cepsa, Cesce, Chiesi, Coca-Cola Europacific Partners, Ecoembes, Enagás, Endesa, ENGIE, Enusa, Eulen, Exolum, FEIQUE, Ferrovial, Fundación ONCE, Galletas Gullón, Gómez-Acebo y Pombo, GoSupply, Grupo Asisa, Grupo ILUNION, Grupo Oesía, Grupo SEPI, GSK, Holcim, Iberdrola, IBM, Indra, Informa D&B, Instituto de Crédito Oficial (ICO), ISS, KPMG, Lactalis, Lilly, L'Oréal, Mahou San Miguel, ManpowerGroup, Metrovacesa, Microsoft, Mutualidad, NTT Data, PEFC España, PRISA, Prosegur, Repsol, SAP, SEO/BirdLife, Servimedia, Smurfit Kappa, Solunion, Solvay, Técnicas Reunidas, Transcendent, Vodafone y Workiva. Como siguientes pasos, Forética promocionará la extensión del apoyo a dichos principios empezando, en primer lugar, por sus más de 200 empresas y organizaciones socias. Además, pondrá en marcha una comunidad de práctica para la revisión y actualización periódica del Manifiesto. El Manifiesto será presentado el 26 de junio en el European Sustainable Industry Summit 2024 organizado por CSR Europe, en la sesión bajo el título ‘BUSINESS CASE: A Manifesto for Responsible and Sustainable AI’.

20 Junio 2024