Opinión
Hace exactamente 40 años, un escritor y director novel, un tal James Cameron, filmó una película futurista en el que un robot que se asemejaba a un ser humano, interpretado también por un actor poco conocido, viajaba al pasado con la misión de eliminar a una persona, supuestamente anodina pero que estaba destinada a convertirse en la madre del líder de la resistencia contra las máquinas en un futuro distópico. Era una IA (Inteligencia Artificial) super avanzada la líder de esas máquinas que habían prácticamente diezmado a la población mundial y buscaba aniquilar toda posible resistencia eliminando el foco de la misma. Esta película de 1984, llamada “Terminator”, dirigida por James Cameron e interpretada por Linda Hamilton y Arnold Schwarzenegger, planteaba uno de los planteamientos de la ciencia ficción clásica en el que una inteligencia artificial al tomar conciencia de sí misma inmediatamente identifica al ser humano como enemigo y busca eliminarlo de la faz de la tierra, como el homo sapiens hizo con el Neanderthal en su momento, asegurándose la preeminencia de la especie. La ciencia ficción presenta a veces ciertos paradigmas y premisas, que, aún basados en la fantasía, tienen su raíz en la ciencia, incluso grandes divulgadores científicos como Isaac Asimov han recurrido a la ciencia ficción para dar rienda suelta a la imaginación y plantear teorías que aún no pueden ser demostradas, pero que no por ello puedan dejar de ser menos ciertas o reales. Alguien dijo que la magia, es sólo tecnología que aún no conocemos. En este mundo cambiante, frenético y voraz, que genera tecnología a pasos agigantados, estamos empezando a vivir una época dorada de la tecnología en el que la IA es sólo la punta del iceberg, una tecnología que nos va a permitir crear y perfeccionar más tecnología y romper ciertas barreras que hasta hace relativamente poco pensábamos que no podrían romperse nunca. Por ello estamos en un momento crucial en el que todos aquellos que estamos relacionados con el mundo de la tecnología debemos parar a respirar y pensar como queremos convivir con estas nuevas si serán herramientas al servicio de la humanidad o por el contrario seremos esclavos de la raza robot siendo perseguidos hasta ser aniquilados. La ética es el arma de la humanidad para ganar esta batalla. Todos los profesionales relacionados con la tecnología debemos intentar aplicar los más altos estándares de ética en el diseño, desarrollo y despliegue de estas herramientas en nuestros entornos laborales y personales, buscando proteger en todo momento la información, aquello que tiene el valor, ya sea personal o perteneciente a nuestras organizaciones. A medida que la Inteligencia Artificial (IA) avanza rápidamente y se integra en diversos dominios, la ciberseguridad emerge como un campo crítico que lidia tanto con los beneficios como con los riesgos de las tecnologías de IA. Debemos explorar las dimensiones multifacéticas de los ciberataques impulsados por la IA y ofrecer información sobre sus implicaciones, estrategias de mitigación, motivaciones subyacentes y profundos impactos sociales. La investigación debería centrarse en desarrollar un marco de gobierno que incluya las distintas dimensiones de Ciberseguridad para la IA que contenga un esquema integral y multidimensional diseñado para guiar a académicos, formuladores de políticas y profesionales de la industria en la comprensión y la lucha contra los desafíos cambiantes que plantean las ciber amenazas impulsadas por la IA. A su vez, la situación actual revela la compleja dinámica de la IA ofensiva, destacando la necesidad de defensas adaptativas contra las amenazas adversas de la IA y exige medidas proactivas para abordar sus posibles ramificaciones a la vez de las consideraciones éticas. Se necesita con urgencia disponer de enfoques interdisciplinarios para salvar el abismo entre tecnología y humanidad que tradicionalmente se observa en los debates sobre ciberseguridad y un marco de gobierno adecuado e integrado para la comprensión holística y las intervenciones prácticas en el panorama de la ciberseguridad infundido por la IA. Protejamos a la madre de la resistencia… Jesús Mérida CISO Iberia
15 Julio 2024
Sin categoría
Una escena se repite: en una reunión de amigos, un encuentro informal o una comida de trabajo, de repente, alguien muestra una oposición feroz a la IA y alguien responde en un tono tecno-optimista. Del mismo modo que ocurre con otros temas claves de esta época, ambos discursos se han vuelto arquetípicos. Todos, en distintos momentos, hemos podido usar uno o varios de estos discursos tópicos. En este reportaje para Cyberlidera Mgzn, diferentes expertos nos hablan sobre el doble filo de la IA, pero usando argumentos no excluyentes para elaborar una perspectiva más completa y sistémica sobre oportunidades y riesgos. Carlos Garriga, sobre el futurible: CIO Transformacional, profesor de IE University Para el experto Carlos Garriga, “normalmente los perfiles técnicos están más centrados en las posibilidades, en lo que se puede hacer y en buscar soluciones a los problemas”. En paralelo, “otras personas están mostrando dudas, preguntas, consideraciones éticas y preocupación sobre sesgos e impactos. Muchos estamos interesados en la regulación. Creo que se trata de un momento tan disruptivo y las cosas están cambiando a tal velocidad que a todos nos falta perspectiva, y tenemos que tener cuidado al trazar la curva, para no salir despedidos, como el skynet de Terminator”. En palabras del experto, los discursos sólo catastrofistas no movilizan, sino que provocan ansiedad, y los demasiado tecnológicos necesitan un contrapeso precisamente ahora que el futuro es posibilidad. “A qué revolución se va a parecer esta, aún no lo sabemos”, continúa. “Por proximidad, quizás a la llegada de la informática básica, que nos ayudó a automatizar tareas repetitivas, de poco valor añadido. Hace pocos años, la contabilidad se llevaba en libros con lápices y plumas enormes, que se ven en los museos. Cuando llegaron las hojas de cálculo y el software, porque fue así empezó la informática, al principio se llevaron contabilidades en paralelo, pero pronto todo cambió. El cambio actual tiene esa componente de ‘inteligencia’ que le da otro aspecto, y debe servir para poner aún más el foco en aquello que nos hace a los seres humanos diferentes”. “Lo cierto es que ese futuro dependerá también de nuestra posición”, señala Garriga. “En muchas industrias se dice la misma frase: ‘me encantaría tener más tiempo para dedicar a mi equipo y a mis clientes, a las interacciones de calidad. Quizás sea el momento de sacar ese tiempo, eliminando tareas como resumir documentos complejos, escribir correos en otros idiomas o en reuniones nada productivas, tarde o temprano las empresas tendrán que decidir si llevar esa productividad al margen o empezar a competir en aspectos más humanos”. “Lo artificial tiene el potencial de hacer las empresas más humanas”, Carlos Garriga “La IA puede venir precisamente a recuperar lo que perdimos al llegar la automatización y la informática. Pongamos un caso concreto”, propone el experto, “la industria sanitaria. En cada encuentro de diagnóstico muchas veces el médico especialista tiene que realizar tediosas tareas con el ordenador, rellenar formularios y accesos que se podrán automatizar perfectamente para que pudiera centrarse en aspectos más humanos. La IA podrá recoger la información con un micrófono o una cámara, incluirla en tu registro médico enriquecido, mostrarle al médico datos relevantes, patrones, sugerencias de diagnóstico… por eso pienso que lo artificial hará ciertas interacciones más humanas”. ¿Una nueva edad de trato más humano en ciertos sectores? Para Garriga, “en educación, también nos interesa un trato más cercano, humano, a otra escala. Ahora pasamos horas y horas en campus virtuales, rellenando encuestas de satisfacción, ¿podría la automatización de la IA devolver el foco a lo humano más íntimo y humano? La demo de ChatGPT reciente mostraba cómo ayudar a resolver una ecuación. ¿Será mejor que el profesorado tenga como labor orientar, evaluar, ayudar, intuir lo que encaja con las habilidades de cada estudiante? La ciencia ficción en muchas maneras nos puede inspirar: ahí está La fundación de Isaac Asimov, que describe sociedades en las que las máquinas cultivan”. “¿Por qué se diferencian las empresas?”, cuestiona. “El ejemplo paradigmático más reciente es el de Apple: el salto cualitativo en su propuesta es la calidad del producto, pero también la atención en sus tiendas, el modo de ofrecerlo, y muchas personas están interesadas en ese carácter premium. La informática aún está en la Edad de Piedra. Los programadores son como los orfebres del siglo XXI, y esto va a cambiar, porque esas tareas se automatizarán. De nuevo, la IA nos permitirá que el tiempo dedicado a esas tareas, ahora sirva para relacionarse: esto tendrá consecuencias sociales de mucho más calado, no necesariamente negativas”. Para él, “un cambio lento, y más profundo de lo que se anticipa se avecina. Hay que evitar que los conflictos lleguen a mayores: sin castigar injustamente a la tecnología, sino con el objetivo de ser más humanos, gracias a la IA. Quizás mi asistente virtual hablará con otro asistente para un tema de facturación pendiente. Ciertas tareas no necesitarán la intermediación de personas, en realidad malgastar en trato humano ese margen ocioso. Pero siempre humanizando la tecnología, dando la vuelta a ese concepto. ¿Podrá la automatización volver a ayudar a una persona de más edad a operar con su banco, el trato al cliente, podrá ser más humano”. “Un sesgo no tiene por qué ser siempre estructuralmente negativo: quizás la IA no tenga que huir de todos los sesgos, sino adoptar los más útiles”, Carlos Garriga En relación a los sesgos, explica que “un problema de la implantación. Al tratar de modelos con un entrenamiento supervisados por personas, cuenta un sesgo. Hay multitud de artículos sobre ello, porque esta tecnología se ha generado en la Bahía de San Francisco. Una vez identificados, ya existen maneras de corregirlos”. Para él, los sesgos pueden no ser siempre negativos. “¿Qué significa que una persona nos atienda mejor? Quizás estemos hablando de una colección de sesgos. Un sesgo no tiene por qué ser siempre estructuralmente negativo. Algunos sí que son de discriminación, y esto está legislado, se han detectado problemas y con gran agilidad todas las grandes tecnológicas lo están trabajando muy activamente. ¿Qué es lo que hace que personas de una misma cultura se entiendan mejor?”. “A corto plazo, tenemos que poner más foco en la verdadera innovación”, Carlos Garriga En el curso 2024-25, explica, vamos a ver una ‘early adoption’: “en el corto plazo vamos a tener que gestionar mucha frustración porque hemos echado rienda suelta a la imaginación, ¡para el asistente de las películas queda mucho! Tras esa primera fase de frustración, veo un claro avance al eliminar las tareas repetitivas, vamos a reinventar la forma en la que hacemos las cosas”. “En la producción artística existe una idiosincrasia. Sin duda, mucha de la música que escuchamos en la radio está basada en matemáticas, ritmos y algoritmos. Un Picasso o Dalí que rompieron con lo establecido y crearon un canon hay pocos. En el placer de escuchar música en directo, por ejemplo, la voz de una persona genera un impacto emocional cuando se detecta un cambio en el timbre de la voz en un momento dado, eso lo hace natural. La actual de la IA es una falsa creatividad, porque los LLM son imitativos y dan como solución la que creen más probable. El impresionismo no se le habría ocurrido jamás a una inteligencia artificial como mejor solución, ni el arte abstracto. Lo realmente nuevo se consideraría usando este lenguaje como una alucinación: hasta que se empiece a dar contexto a las alucinaciones, estas ideas fuera de la caja, como inventar un estilo musical, no son el territorio de estas nuevas inteligencias. Nos falta mucha perspectiva”. “La creatividad automatizada probablemente incluirá errores en el algoritmo para hacer el resultado más humano, para adaptarlo a nuestro gusto”, Carlos Garriga ¿Serán los nuevos artistas los grandes programadores? “No lo sé” (sonríe), responde el experto. “Más bien, yo preguntaría ¿seguirá habiendo programación, tal como la conocemos? Posiblemente la construcción de sí mismas, esa parte productiva, pasará a ser labor de las propias máquinas, el software sin fallo y la parte humana estará más en la creación de los nuevos algoritmos y en la mejora de las formas de hacer las cosas”. La visión del sector público: Esther Mateo, Directora General de Seguridad, Procesos y Sistemas Corporativos en ADIF “Como cualquier avance tecnológico, la IA generativa trae asociados riesgos y ventajas que es necesario gestionar, para ello es necesario tener información cualificada”, explica a CyberLideria MGZN la ingeniera industrial Esther Mateo, Directora General de Seguridad, Procesos y Sistemas Corporativos de ADIF. “Es fundamental no perder el espíritu crítico sobre lo que leemos. Hay demasiadas opiniones iguales basadas en expresiones similares, que son frases hechas, ya sean optimistas o pesimistas, en las que el criterio está copiado y es superficial”. Para ella, la clave está en “adoptar una actitud proactiva y crítica, constamente informada, en la que se apueste por aquellos casos de uso que aporten valor a la comunidad y no incrementen los riesgos o que estos sean asumibles”. Se trataría, por tanto, de “promover la protección de datos y la defensa de la ética en primer lugar, puesto que el aparente beneficio que aporte el caso de uso, nunca puede estar justificado si se vulnera la protección de datos o no se protege la ética, la transparencia o la equidad”. ¿Cómo salir del pensamiento dicotómico en la conversación sobre la IA? Para la directiva, está claro, “no podemos no asumir la IA, pero tampoco tendría sentido un despliegue masivo sin analizar cómo se va a implantar en diferentes casos de uso: tiene que crear valor, es decir, tiene que existir una ventaja y no afectar al resto de procesos, en esto estamos de acuerdo muchas empresas, en ser prudentes. Es necesario un estado de ánimo de ilusión comedida, basado en casos concretos de uso. No, de hecho una de las conclusiones recientes de los estudios de Gartner es que no todos los entornos están preparados”. “Es más lógico un estado de ánimo de ilusión comedida, basado en casos concretos de uso” ¿Dónde aportará la IA más valor? “Para que tenga aplicación auténtica, la documentación y los datos tienen que estar gobernados, por lo tanto, las organizaciones que necesitan pasar por un proceso de gobernar el dato deben comenzar por ahí: si no, no puedes implantar la IA. ¿En qué entornos funcionará muy bien? En términos jurídicos, por ejemplo, porque la legislación está curada y es estable en su mayor medida. Ahí se ven claramente las mejoras de tiempo, la automatización aporta especialmente. En un ámbito operacional no siempre será útil”. Para ella, es importante, en orden, “primero, una capa de revisión de la automatización de procesos, de aquellas actividades que aportan menos valor; segundo, una capa de gobierno del dato; tercero, una capa de IA tal como la conocíamos; y por último, una de IA generativa”. “La IA no será útil para toda una organización” En paralelo, añade Mateo, “hay que recordar que quizás la IA no sea útil para toda una organización, la moda parece indicar que sí, y esa puede ser una causa de ansiedad. Entender la empresa como un todo en términos de IA puede no tener sentido, puesto que esta tecnología no tiene aún un conocimiento tácito, las verificaciones serán durante mucho tiempo tal como las conocemos irremediables: puede perder el contexto, alucinar… el propio modelo se puede alejar de aquello para lo que está programado, hay un montón de aspectos que cuidar desde una ‘oficina de IA’ y yo creo también en licitar aquellos casos en los que no tengamos la capacidad de gestión interna, no en sobrecargar los recursos propios”. Las empresas e instituciones, señala, “tenemos un papel crucial en la adopción y aprovechamiento de la IAG para maximizar su potencial”. Para ello, según la explicación a CyberLideria MGZN de Esther Mateo, son necesarios seis puntos que formarían un modelo de implantación de IA en sí mismo: 1. Proporcionar formación para que los empleados comprendan las capacidades y imitaciones y eso permita identificar los casos de uso que más valor aportan a la empresa. 2. Vincular los objetivos estratégicos de la empresa con esos casos de uso de la IA Generativa. 3. Vincular el desarrollo de casos de uso primero al gobierno de dato. 4. Abordar la Gestión del cambio con una comunicación transparente: es necesario promover la experimentación y sostener las debilidades y los errores. 5. Fomentar el desarrollo de nuevas habilidades necesarias entre los trabajadores y usuarios. 6. Establecer controles medibles para garantizar la confianza de la IA que fomente un uso ético y responsable. La visión de un CISO Raúl Ruiz Iguzquiza, CISO y responsable de operaciones TI de Pelayo “Al principio de la llegada a Internet”, comparte Raúl Ruiz con CyberLideria MGZN, “había mucho miedo. La situaicón actual me recuerda mucho la época en que se abrió Internet, esta misma dicotomía hizo que muchas empresas se encerraran en castillos rodeados por fosos, y un puente. Poco a poco se empezó a ver la potencialidad que tenía estar conectados, aunque aún había miedo. Primero cambiamos las cartas por el correo electrónico, luego comenzamos a usar más y más Internet, teniendo cuidado de hasta dónde abrías y cómo. Es verdad que la IA es un cambio más radical, pero actualmente esa situación de un castillo rodeado de agua no existe”. Para Ruiz, “no se trata sólo de lo que marcamos en una estrategia, es que la propia innovación te va llevando. Esa dicotomía existe, es una herramienta muy potente para los que atentan contra la seguridad, porque les da muchas herramientas de suplantación de identidad, de fuerza bruta de ataque, pero también es buena para nosotros desde el punto de vista de la defensa. Hablando de innovación pura de negocio, se trata de lo mismo”. “Con la IA, la clave está en dónde va a parar tu conocimiento: aunque tus datos no salgan de tu zona, quizás lo que aprende sí” Una de las claves, en su opinión, está en la concentración: Google, Amazon y Microsoft ofrecen ahora servicios con los que es imposible competir. En su opinión, “la llegada de los grandes hiperescalares impide esa situación. Porque con la IA la clave no está sólo en qué pasa con el dato, la clave es adónde va a parar mi conocimiento”. Y señala un riesgo “aunque un proveedor nos asegure que nuestros datos no van a salir de su zona, lo que aprenda puede que sí”. ¿Habrá grandes sistemas de datos que decidan nunca compartirse con la IA? “Yo creo que aquí va a ser muy importante la regulación”, señala, “como la que en Europa está apareciendo ya. Sin embargo, vamos a lo que nos ha pasado con la globalización: el conocimiento se está compartiendo, quién va a ser el primero y cómo vamos a seguir innovando después”. Para él, “el salto importante es la unicanalidad, que implica un riesgo también. Lo más novedoso es la velocidad a la que va. Respecto a la unicanalidad, hasta ahora podías introducir automatización o inteligencia no generativa, yendo canal a canal, voz o escrito, el tema de las imágenes ha tenido su propio desarrollo, pero ahora el deseo de todas las compañías es la unicanalidad para relacionarte con el usuario final”. “Igual que otras tecnologías, tiene una potencialidad muy grande, el uso sin control es algo peligroso”, señala. “Una regulación adecuada es importante, porque puede producir una brecha pero para mí lo más importante es que tenemos que ser eficaces para no llegar a esos sesgos, a no engañar al usuario, esto me preocupa. Que las imágenes generadas por IA se deban etiquetar, por ejemplo, cambia todo. La brecha es doble: generacional y social, con las fake news, la desinformación puede servir para intentar aprovecharse de las personas, influir en la sociedad”. “El aprendizaje que turismo con los árboles de datos ha sido muy interesante”, señala. “Caso a caso, creo que se van a ir haciendo “business cases”. Meter todos los datos de pronto en la IA no tiene sentido: habrá muchas pruebas de concepto y se irá desplegando. En los casos más matemáticos ya hay modelos estadísticos muy desarrollados, ahí la IAG a priori aportará menos valor en el retorno porque el algoritmo ya existe. Nadie va a empezar por ahí. En un modelo de costes que ha costado cien años desarrollar, la mejora sobre el modelo no sea tan espectacular. Hay otras funcionalidades, en los que por ejemplo cuesta mucho encontrar un dato, o en reconocimiento automático de imagen puede ser muy interesante. Por otro lado, creo que inevitablemente vamos a tener que asumirla, y a qué velocidad depende también de con qué regulación”. A corto plazo, explica, “en el sector que más conozco, pienso que vamos a ver una adaptación y una integración en el corto, se van a dar pasos mirando el retorno, qué pasa con el dato y con su uso, y se va a trabajar con ello. En el momento que se vea su retorno, con seguridad y gestión de dato bajo regulación y sin dejar brecha abierta, empezará a coger velocidad. Con otras tecnologías fue así. Primero se buscaron procesos sencillos de usuario que fueran dando valor para quitar tareas repetitivas y aquello cogió velocidad. Hoy, en el corto vamos a ver resultados. Los primeros proyectos van a ser un acelerador de los demás (cada sector e industria tenemos ya identificadas esas primeras implementaciones y estamos poniendo el ojo encima; seguramente el que no esté empezando en esto, está haciendo los contratos, los resultados de las primeras implementaciones ya están casi terminados). Hay una apuesta muy fuerte en todas las industrias y sectores por los propietarios de la IA y los hiperescalares para poder garantizar la seguridad del dato”. “Los primeros proyectos exitosos de IA de cada sector e industria, van a ser un acelerador de los demás” A nivel de usuario, también se avecina un avance rápido. “No creo que vayamos a un cambio de habilidades, más bien que serán las mismas de siempre, pero usadas de otra manera. Creo que por ejemplo, respecto a las reuniones, algo tan sencillo como el uso de copilot de Teams de Microsoft, va a aportar un valor brutal. También en la traducción en tiempo real: la IA va a traer una mayor globalización, no como algo económico sino social. Pero seguirá siendo clave la capacidad de ver un proyecto en totalidad, de impulsar la innovación, de trabajar en equipo,…”. Rubén Fernández-Costa O’Dogherty Periodista, Asesor, y Miembro del Comité Editorial de CyberLideria MGZN.
17 Junio 2024
Suscríbete GRATIS y disfruta de contenido ilimitado sobre ciberseguridad y personas
