Disrupción social e IA. Enrique Ávila, Director Centro de Análisis y Prospectiva de la Guardia Civil

Hace unas horas (no muchas cuando empiezo a escribir este artículo), intuyo y creo comprender que se ha producido un hecho que cambia las reglas del juego a escala global. Voy a intentar resumirlo en una única frase: La IA (la generativa que tanto revuelo ha causado en los últimos tiempos), se ha transformado, de una herramienta generadora de contenidos (cada vez más multimodal), en un interfaz, también multimodal, de acceso y gestión de la información en la red.

Lo intuí en la presentación de los nuevos dispositivos asistentes con IA incorporada tipo Rabbit R1: El cambio conceptual que apuntaba me pareció absolutamente disruptivo. Poder interaccionar sobre el interfaz de acceso a las acciones en un dispositivo inteligente, es decir, ser capaces de transferir sobre las aplicaciones o el sistema operativo del dispositivo nuestra interacción directa, de forma multimodal, me generó tanto la excitación que algo así puede generarle a un tecnólogo como una primera sensación de riesgo, de amenaza emergente que, en determinadas ocasiones, intuimos quienes nos dedicamos a asuntos de seguridad.

Las reacciones fueron fulgurantes. De forma inmediata se empezó a hablar de la desaparición de nuestros terminales inteligentes con la pantalla como punto de interacción, de que una nueva tecnológica llegaba para quedarse… Un experimento, de momento fallido, quizá por llegar demasiado pronto y con demasiados interrogantes en su verdadera utilidad intentando, además, sustituir a una tecnología madura y funcional. Pero, desde luego y bajo mi punto de vista, un punto de inflexión, desde el punto de vista conceptual, sobre la evolución del modelo de interacción y de generación de acciones sobre la Red.

Ese modelo tecno-optimista de introducción de tecnología, fuertemente impactado por asuntos relacionados con los modelos de negocio nos impide un minuto de reflexión sobre la conveniencia o no de apostar por el desarrollo de una nueva tecnología en el largo plazo. Y, declarándome amante de la tecnología, no puedo posicionarme a favor esta ola tecno-optimista que no mide los impactos, en algunas o muchas ocasiones negativos, que la introducción de la tecnología, sin ningún tipo de control, está generando en nuestras sociedades. No en este momento en el que se están produciendo cambios estructurales en la relación entre el ser humano y la información.

Ir construyendo un modelo social por superposición de riesgos y amenazas que, al ser combatidas, con posterioridad siempre a su eclosión, a través de la creación de una nueva capa de complejidad que, a su vez, generará un conjunto más o menos extenso de puestos de trabajo especializados en combatir una amenaza que nunca debiera de haber sido permitida ha dejado de tener ningún sentido. Ha pasado de ser un modelo de innovación a convertirse en una amenaza estructural global.

Aún recuerdo, en los inicios de esta era tecnológica (sí, soy de los de Sinclair QL) cómo un sistema operativo, claramente defectuoso y gracias a esos defectos, se hizo con el control del mercado al generar una primera capa de tecnólogos con la misión de parchear sus evidentes fallos de funcionamiento. Puede que se acuerden de él: MSDOS. Un ejemplo claro y, desde luego no único, del modelo que, de forma sucinta, he descrito más arriba.

Hemos llegado a un punto en el que esta transformación de la IA en interfaz de acceso al conocimiento, en forma multimodal, cambia tanto el campo de juego que conocemos, ya de por sí complejo, en materias tales como la privacidad, los Derechos Fundamentales, la libertad o seguir manteniendo al ser humano como último garante de los procesos de toma de decisión con impactos sobre lo que constituyen los pilares del propio modelo político de convivencia que, sin transformarme en un tecno-pesimista (sigo creyendo que la tecnología, desarrollada con modelos no únicamente reglados por las leyes del mercado, continúa siendo nuestra salvaguarda de supervivencia como especie), sí que me induce a intentar reflexionar sobre la conveniencia de parar un momento. Parar, por supuesto para volver a tomar impulso. Puede, eso sí, que en una dirección diferente a la que, en estos momentos seguimos porque intuyo amenazas estructurales sobre la propia especie. Amenazas que pueden condicionar, de forma holística nuestro futuro.

Y voy a intentar poner un ejemplo sobre ello: Hace no demasiadas semanas, en un posgrado de Diseño de Futuros que estoy cursando en la actualidad, se mencionó un término que me era completamente desconocido: la agnotología. Y me impactó porque, entre sus dimensiones de conocimiento incluía la desinformación. Pero es que, además, incorporaba un conjunto de otros riesgos y amenazas, asociados a una acción activa para promover el desconocimiento que, en estos momentos, de forma rápida, se están extendiendo por nuestras sociedades, supuestamente avanzadas. El uso de este nuevo modelo de generación y acceso a la información hará de la agnotología el arma definitiva contra nuestras sociedades tal y como las conocemos. Será el arma definitiva contra el ser humano. Sobre la privacidad de su pensamiento. Sobre sus modelos de toma de decisión. Desde el desconocimiento absoluto, será una IA quien determine su (nuestra) vida diaria. Salvo que recapacitemos. Y no sobre la tecnología que, en todo momento de la historia de la especie, ha sido usada con fines benignos o malignos (un cuchillo sirve para cortar y para matar, dependiendo de la mano que lo empuñe) sino, quizá, sobre el modelo subyacente. Y, siendo mi profesión actual la de generar escenarios de futuro, en mi caso, en contextos asociados con la seguridad pública, quiero enviar un último mensaje que deseo que sea positivo: A pesar de que se nos ha inducido un sesgo social orientado a pensar en futuros distópicos (no hay más que evaluar el éxito de series asociadas a apocalipsis zombis y situaciones de similar contexto), hace no tanto, en occidente, hablábamos, sobre todo, de utopías. De progresar, individual y socialmente. Y éramos capaces de pensar en proyectos transgeneracionales. Y no habíamos caído de lleno en la “tragedia de los comunes” (otro concepto sobre el que, bajo mi punto de vista, debiéramos reflexionar). Todo ello impacta sobre nuestro futuro. Futuro que, sin duda, tendrá a la tecnología como elemento estructural para nuestro avance o destrucción. Nosotros y nosotras decidimos.

Enrique Ávila

Director Centro de Análisis y Prospectiva de la Guardia Civil