Cuando la máquina aprende y el hombre olvida

Si hace apenas unos años nos hubiesen dado una ventana a la actualidad para mostrarnos que terminaríamos preguntando a una máquina qué debemos escribir, dónde debemos viajar, cómo se puede resolver un problema empresarial o incluso qué debemos pensar sobre nosotros mismos pocos lo hubiésemos creído (al menos tan pronto). Nos encontramos entonando que “los tiempos adelantan que es una barbaridad”, tal como cantaban don Hilarión y don Sebastián en La verbena de la Paloma… ¡y no les faltaría razón!

La inteligencia artificial ha irrumpido en nuestras vidas con una velocidad extraordinaria. De hecho, probablemente nunca una tecnología ha conseguido pasar en tan poco tiempo del laboratorio al bolsillo y de la investigación científica a la conversación cotidiana. Y esto, no nos confundamos, es una magnífica noticia. La IA amplía nuestra capacidad para conocer, analizar, crear y resolver problemas. Y negarlo sería tan absurdo como haber rechazado la imprenta porque podía utilizarse para publicar mentiras. Pero ahí comienza precisamente el problema. La pregunta relevante no es si la inteligencia artificial es buena o mala sino cómo la inteligencia artificial modifica las condiciones desde las que nosotros hacemos, conocemos y decidimos. Hemos dedicado enormes esfuerzos a conseguir que las máquinas aprendan, pero quizá deberíamos preguntarnos si estamos dedicando el mismo esfuerzo a evitar que el ser humano olvide. Olvide pensar; olvide contrastar; olvide dudar; olvide asumir la responsabilidad de sus decisiones… olvidemos quiénes somos y de dónde venimos. Y es que no podemos olvidar que los humanos mostramos una tendencia natural a economizar esfuerzo cognitivo y moral. Existe una tentación particularmente atractiva en esta nueva sociedad tecnológica para trasladar a los algoritmos aquello que nos resulta incómodo decidir. Si una máquina selecciona al candidato para un puesto de trabajo, concede un crédito, recomienda una inversión o determina qué información debemos leer, siempre podremos refugiarnos en una nueva versión tecnológica del conocido “yo solo cumplía órdenes” o “lo dijo el algoritmo” como fórmula para olvidar que la responsabilidad final sigue siendo nuestra.

El algoritmo, naturalmente, no protesta y eso da origen a uno de los grandes problemas éticos de la inteligencia artificial. Estamos construyendo sistemas capaces de participar crecientemente en nuestras decisiones sin haber resuelto plenamente cómo atribuimos la responsabilidad por ellas y, quizá más grave todavía, creando las condiciones para diluirla o banalizarla. Un algoritmo puede calcular, clasificar y predecir, pero no tiene conciencia de las consecuencias humanas de aquello que recomienda. Puede disponer de logos (habitualmente traducido del griego como razón), si queremos utilizar el término con cierta generosidad tecnológica, pero carece de ethos (de carácter moral, de esa disposición que el ser humano va formando a través de sus hábitos, elecciones y decisiones). No deberíamos entonces confundir inteligencia con moralidad y es que una IA puede analizar millones de datos y seguir siendo incapaz de responder a una pregunta extraordinariamente sencilla: ¿debo hacer algo simplemente porque puedo hacerlo? Ese “debo” implícito en la capacidad de reflexión y análisis sigue perteneciendo al ser humano, y es quela máquina procesa, pero la persona se compromete existencialmente con aquello que hace.

Paradójicamente, cuanto más potentes sean nuestras máquinas, más necesaria será nuestra ética. Cada incremento en nuestra capacidad tecnológica multiplica también nuestra capacidad de provocar consecuencias y de analizarlas. El problema nunca fue que Prometeo robara el fuego a los dioses. El problema comenzó cuando hubo que decidir qué hacer con él y, sobre todo, cuando descubrimos que el fuego no solo transformaba el mundo, sino también al hombre que lo utilizaba. Podemos usar la nueva técnica para mejorar la medicina, transformar la educación, aumentar la productividad, democratizar el conocimiento y resolver problemas que durante décadas parecieron irresolubles. Pero también podemos utilizarla para manipular, vigilar, discriminar, desinformar o simplemente sustituir el pensamiento por la comodidad de una respuesta inmediata, favoreciendo una auténtica atrofia moral por delegación. Por eso resulta insuficiente responder al desafío con otra montaña de códigos, normas y reglamentos que sin duda serán necesarios. Pero una sociedad no se convierte en ética porque produzca legislación sobre ética. La respuesta debe comenzar antes formando personas capaces de preguntar, contrastar y decir “no”. Personas dotadas de un pensamiento crítico sólido y fundamentado, capaces de reconocer que una respuesta técnicamente eficiente puede ser humanamente inaceptable.

La inteligencia artificial será probablemente una de las mayores herramientas creadas por nuestra civilización, pero precisamente por eso debemos evitar convertirla en una nueva autoridad moral. Dejemos que las máquinas aprendan todo lo que puedan, pero procuremos que, mientras tanto, nosotros no olvidemos aquello que nos hace humanos que es nuestra capacidad de elegir, de juzgar y de hacernos responsables de nuestras decisiones. Porque el gran problema ético de la inteligencia artificial no será determinar si las máquinas pueden llegar a pensar como nosotros, sino evitar que nosotros terminemos aceptando vivir como si ya no necesitáramos pensar por nosotros mismos. El verdadero riesgo no está, por tanto, en que la máquina alcance una apariencia de autonomía, sino en que el ser humano renuncie progresivamente a la suya.

Jose Antonio Vega Vidal

Profesor de Economía, Universidad Pontificia Comillas (ICADE)