Ciberseguridad en la era de la Inteligencia Artificial. Iván Sánchez, CISO RSI

La Inteligencia Artificial parece, de un modo u otro, haber invadido casi todos los espacios de nuestra vida. Recurrimos a ChatGPT buscando ayuda para revisar ese documento que tenemos pendiente, las funciones ya integradas en nuestro teléfono móvil empiezan a gestionar nuestra agenda y, en nuestro entorno laboral, los asistentes (copilotos) no solo automatizan procesos de manera autónoma, sino que gestionan nuestras reuniones, priorizando unas tareas sobre otras.

En este nuevo escenario, los profesionales de Ciberseguridad comenzamos a plantearnos los beneficios que a medio y largo plazo tiene la Inteligencia Artificial a la hora de detectar, responder y prevenir amenazas, pero también nos planteamos los riesgos que supone desde un punto de vista del atacante.

Sin duda, uno de los principales beneficios de la IA para ciberseguridad es su capacidad para identificar amenazas en tiempo real, al ser capaces de identificar patrones de ataque sin depender de la existencia de un patrón o una regla previamente definida. También nos van a ayudar a optimizar la gestión de vulnerabilidades, ya que seremos capaces de identificar posibles caminos de explotación de vulnerabilidades sin depender de la ejecución de ejercicios de Red Team o pentest. Y, en caso de incidente, los sistemas de respuesta basados en inteligencia Artificial son capaces de proveer una mejor capacidad de respuesta, conteniendo el incidente mediante la aplicación de bloqueos en tiempo real o de revertir cambios no autorizados en el sistema. Todo ello nos ayuda a reducir esfuerzos manuales y liberar recursos de analistas en el contexto actual de falta de profesionales de ciberseguridad.

Pero del mismo modo, los profesionales de Ciberseguridad comienzan a plantearse los riesgos que la excesiva dependencia de la Inteligencia Artificial puede llegar a tener, así como el uso que los atacantes pueden hacer de la IA para lleva a cabo y optimizar sus técnicas de ataque. Por un lado, los sistemas de IA requieren grandes cantidades de datos para entrenar sus algoritmos, lo que plantea preocupaciones sobre la privacidad y la protección de datos, especialmente en un momento regulatorio tan importante como el que estamos viviendo.

Por otro lado, los modelos de Inteligencia Artificial también pueden ser usados por los atacantes para automatizar y llevar a cabo ataques a gran escala. Podrían desarrollar malware más sofisticado, llevar a cabo ataques de phishing más efectivos y descubrir vulnerabilidades en tiempo real, reduciendo a segundos el periodo de tiempo que hay entre la identificación de la vulnerabilidad y el comienzo de su explotación.

Todavía estamos viviendo los primeros días de lo que la IA puede hacer en el ámbito de la Ciberseguridad, y la pregunta es: ¿Qué veremos en el futuro? Una Inteligencia Artificial al servicio de los profesionales de la Ciberseguridad, ¿o modelos de ataque cada vez más eficientes gracias a una aplicación “maliciosa” de la IA? Yo personalmente quiero ser optimista, y creer que los beneficios que nos va a aportar nos van a hacer mejores y podremos ayudar a nuestras organizaciones a defenderse de una manera más efectiva. La industria tecnológica, y en especial aquellas compañías detrás del desarrollo de los modelos de IA, tienen una responsabilidad enorme para hacer que así sea y que no sean los atacantes los nos que ganen en esta batalla digital que libramos todos los días.

Iván Sánchez

CISO RSI