DeepSeek, la IA China que promete revolucionar la tecnología, pero pone en alerta a la ciberseguridad global

La irrupción de la inteligencia artificial generativa china ha causado un gran impacto en el sector tecnológico debido a su eficiencia y bajo consumo energético. Sin embargo, el sector de la ciberseguridad ha analizado esta nueva tecnología y, por el momento, no se recomienda su uso en el entorno corporativo.

La inteligencia artificial generativa, al ser capaz de trabajar con muchos menos recursos, es una noticia positiva. Además, la competencia que surge con nuevos modelos, como el de la empresa china DeepSeek, también es bienvenida. Sin embargo, como se mencionó la semana pasada, DeepSeek ya ha sufrido un ataque malicioso a gran escala, lo que ha atraído la atención de los atacantes. Ahora, las empresas de ciberseguridad han comenzado a analizar los riesgos que puede conllevar esta inteligencia artificial.

Los laboratorios contra amenazas de Netskope (Netskope Threat Labs) han detectado que, en apenas 48 horas, el número de usuarios de DeepSeek en su base de clientes aumentó un 1052%. El equipo de investigación de amenazas Unit42 de Palo Alto Networks publicó una investigación en la que afirman que «DeepSeek es preocupantemente vulnerable al jailbreaking y puede generar contenido perjudicial con poco o ningún conocimiento o experiencia especializada». La empresa probó el modelo utilizando diferentes métodos de jailbreaking.

Sam Rubin, vicepresidente senior de Consultoría e Inteligencia de Amenazas de Unit42, considera que su investigación «demuestra que no siempre podemos confiar en que los LLM (modelos de lenguaje de gran tamaño) funcionarán como se espera: pueden ser manipulados. Es crucial que las empresas consideren estas vulnerabilidades al integrar LLM de código abierto en sus procesos empresariales. Debemos asumir que las barreras de seguridad de los LLM pueden ser vulneradas y que se necesitan medidas de protección a nivel organizacional».

Por su parte, Sam Curry, vicepresidente global y CISO residente de Zscaler, señala que «DeepSeek probablemente tendrá un efecto democratizador en la IA, demostrando que el grupo cerrado de empresas de Silicon Valley ya no es el único capaz de moldear el futuro de esta tecnología. Sin embargo, el hecho de que DeepSeek sea una plataforma de código abierto debe ser examinado detenidamente, ya que las fuentes de datos utilizadas para su entrenamiento siguen siendo en gran medida opacas, lo que dificulta la identificación de posibles sesgos o riesgos de seguridad».

Check Point Software también ha analizado las políticas de privacidad de DeepSeek y considera que presenta riesgos significativos. «La plataforma almacena y procesa todas las interacciones de los usuarios, incluidos mensajes, archivos, historiales de chat, entradas de voz, imágenes e incluso patrones de pulsaciones de teclas. Además, DeepSeek se reserva el derecho de revisar y utilizar estos datos para el entrenamiento de modelos de IA».