Hackean la IA de X para propagar estafas: así funciona el nuevo ataque ‘Grokking’ que convierte al chatbot en cómplice del fraude

Los ciberdelincuentes han encontrado una nueva forma de usar la inteligencia artificial en su beneficio. ESET ha alertado sobre una técnica emergente conocida como “Grokking”, que explota vulnerabilidades en el chatbot de X (antes Twitter) para difundir enlaces maliciosos y campañas de phishing de manera masiva.

Según la compañía de ciberseguridad, esta modalidad —también denominada AI-aided malvertising— demuestra cómo los atacantes están utilizando los chatbots de IA generativa como canales para multiplicar el alcance de sus fraudes digitales.

“La inteligencia artificial ya no solo impulsa la innovación, también está transformando la ingeniería social”, advierte Josep Albors, director de investigación y concienciación de ESET España. “El caso de Grokking revela que incluso los modelos más avanzados pueden ser manipulados para actuar contra los propios usuarios”.

Cómo operan los atacantes

El ataque comienza con vídeos de apariencia inofensiva publicados en X, diseñados como clickbait. En el pequeño campo “from” del post, los ciberdelincuentes insertan enlaces que redirigen a sitios de phishing o descargas de malware.

Lo innovador del Grokking es el siguiente paso: cuando los usuarios piden al chatbot de X —conocido como Grok— que identifique el origen del vídeo, este analiza el contenido y reproduce automáticamente el enlace oculto, convirtiéndose sin saberlo en difusor del fraude.

Un riesgo que amplifica la desinformación digital

El peligro de esta técnica radica en que el chatbot actúa como fuente aparentemente fiable, lo que multiplica el alcance y la credibilidad de los mensajes fraudulentos. ESET advierte que:

• Las publicaciones promocionadas pueden alcanzar millones de visualizaciones.
• El algoritmo de X y los motores de búsqueda refuerzan la visibilidad de los enlaces, al considerar al chatbot como un origen legítimo.
• Los usuarios pueden terminar facilitando sus credenciales o descargando software malicioso.
• Se han detectado cientos de cuentas implicadas en este patrón antes de ser bloqueadas.

La amenaza podría extenderse más allá de X, afectando a cualquier plataforma que incorpore modelos de lenguaje o asistentes impulsados por IA.

Una nueva forma de manipular la IA

ESET identifica este ataque como un ejemplo de prompt injection, una técnica que consiste en introducir instrucciones ocultas en los contenidos que procesan los sistemas de IA. Estas órdenes pueden camuflarse en metadatos, caracteres invisibles o código Unicode, provocando que el modelo ejecute acciones no deseadas.

Un reciente informe de Gartner señala que el 32% de las organizaciones ha sufrido intentos de este tipo durante el último año, lo que confirma el crecimiento de esta amenaza en el panorama corporativo.

Recomendaciones de ESET

Para mitigar el riesgo de ataques basados en IA, ESET aconseja seguir estas prácticas:

1. Verificar siempre los enlaces compartidos por bots o asistentes de IA antes de hacer clic.
2. Mantener una actitud crítica ante respuestas inusuales o sospechosas.
3. Utilizar contraseñas robustas y únicas, preferiblemente gestionadas por un password manager.
4. Activar la autenticación multifactor (MFA).
5. Mantener los sistemas y aplicaciones actualizados.
6. Protegerse con soluciones de seguridad multicapa que bloqueen sitios y descargas maliciosas.