La Comisión Europea investiga a X por el uso de su IA Grok para generar imágenes sexuales sin consentimiento

La Comisión Europea ha anunciado la apertura de una nueva investigación contra la red social X para determinar si la plataforma cumple con las obligaciones que le imponen las leyes digitales europeas tras la polémica generada por el uso de su inteligencia artificial, Grok, para crear imágenes sexualizadas y desnudos sin consentimiento.

Según ha informado Bruselas, el foco de la investigación estará en analizar si la compañía, propiedad de Elon Musk, ha evaluado y reducido de forma adecuada los riesgos asociados al despliegue de las funcionalidades de Grok en la Unión Europea. Entre esos riesgos figura la posible difusión de contenido ilegal, incluidas imágenes manipuladas de carácter sexual explícito que, en algunos casos, podrían llegar a encajar en la definición de material de abuso sexual infantil.

Examen bajo la Ley de Servicios Digitales

La Comisión considera que estos riesgos “ya se han materializado”, por lo que examinará si X ha cumplido con sus obligaciones bajo la Ley de Servicios Digitales (DSA), en particular en lo relativo a la identificación y mitigación de riesgos sistémicos.

Bruselas también evaluará si la empresa elaboró y remitió un informe específico de riesgos sobre las funcionalidades de Grok antes de su lanzamiento, especialmente aquellas que pueden tener un impacto significativo en el perfil de riesgo de la plataforma dentro del mercado europeo.

Incluso antes de iniciar formalmente esta investigación, la Comisión Europea ya había exigido a X la conservación de toda la documentación interna relacionada con Grok durante 2026, en el marco de otro procedimiento abierto contra la red social por su gestión de contenidos ilegales.

Polémica por contenidos generados por IA

La decisión llega tras varias semanas de controversia por la aparición de imágenes de mujeres y menores desnudos generadas por Grok, un hecho que ha llevado incluso al Gobierno francés a presentar una denuncia judicial contra la plataforma. A estos episodios se suman otros incidentes previos, como la difusión de contenidos que blanqueaban el Holocausto, también atribuidos a la IA de X.

Fuentes comunitarias reconocen que la empresa ha adoptado algunas medidas para frenar la circulación de este tipo de imágenes tras el aumento de la presión regulatoria, pero subrayan que la investigación va más allá de casos concretos y apunta a problemas estructurales en la arquitectura de la red social y en el diseño de su sistema de inteligencia artificial.

Investigación prioritaria y posibles sanciones

Desde Bruselas advierten de que, si se confirman las irregularidades, X podría estar vulnerando varios artículos de la Ley de Servicios Digitales, especialmente los relacionados con la protección de los ciudadanos europeos frente a riesgos sistémicos derivados del funcionamiento de grandes plataformas digitales.

Aunque el procedimiento no tiene un calendario cerrado, la Comisión ha confirmado que se tramitará con carácter prioritario debido a la gravedad de los riesgos asociados a las funcionalidades de Grok.

Antecedentes recientes

Esta investigación se suma a los antecedentes regulatorios de X en la Unión Europea. En diciembre de 2025, la plataforma fue sancionada con 120 millones de euros por incumplir las obligaciones de transparencia de la DSA, especialmente por el diseño de su sistema de verificación, la opacidad de su repositorio publicitario y las limitaciones de acceso a datos públicos para investigadores.

Además, Bruselas ha decidido ampliar una investigación iniciada en 2023 sobre la gestión de riesgos de los sistemas de recomendación de contenido de X, que ahora incluirá el impacto del cambio hacia un modelo basado en la inteligencia artificial de Grok, anunciado recientemente por la compañía.