La inteligencia artificial ha facilitado la creación de vídeos, imágenes y audios falsos capaces de suplantar la identidad de cualquier persona. Ante el aumento de estos riesgos, ESET ofrece una serie de recomendaciones para denunciar contenidos manipulados, solicitar su retirada de Internet y proteger la privacidad de las víctimas.
La inteligencia artificial generativa está transformando la creación de contenidos digitales, pero también está abriendo la puerta a nuevas amenazas para la privacidad y la seguridad de los usuarios. Una de las más preocupantes es la proliferación de los deepfakes, imágenes, vídeos o grabaciones de voz manipulados mediante IA que pueden resultar prácticamente indistinguibles de los auténticos.
Estas herramientas, cada vez más accesibles, permiten reproducir el rostro, la voz y los gestos de una persona sin su consentimiento. Su utilización puede ir desde contenidos humorísticos hasta prácticas mucho más graves, como la suplantación de identidad, el acoso, la extorsión o la difusión de imágenes íntimas falsas.
Ante esta situación, ESET, compañía especializada en ciberseguridad, ha publicado una serie de recomendaciones para ayudar a las personas afectadas a identificar, denunciar y solicitar la eliminación de estos contenidos.
El avance de la IA ha reducido considerablemente las barreras técnicas para generar contenidos audiovisuales manipulados. Actualmente, determinadas herramientas permiten crear representaciones realistas de personas a partir de fotografías, vídeos o muestras de voz disponibles en Internet.
Esta facilidad plantea importantes desafíos relacionados con la reputación, la privacidad y la confianza en la información digital.
Josep Albors, responsable de Investigación y Concienciación de ESET España, advierte de que los deepfakes pueden utilizarse para atribuir declaraciones inexistentes a una persona o generar imágenes íntimas completamente ficticias, con consecuencias especialmente graves para las víctimas.
La compañía también destaca la vulnerabilidad de los menores de edad frente a este tipo de manipulaciones.
La creación de contenidos mediante inteligencia artificial no constituye automáticamente un delito. Sin embargo, su utilización puede vulnerar derechos fundamentales, especialmente cuando afecta al honor, la intimidad o la propia imagen.
Si un deepfake se utiliza para amenazar, acosar, extorsionar o suplantar la identidad de una persona, pueden derivarse responsabilidades legales e incluso penales, dependiendo de las circunstancias.
En el ámbito europeo, el Reglamento de Inteligencia Artificial (AI Act) introduce obligaciones de transparencia para determinados contenidos generados o manipulados artificialmente, incluidos los deepfakes, con el objetivo de facilitar su identificación.
En España, la legislación de protección de datos también puede ofrecer mecanismos para solicitar la retirada de contenidos que utilicen indebidamente información personal o la imagen de una persona.
La rapidez de actuación puede resultar fundamental para limitar la difusión de un contenido manipulado. No obstante, ESET recomienda evitar decisiones precipitadas y seguir una serie de pasos.
1. Recopilar pruebas antes de denunciar
Es importante conservar capturas de pantalla, enlaces a las publicaciones, nombres de los perfiles responsables y la fecha en la que se detectó el contenido.
Esta información puede resultar útil tanto para solicitar su eliminación como para presentar una denuncia ante las autoridades.
2. Evitar enfrentamientos con quien lo ha publicado
Contactar directamente con el responsable puede agravar la situación o favorecer una mayor difusión. Por ello, es preferible recurrir a los mecanismos oficiales de denuncia.
3. Solicitar la retirada del contenido
Las principales plataformas digitales disponen de herramientas para denunciar publicaciones que vulneren la privacidad, suplanten identidades o contengan material manipulado.
4. Acudir a las autoridades cuando sea necesario
Si existen amenazas, extorsión, acoso u otros posibles delitos, se recomienda presentar una denuncia ante la Policía Nacional o la Guardia Civil.
Aunque los procedimientos pueden variar según la plataforma, ESET identifica diferentes mecanismos para solicitar la revisión o retirada de contenidos falsificados.
La disponibilidad de las opciones y sus denominaciones puede cambiar con las actualizaciones de cada plataforma.
Uno de los usos más dañinos de esta tecnología es la creación y difusión de imágenes sexuales falsas sin consentimiento.
Estas manipulaciones pueden generar importantes consecuencias personales, psicológicas y reputacionales, incluso cuando las imágenes no corresponden a situaciones reales.
En España, la Agencia Española de Protección de Datos (AEPD) dispone de un Canal Prioritario para solicitar la retirada urgente de contenidos sexuales o violentos difundidos ilícitamente cuando exista un riesgo grave para los derechos y libertades de las personas afectadas.
Este procedimiento está especialmente orientado a situaciones de especial gravedad, incluidos determinados casos que afectan a menores o víctimas de violencia de género.
También existen herramientas internacionales diseñadas para reducir la circulación de este tipo de material.
StopNCII.org permite a personas adultas generar una huella digital de imágenes o vídeos íntimos, incluidos contenidos artificiales, sin necesidad de enviar el archivo original. Las plataformas participantes pueden utilizar esa huella para detectar coincidencias y actuar conforme a sus políticas.
Por su parte, Take It Down, impulsada por el National Center for Missing & Exploited Children, ofrece un sistema de protección para imágenes o vídeos íntimos de personas menores de 18 años.
Aunque estas herramientas pueden contribuir a frenar la difusión, no garantizan la eliminación de todas las copias existentes en Internet.
La expansión de los deepfakes demuestra que los riesgos asociados a la inteligencia artificial ya no se limitan a las empresas o a los entornos tecnológicos. La identidad, la voz y la imagen de cualquier persona pueden convertirse en objetivos de manipulación.
Este escenario plantea nuevos retos para las plataformas digitales, los reguladores y los profesionales de la ciberseguridad, que deben encontrar mecanismos capaces de detectar contenidos falsificados y proteger a las personas afectadas.
La concienciación digital, la rapidez en la denuncia y el conocimiento de los recursos disponibles se convierten así en herramientas fundamentales.
En una era en la que la inteligencia artificial puede reproducir nuestra apariencia y nuestra voz con un realismo sorprendente, proteger la identidad digital se ha convertido en una parte esencial de la seguridad personal.
Rincón del CISO
23 Octubre 2026
Jarana
23 Octubre 2026
Podcast de Cyberlideria MGZN.
Todos los jueves, a partir de las 22:00, estará disponible en CyberLideria MGZN una nueva entrevista, donde un prestigioso CISO colaborador charlará con una personalidad inspiradora, importante, y líder empresarial, tanto del ámbito privado como público.
Manténgase informado sobre la ciberseguridad, tecnología, las tendencias y las noticias que afectan a los líderes de TI.
Suscríbete GRATIS y disfruta de contenido ilimitado sobre ciberseguridad y personas
