La proliferación de deepfakes se ha convertido en un problema transversal que preocupa a legisladores de distintas tendencias políticas en todo el mundo. Las herramientas de inteligencia artificial generativa permiten crear videos e imágenes falsos de manera rápida, barata y con apariencia realista, lo que facilita su uso para estafar, extorsionar, hostigar y humillar a personas. ESET Latinoamérica ha difundido una guía de acción para quienes descubren contenido manipulado con su imagen circulando en internet.
La empresa de ciberseguridad advierte que, aunque algunos deepfakes se comparten como broma, la tecnología tiene un uso frecuentemente delictivo. Los estafadores emplean estos materiales para suplantar identidades, cometer fraudes y ejercer violencia digital contra sus víctimas. La respuesta legal varía según la jurisdicción, pero varios países han comenzado a endurecer sus marcos normativos.
En Estados Unidos, la ley TAKE IT DOWN Act penaliza la distribución de imágenes íntimas no consensuadas y obliga a las plataformas a eliminar este contenido en un plazo de 48 horas tras una denuncia legítima. El Reino Unido, por su parte, tipificó como delito la creación de deepfakes a través de la Data Act y la Online Safety Act, con idéntico plazo de remoción obligatoria. La Unión Europea prepara una prohibición específica en su Ley de IA para sistemas diseñados para generar este tipo de material íntimo no autorizado.
Cuando el contenido no corresponde a imágenes íntimas, la ilegalidad dependerá del propósito: fraude, chantaje, difamación, acoso o suplantación de identidad pueden constituir delitos en diversas legislaciones. Si la víctima es menor de edad, la mayoría de las jurisdicciones califica cualquier material como ilegal sin excepciones.
ESET recomienda actuar con rapidez pero sin interactuar con quien publicó el contenido, dado que una confrontación directa puede amplificar la difusión del material. El primer paso consiste en documentar las pruebas: capturas de pantalla, URL, nombre de usuario, fecha, hora y texto acompañante. Esta evidencia será fundamental para las denuncias posteriores.
Las plataformas digitales cuentan con mecanismos de reporte, aunque rara vez incluyen una categoría específica para deepfakes. Los usuarios deben identificar la infracción subyacente —acoso, suplantación o fraude— y explicar que el contenido fue generado con inteligencia artificial. En Google se puede solicitar la eliminación de resultados de búsqueda mediante la herramienta de información personal o el formulario legal, lo que dificulta el acceso al material
Etiquetas: deepfakes, ciberseguridad, inteligencia artificial, fraude digital, derechos digitales, ESET, Tecnología · Deepfakes y fraudes con IA
About the Author
