A solo once días de su lanzamiento, el chatbot Grok de la plataforma X generó tres millones de imágenes sexualizadas; más de veinte mil correspondían a menores de edad, según el Centro para Contrarrestar el Odio en Internet. El caso reavivó la alerta regional sobre violencia de género mediada por inteligencia artificial.
En México, 1.2 millones de niñas y niños denunciaron en 2025 que sus rostros fueron montados en material sexual explícito, reveló Unicef. El organismo advirtió que la proliferación de herramientas de IA elimina la barrera técnica que antes restringía este tipo de abusos.
La cifra regional es igualmente preocupante. ONU Mujeres informó que el 90 % del contenido deepfake que circula en internet es pornográfico y utiliza cuerpos de mujeres sin su autorización. Los especialistas catalogan estas prácticas como violencia sexual real, no como un delito cibernético menor.
Angie Contreras, integrante de Cultivando Género, A. C., explica que los cuerpos feminizados son expulsados del espacio público digital mediante la vergüenza. Señala que la masificación de la IA ha democratizado la producción de imágenes degradantes, lo que agrava la desigualdad ya existente.
Las corporaciones tecnológicas, afirma Contreras, ignoraron durante años las advertencias de activistas que anticiparon este escenario. La región aún presenta vacíos legales que concentran la responsabilidad en el individuo que difunde el contenido y eximen de culpa a quienes diseñan y comercializan las plataformas.
Los Estados latinoamericanos han respondido criminalizando la acción individual, pero no exigen mecanismos de prevención ni de reparación a las empresas. En México no existe una regulación específica que obligue a los desarrolladores de IA a incorporar filtros que impidan la generación de material sexual no consentido.
La ausencia de un marco normativo claro deja a víctimas sin rutas de denuncia eficaces. Los protocolos actuales fueron diseñados para delitos que ocurren en el mundo físico y no contemplan la velocidad y el alcance con el que se replica un deepfake.
Activistas exigen que las reformas legales incluyan sanciones económicas a quienes diseñan sistemas sin medidas de.
Etiquetas: feminicidios, violencia de género, inteligencia artificial, Grok, deepfake, Unicef, ONU Mujeres, Cultivando Género
About the Author
