Una herramienta de detección de IA de Meta, presentada recientemente junto con el modelo de generación de imágenes Muse Image, no logró identificar algunas de sus propias imágenes generadas por IA una vez recortadas, de acuerdo con un análisis de Reuters. Este hallazgo destaca las dificultades en la verificación de imágenes generadas por IA tras sufrir modificaciones, lo que podría dificultar la identificación de 'deepfakes' en el año electoral en Estados Unidos.
En el análisis de 40 imágenes generadas con Muse Image, Reuters encontró que la herramienta de detección verificó todas las imágenes originales generadas por IA, pero no pudo verificar el 55% de esas mismas imágenes tras recortarlas a entre un tercio y la mitad de su tamaño original. Meta menciona que su herramienta de detección preliminar puede identificar sus propias imágenes generadas por IA, incluso si están recortadas, mediante un sistema de marca de agua invisible llamado 'Content Seal', que se integra en cada imagen generada por Muse Image.
Consultada sobre los resultados del análisis de Reuters, Meta señaló que la herramienta es una versión preliminar y que la marca de agua está diseñada para permanecer intacta tras ediciones habituales, pero la señal podría perderse si una imagen se recorta en exceso. Google y OpenAI también han advertido que sus herramientas de detección no son infalibles frente a las técnicas de alteración de imágenes.
El Consejo de Supervisión de Meta, un órgano de expertos que toma decisiones vinculantes y emite recomendaciones sobre cuestiones de contenido en todas las plataformas de redes sociales de la empresa, instó a la compañía a redoblar sus esfuerzos para hacer frente a la proliferación de contenido engañoso generado por IA en sus plataformas. Siwei Lyu, profesor de informática en la Universidad Estatal de Nueva York en Buffalo, afirmó que los sistemas basados en marcas de agua tienen limitaciones, ya que cualquier modificación que elimine o debilite la señal incrustada puede reducir su eficacia.
Etiquetas: Tecnología, Big Tech, Antitrust, Tecnología · Big Tech y antitrust
About the Author
