Anthropic, empresa comercializadora del asistente de IA Claude, anunció el 10 de agosto que implantarÃa un sistema de etiquetado digital en los contenidos generados por inteligencia artificial. La medida busca cumplir con la Ley de IA europea, que establece obligaciones de transparencia para los proveedores de sistemas de IA. Según el artÃculo 50, los resultados generados por la IA deben ser marcados de manera legible por máquina y identificables como manipulados artificialmente.
El etiquetado se aplicará tanto a textos como a imágenes y otros formatos generados por Claude, incluyendo metadatos de procedencia firmados. La medida se extenderá a todos los modelos comercializados en el mercado europeo desde el 2 de agosto. Sin embargo, la Unión Europea también ha solicitado estandarizar las marcas de agua entre laboratorios, lo que parece poco probable por el momento.
OpenAI anunció en 2024 la incorporación de una marca de agua a sus modelos, pero pospuso la decisión debido a la resistencia de usuarios. Se han identificado rasgos caracterÃsticos de la escritura generada por IA, como el uso excesivo de ciertas estructuras sintácticas.
Anthropic no ha publicado detalles de las herramientas para detectar contenido generado por Claude, pero se compromete a ayudar a identificar las marcas de Claude de acuerdo con el Código europeo de buenas prácticas sobre transparencia de contenidos generados por IA. El documento menciona que textos traducidos, revisados o resumidos por Claude también pueden incluir una marca de agua, lo que podrÃa atribuir erróneamente la autorÃa a la IA.
El director de tecnologÃa de GPTZero señaló que una simple paráfrasis podrÃa alterar el hash y hacer desaparecer la marca de agua. Publicar el detector podrÃa facilitar a los usuarios encontrar formas de eludir la marca. Varios proveedores de contenidos y redes sociales también han firmado el Código de buenas prácticas. OpenAI lanzó una herramienta en lÃnea en mayo para detectar imágenes generadas por sus modelos de IA.
Etiquetas: TecnologÃa, IA, Legislación, Transparencia, TecnologÃa · OpenAI, ChatGPT y Anthropic, TecnologÃa · OpenAI, ChatGPT y Anthropic
About the Author
