Anthropic se compromete con los estándares de transparencia impuestos por la Unión Europea, especialmente en lo que respecta a la identificación de contenidos generados por inteligencia artificial. A partir del 2 de agosto, todos los modelos de Claude incluirán un sistema de etiquetado para permitir la identificación de dichos contenidos. Este esfuerzo busca cumplir con el artÃculo 50 (2) de la Ley de IA de la UE, que requiere la etiqueta clara de contenidos creados o manipulados con tecnologÃa de IA.
La transparencia en la generación de contenidos por IA es fundamental para proporcionar a los usuarios sobre la información que consumen. Anthropic trabaja en la inclusión de marcas legibles por máquina en los contenidos generados por Claude, cumpliendo con sus obligaciones legales. El sistema de etiquetado se incluirá de manera predeterminada en los próximos modelos de IA de la empresa y se está trabajando en su compatibilidad con productos y algoritmos existentes, dentro del periodo de gracia de cuatro meses establecido por la ley.
El etiquetado en Claude se realizará de manera diferenciada según el formato del contenido. Imágenes o gráficos incluirán metadatos que revelen su origen, siguiendo el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Por otro lado, los materiales de texto contarán con marcas de agua invisibles que persistirán incluso en plataformas de terceros y tras ciertas ediciones.
Anthropic ha aclarado que la marca de agua se aplicará a nivel de modelo y no interferirá con el significado, calidad o legibilidad de las respuestas de Claude. La empresa también está desarrollando un mecanismo para permitir la detección de estas marcas por parte de usuarios y terceros, con detalles a ser revelados en un futuro cercano.
Las marcas legibles por máquina se aplicarán globalmente a los modelos Claude compatibles, incluyendo Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag, y estarán presentes en accesos a los modelos a través de AWS, Google Cloud o Microsoft Foundry.
El equipo de Anthropic reconoce las limitaciones de su sistema de etiquetado, señalando que la detección de una marca de Claude indica que el contenido pudo haber sido procesado por el modelo, pero no necesariamente creado originalmente por la IA. La empresa continúa trabajando en mejorar el sistema para garantizar una mayor precisión y transparencia en el etiquetado de contenidos generados por IA.
Etiquetas: TecnologÃa, Integridad Digital, Legislación Europea, Inteligencia Artificial, TecnologÃa · OpenAI, ChatGPT y Anthropic, TecnologÃa · OpenAI, ChatGPT y Anthropic
About the Author
