La creación de contenido con inteligencia artificial (IA) se ha vuelto tan sofisticada que es cada vez más difícil discernir si un texto, imagen o audio proviene de una persona, una IA o una combinación de ambas. Para abordar esta incertidumbre, la Unión Europea ha establecido nuevas obligaciones de transparencia a partir del 2 de agosto de 2026 en el Reglamento de IA, que requiere señales en contenidos generados o manipulados por IA para su identificación tanto por humanos como por sistemas automáticos.
Dos tecnologías clave en la identificación de contenido generado por IA son los metadatos de procedencia C2PA y las marcas de agua digitales. Los metadatos C2PA son como una ficha digital que acompaña a un archivo, indicando su origen y cambios, y pueden ser leídas por programas compatibles para reconstruir el historial del contenido. Las marcas de agua digitales, por otro lado, pueden estar ocultas dentro del contenido y no visibles para el ojo humano. Google utiliza SynthID, una tecnología para insertar señales invisibles en contenidos generados con IA, y OpenAI combina esta tecnología con C2PA en sus imágenes compatibles.
Anthropic, con su modelo Claude, ha adoptado una estrategia de incorporar una marca de agua imperceptible directamente en el texto generado. Esta señal no aparece como un aviso ni como un símbolo visible para el usuario, sino que está integrada en la construcción del texto y está diseñada para ser detectada por herramientas específicas. Además, cuando Claude genera archivos, Anthropic utiliza metadatos de procedencia firmados digitalmente basados en el estándar C2PA. Estas marcas sirven para indicar que un contenido ha pasado por Claude, pero no revelan quién escribió las ideas originales o qué parte del trabajo realizó una persona.
OpenAI, con ChatGPT y Gemini, utiliza otra capa de identificación, empleando C2PA en sus imágenes generadas y combinando esos metadatos con marcas de agua SynthID. Los metadatos actúan como una etiqueta digital que acompaña al archivo, mientras que la marca de agua está integrada en el contenido. Esta dual identificación ayuda a mantener la transparencia y la responsabilidad en el uso de la IA.
El uso responsable de la IA es fundamental, y el AI Act busca regular cómo se utiliza la IA en la vida diaria, promoviendo la transparencia y la confianza en la tecnología. Estas marcas y metadatos son parte de los esfuerzos para garantizar que el contenido generado por IA sea identificable y que se reconozca su origen, lo que es crucial para la integridad y la confianza en la información.
Etiquetas: Tecnología, IA, ChatGPT, Claude, Gemini, C2PA, SynthID, Tecnología · IA general
About the Author
