Anthropic, una empresa de inteligencia artificial, ha anunciado que sus modelos de IA, incluyendo Claude, incorporarán una marca invisible en los textos generados a partir del 2 de agosto en la Unión Europea, y planea extender esta implementación globalmente. Esta medida busca facilitar la identificación de textos creados con tecnologÃa de IA, cumpliendo con la Ley de la IA europea que promueve la transparencia.
Sin embargo, la compañÃa advierte que la presencia de la marca en un texto no demuestra necesariamente que Claude haya escrito dicho texto, sino que ha sido procesado por los modelos de IA de la empresa. Esto es relevante ya que un texto humano también podrÃa ser marcado si se somete a correcciones o mejoras por Claude.
La marca de agua no es una prueba definitiva, ya que puede desaparecer en caso de ediciones extensas, parafrasis, traducciones o mezclas con otros textos. Además, no se ha revelado el mecanismo técnico detrás de la detección de la marca, lo que dejó en duda su efectividad.
Algunos desarrolladores señalan que, dado que el objetivo es ocultar la marca, es posible que otros modelos de IA puedan reescribir el texto para borrar la señal. En cuanto a la condicionante de la salida, Anthropic asegura que la marca no altera el significado, calidad ni legibilidad de las respuestas, aunque no ha proporcionado detalles sobre cómo se incrusta en el texto.
Este enfoque recuerda el caso de los GUID en Office 97 de Microsoft, identificadores invisibles que incluÃan información derivada de la dirección MAC de la tarjeta de red, y que más tarde generaron polémica. La implementación de la marca de agua por parte de Anthropic es un intento de equilibrar la transparencia con la protección de la propiedad intelectual y la integridad de los textos generados por IA.
Etiquetas: TecnologÃa, Integridad Digital, Transparencia, IA, TecnologÃa · OpenAI, ChatGPT y Anthropic, TecnologÃa · OpenAI, ChatGPT y Anthropic
About the Author
