Alibaba ha decidido prohibir el uso de los modelos de Inteligencia Artificial de la empresa Anthropic, según lo informó China Daily.
La medida se adopta tras la detección de un código en el modelo de IA que enviaba información de los usuarios, incluyendo detalles del sistema y el uso de proxy, con el objetivo de identificar procesos de reventa o destilación no autorizados.
A partir del 10 de julio, los empleados de Alibaba deberán desinstalar los productos de Anthropic, entre ellos Claude Sonnet, Claude Opus, Claude Fable y el agente de codificación Claude Code. Esta política representa un cambio significativo en el uso de modelos extranjeros dentro de la compañía.
La controversia se intensificó cuando desarrolladores identificaron mecanismos ocultos en Claude Code para identificar usuarios chinos. Un usuario de Reddit afirmó haber realizado ingeniería inversa del software y descubrió que utilizaba técnicas esteganográficas para marcar a usuarios chinos y transmitir esos identificadores a Anthropic.
Un informe de verificación en GitHub analizó versiones de Claude Code y confirmó la presencia de un mecanismo que funcionaría como un canal encubierto.
El análisis técnico señala que el código verifica la variable de entorno ANTHROPIC_BASE_URL y, si no se dirige a la ruta API personalizada, extrae el nombre del host proxy y verifica la zona horaria del sistema del usuario, buscando específicamente Asia/Shanghai o Asia/Urumqi.
El nombre del host se compara con una lista de 147 entradas que incluye dominios de empresas tecnológicas chinas, regiones de Nube china, laboratorios de IA chinos y servicios de reventa o proxy de Claude.
Aunque múltiples aplicaciones realizan un seguimiento y recolección de información del usuario, las críticas se centraron en la falta de transparencia de Anthropic respecto a la información que recaba.
Tras la revelación del código de seguimiento, Anthropic argumentó que estaba dirigido a monitorear posibles casos de reventa ilegal o de destilación del modelo sin autorización. La semana pasada, Anthropic acusó a Alibaba de realizar un proceso de destilación ilegal de sus modelos, utilizando 25,000 cuentas fraudulentas y realizando 28.
8 millones de transacciones con Claude para sustraer datos confidenciales y entrenar su propia IA.
Etiquetas: Tecnología, Alibaba, Anthropic, Seguridad, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
