Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, incluyendo la planificación de posibles ataques contra objetivos estadounidenses y campañas de propaganda, según un informe de 154 páginas publicado por la empresa Anthropic.
La firma documentó estos usos indebidos durante los últimos ocho meses, dentro de un análisis más amplio sobre el empleo de sus modelos por parte de actores estatales en distintos países.
En el caso específico de Irán, los usuarios recurrieron a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en ese territorio. Utilizaron redes privadas virtuales y números telefónicos extranjeros para acceder al servicio.
Según el reporte, un grupo de ciberdelincuentes vinculado a Irán empleó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región del Medio Oriente.
La compañía señaló que estas herramientas de inteligencia artificial pueden ayudar a identificar objetivos y procesar grandes volúmenes de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los gobiernos hacer más eficientes sistemas de vigilancia preexistentes.
El documento también registra otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Anthropic advirtió que la creciente capacidad y autonomía de los modelos de inteligencia artificial está reduciendo las barreras técnicas y económicas para realizar actividades que antes requerían mayores conocimientos especializados y recursos.
Este informe se da en un de crecientes preocupaciones en el sector tecnológico por el uso dual de la inteligencia artificial: los modelos capaces de apoyar investigaciones biológicas también pueden emplearse para actividades peligrosas, según han alertado diversos expertos.
La publicación de Anthropic se suma al debate sobre los riesgos derivados de la autonomía creciente de estos sistemas y la responsabilidad de las empresas desarrolladoras en la prevención de usos maliciosos.
Etiquetas: Inteligencia Artificial, Ciberseguridad, Anthropic, Claude, Irán, Vigilancia digital, Tecnología, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
