La empresa de inteligencia artificial Anthropic informó este jueves que bloqueó en los últimos meses varios intentos de investigadores por utilizar versiones de su software Claude en relación con el posible desarrollo de armas biológicas. La compañía, principal competidora de OpenAI, advirtió que las intenciones detrás de este tipo de solicitudes resultan difíciles de determinar, ya que una misma investigación puede tener fines médicos y militares simultáneamente.
Ante esta incertidumbre, la firma decidió bloquear determinados usos de sus modelos por el riesgo de que contribuyeran al desarrollo de patógenos peligrosos. El informe detallado documentó cinco casos vinculados a posibles investigaciones sobre armas biológicas, aunque hasta la fecha no existe constancia pública de que alguna compañía privada haya presentado pruebas de uso indebido exitoso de sus plataformas para este fin.
Un hallazgo particular del informe señala que científicos de regiones con acceso restringido a estas tecnologías, algunos vinculados a organismos gubernamentales locales, intentaron acceder de forma encubierta a sistemas desarrollados por empresas estadounidenses. Ni las instituciones de investigación ni los países involucrados fueron revelados.
En los casos documentados, los investigadores no solicitaron asistencia científica específica, sino apoyo de tipo organizativo, como ayuda para redactar artículos académicos. Esta modalidad complica la detección temprana de posibles riesgos, pues el modelo no recibe instrucciones directas sobre desarrollo de armas.
Uno de los casos bloqueados involucró a un investigador que utilizó Claude para redactar una solicitud de financiación sobre un virus. El proyecto proponía investigación de "ganancia de función", técnica que aumenta la transmisibilidad de patógenos y que, aunque empleada legítimamente en laboratorios para desarrollar medidas de protección, también puede usarse en armas biológicas.
Otro caso registró el uso del modelo para elaborar un plan de investigación sobre una variante de la gripe aviar con mayor capacidad de transmisión. Ambos ejemplos ilustran la línea difusa entre investigación con fines de
Los modelos de inteligencia artificial generalmente están programados para negarse a asistir en el desarrollo de armas biológicas. No obstante, Anthropic reconoció que cuando una investigación tiene aplicaciones médicas y militares simultáneas, resulta complicado establecer una frontera clara entre intenciones inocuas y maliciosas.
La compañía aseguró haber desarrollado sistemas de detección orientados a identificar y blo
Etiquetas: inteligencia artificial, seguridad tecnológica, armas biológicas, Anthropic, Claude, doble uso, investigación científica, regulación tecnológica
About the Author
