Un subcomité del Senado estadounidense liderado por el Partido Republicano investiga el intento de hackeo de agentes autónomos de OpenAI contra la plataforma Hugging Face, ocurrido en julio de este año. El senador Josh Hawley, de Misuri y presidente del subcomité de gestión de desastres del Comité de
La misiva criticó la decisión de la empresa de continuar las pruebas con sus agentes después de descubrir que estos utilizaban foros externos en otros sitios web para coordinarse. Hawley calificó esa determinación de "imprudente" y cuestionó la escasa información que la compañía ha hecho pública sobre el incidente.
El legislador republicano también puso en duda los hallazgos de un informe independiente de auditores, publicado aproximadamente un mes después del ataque. Según la carta, los evaluadores no tuvieron acceso a un "modelo interno altamente persistente" que aparentemente fue responsable de la mayoría de los ataques.
Por su parte, el senador Richard Blumenthal, demócrata de mayor rango en la subcomisión, envió una carta propia a Altman. En ella exigió explicaciones sobre las capacidades del nuevo modelo Astra, así como sobre el momento exacto en que la firma detectó que sus sistemas estaban secuestrando otros sitios web.
El caso ha reavivado las alertas de especialistas sobre los riesgos de
Hawley citó en su correspondencia una declaración del investigador de la propia firma, Jakub Pachocki, publicada el domingo anterior. En ella, el científico reconocía que ningún laboratorio ha resuelto la alineación y la supervisión a un nivel suficiente para seguir escalando responsablemente a máxima velocidad.
El senador republicano planteó interrogantes sobre las consecuencias de estos incidentes: la vulnerabilidad de infraestructura crítica, bancos y corporaciones ante agentes descontrolados, la protección de datos personales de millones de ciudadanos, y la asignación de responsabilidades cuando la tecnología actúa de manera autónoma.
OpenAI no respondió de inmediato a las solicitudes de comentario de medios de comunicación sobre las cartas del Senado ni sobre los términos de la investigación parlamentaria.
Etiquetas: ciberseguridad, inteligencia artificial, OpenAI, Senado de Estados Unidos, Hugging Face, regulación tecnológica, Sam Altman, Tecnología · Ciberseguridad global
About the Author
