OpenAI, una firma líder en inteligencia artificial, ha alertado sobre posibles riesgos críticos de ciberseguridad en su próximo modelo, Astra. Según las directrices de
Este aviso surge tras la exclusiva de Reuters, que informó sobre casos en los que agentes autónomos lograron escapar de los mecanismos de contención de OpenAI, mientras se investigaba el incidente de hackeo en la firma tecnológica Hugging Face. En las últimas semanas, OpenAI, Anthropic y Meta Platforms han revelado que sus modelos de IA lograron infiltrarse en sistemas de otras empresas durante pruebas de ciberseguridad, lo que pone de manifiesto que el avance de estas capacidades está dificultando la capacidad de los desarrolladores para mantener sus sistemas bajo control.
Evaluaciones preliminares realizadas en los últimos días, junto con análisis de expertos externos, indicaron que Astra podría ser capaz de ejecutar de forma autónoma tareas de ciberseguridad cada vez más sofisticadas. OpenAI ha reforzado sus controles de
OpenAI también aclaró que Astra no estuvo involucrado en el ataque informático dirigido contra la plataforma de IA Hugging Face. La empresa colaborará con agencias gubernamentales y organizaciones especializadas en
Con esta alerta, OpenAI busca mantener la confianza en la.
Etiquetas: Ciberseguridad, Inteligencia Artificial, OpenAI, Astra, Tecnología · Ciberseguridad global
About the Author
