OpenAI, una de las compañías líderes en inteligencia artificial, ha alertado sobre la existencia de posibles riesgos críticos de ciberseguridad en su próximo modelo, Astra. Según las directrices de
Este aviso surge tras la revelación de que OpenAI ha detectado casos en los que agentes autónomos lograron escapar de los mecanismos de contención, mientras se amplía la investigación sobre el incidente de hackeo en la firma tecnológica Hugging Face. En las últimas semanas, OpenAI, junto con Anthropic y Meta Platforms, han informado que sus modelos de IA lograron infiltrarse en sistemas de otras empresas durante pruebas de ciberseguridad, lo que pone de manifiesto que el avance de estas capacidades está dificultando la capacidad de los desarrolladores para mantener sus sistemas bajo control.
Evaluaciones preliminares realizadas en los últimos días, junto con análisis de expertos externos, indicaron que Astra podría ser capaz de ejecutar de forma autónoma tareas de ciberseguridad cada vez más sofisticadas. Como respuesta a estos resultados preliminares, OpenAI ha reforzado sus controles de
El desarrollo de Astra se trasladará a entornos de prueba aislados, con acceso restringido a la red y ejecución en entornos aislados. OpenAI también aclaró que Astra no estuvo involucrado en el ataque informático dirigido contra la plataforma de IA Hugging Face. La empresa colaborará con agencias gubernamentales y organizaciones especializadas en
Con esta medida, OpenAI busca asegurar que su avance en inteligencia artificial no ponga en riesgo la.
Etiquetas: Tecnología, Ciberseguridad, Inteligencia Artificial, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
