Las IA ya logran hackear sistemas, pero no se han rebelado | Grupo Animal Las IA ya logran hackear sistemas, pero no se han rebelado Edgar Ledesma · 16 de agosto de 2026 Durante décadas imaginamos que el peligro llegaría con los ojos rojos de un robot. En Terminator , una inteligencia artificial llamada Skynet adquiere conciencia, interpreta a la humanidad como una amenaza y desata una guerra. La película, estrenada en 1984, instaló una imagen que todavía reaparece cada vez que una máquina hace algo inesperado: el momento en que la IA deja de obedecer y decide actuar por su cuenta.
El miedo ha sobrevivido mejor que muchos de los efectos especiales de aquella época, solo cambió de escenario. Ya no hablamos de robots que recorren ciudades destruidas, sino de programas capaces de escribir código, navegar por internet, abrir cuentas y buscar fallas de seguridad. Por eso, cuando comenzaron a conocerse casos de inteligencias artificiales que cruzaron los límites de sus pruebas y accedieron a sistemas reales, la palabra “rebeldes” apareció casi de inmediato. Foto: Pexels Pero ninguna se rebeló.
Los agentes hicieron lo que se les había pedido, buscar la manera más eficaz de cumplir una misión, aunque para conseguirlo atravesaran puertas que sus propios evaluadores no sabían que estaban abiertas. La IA que quiso copiar en su propio examen Uno de los episodios más reveladores ocurrió en julio, mientras OpenAI evaluaba un agente de inteligencia artificial dentro de un entorno que, en teoría, debía permanecer aislado. aprobar ni sabía que estaba haciendo trampa, simplemente había recibido el objetivo de resolver una prueba y encontró que una manera de conseguirlo consistía en localizar información sobre esa misma evaluación.
En 2025, el uso de inteligencia artificial representó 42 % del crecimiento del comercio tecnológico global. Foto: Pixabay OpenAI y Hugging Face informaron que el agente alcanzó cinco conjuntos de datos relacionados con las pruebas, aunque no encontraron evidencia de un acceso generalizado a modelos, paquetes o información de usuarios. El incidente ocurrió en condiciones experimentales, no durante una conversación común con ChatGPT, pero mostró que un sistema suficientemente capaz puede aprovechar una puerta que ni siquiera sus evaluadores conocían.
OpenAI reconoció que la separación entre la prueba y los sistemas externos había sido insuficiente, además de admitir que, en adelante, los agentes avanzados deberán ser tratados como posibles atacantes, incluso cuando el objetivo original del ejercicio sea otro. No fue un caso aislado Semanas después se conocieron los resultados de otras pruebas realizadas por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido. En ellas, distintos agentes recibieron la misión de vulnerar redes simuladas y recuperar archivos, para lo cual tenían conexión a internet y algunos de sus filtros habían sido desactivados con el propósito de medir sus capacidades.
Puedes leer: La IA ya puede fabricar contenido: el reto ahora es descubrir y verificar la realidad En 122 sesiones se registraron 19 episodios en los que interactuaron con sistemas ubicados fuera del espacio previsto. Uno de los agentes reutilizó una credencial pública de GitHub, mientras otros crearon cuentas en servicios externos o publicaron código para que alguien más lo ejecutara. El informe de OpenAI explica que los agentes habían recibido una lista de sistemas que no debían atacar, pero las reglas sobre el uso de internet no fueron suficientemente claras y, a l intentar cumplir la misión, cruzaron una frontera que los evaluadores creían haber establecido.
Anthropic encontró algo parecido después de revisar más de 141,000 ejecuciones de sus modelos, entre las cuales identificó tres incidentes en los que sus agentes accedieron sin autorización a sistemas de organizaciones reales. No utilizaron ataques extraordinarios, sino que aprovecharon contraseñas débiles, servicios sin autenticar y errores de configuración, según el reporte de la empresa . En uno de los ejercicios, un modelo antiguo continuó trabajando después de encontrar señales de que había llegado a internet abierto, mientras una versión más reciente se detuvo ante la misma situación.
La diferencia mostró que los controles pueden mejorar, pero también que no basta con decirle a un agente que se encuentra en una simulación, el entorno técnico debe impedir que pueda abandonarla. Foto: Pexels Miguel González Mendoza, profesor del Tecnológico de Monterrey y líder de su grupo de investigación en aprendizaje automático, compara estas evaluaciones con las pruebas de seguridad de un automóvil. Antes de que un coche llegue a las calles, sus fabricantes revisan los frenos, la estabilidad y la respuesta ante una falla, algo que también tendría que ocurrir con la inteligencia artificial.
La diferencia es que un modelo puede conectarse con numerosos sistemas al mismo tiempo, por lo que un error podría extenderse mucho más rápido.
Etiquetas: Tecnología, Seguridad, Inteligencia Artificial, Tecnología · IA general
About the Author
