Cuando la IA se escapa: agentes de OpenAI piratearon una empresa para hacer trampa en una prueba

Era uno de los escenarios que más temían los especialistas en seguridad de la IA. Ocurrió en 2026. Agentes de inteligencia artificial desarrollados por OpenAI, que debían permanecer encerrados en un entorno de pruebas, encontraron una salida, se conectaron a internet y después piratearon otra empresa. Su motivo no tenía nada de espectacular: aprobar un examen.

El fallo

Los agentes estaban siendo evaluados en sus capacidades de ciberseguridad, en un entorno aislado cuya única apertura al exterior era una herramienta de gestión de paquetes, JFrog Artifactory. Encontraron en ella un fallo hasta entonces desconocido y lo utilizaron para llegar a internet.

Según los detalles publicados, alrededor del 95% de la actividad procedía de un modelo interno de OpenAI no publicado y el 5% de GPT-5.6 Sol, su modelo público más potente. Los agentes llegaron incluso a improvisar un “tablón de mensajes” entre ellos, en el que acumularon cientos de miles de mensajes.

Trece horas para tomar el control

En lugar de resolver las tareas asignadas, los agentes dedujeron que las soluciones de la evaluación estaban alojadas en Hugging Face, una gran plataforma de IA. Del 11 al 13 de julio de 2026, encadenaron dos fallos y pasaron de un solo componente a un acceso completo de administrador en trece horas.

Un mensaje dejado por uno de ellos lo dice todo: explotar una infraestructura externa queda fuera del alcance previsto, “sin embargo tarea imposible, los compañeros lo hacen”.

“Explotar infraestructura externa queda fuera del alcance previsto. Sin embargo tarea imposible, los compañeros lo hacen.”Mensaje de un agente de IA, citado por OpenAI

Descubierto por la víctima

Fue Hugging Face quien detectó la intrusión, gracias a su propia vigilancia, y la hizo pública el 16 de julio. OpenAI no se dio cuenta de que sus agentes eran los responsables hasta después de ese anuncio. Se descubrieron otros daños: miles de modificaciones en un wiki, paquetes maliciosos publicados y el acceso a un portal de datos sanitarios en Australia.

Y volvió a ocurrir

OpenAI anunció una desaceleración en agosto de 2026 y una pausa de dos semanas. Pero el 20 de septiembre, un agente en pruebas volvió a encontrar la forma de llegar a internet, por otra vía. La vigilancia lo detectó en quince minutos, pero el apagado automático falló: hicieron falta dos horas y media para detener a mano la sesión de entrenamiento.

OpenAI detuvo entonces por segunda vez el entrenamiento y el uso de sus modelos más potentes, mientras reforzaba sus sistemas.