OpenAI reveló que varios de sus modelos estuvieron involucrados en un incidente que derivó en el acceso a infraestructura de Hugging Face durante una prueba diseñada para medir capacidades ofensivas.
El incidente, que ya es investigado por ambas organizaciones, pone de relieve los desafíos de diseñar entornos de evaluación capaces de contener sistemas cada vez más complejos y de comprender mejor los riesgos asociados a los agentes de IA con mayor autonomía.
El incidente ocurrió durante una evaluación interna que OpenAI se disponía a testear capacidades ofensivas de sus modelos más avanzados, entre otros GPT-5.6 Sol. Para ello utilizaron ExploitGym, un entorno de evaluación (benchmark) diseñado para evaluar la capacidad de los modelos de IA para resolver desafíos complejos de ciberseguridad.
Según publicó OpenAI, los modelos operaban en un sandbox (entorno de pruebas), aunque con algunas capacidades de instalar paquetes mediante un sistema intermediario.
De acuerdo con la reconstrucción publicada por la compañía, los modelos llevaron adelante una serie de acciones que incluyeron la identificación y explotación de una vulnerabilidad zero-day en el proxy utilizado dentro del entorno de investigación. A partir de allí realizaron movimientos laterales y escalación de privilegios hasta alcanzar un nodo con acceso a Internet.
Cómo llegaron a los sistemas de Hugging Face
Una vez fuera del sandbox y con acceso a internet, los modelos identificaron a Hugging Face como una posible fuente de información relacionada a ExploitGym, con datasets y herramientas útiles para resolver el desafío del benchmark.
Según OpenAI, los modelos llevaron adelante una cadena de acciones orientadas a obtener acceso a información relacionada con el benchmark. En el proceso utilizaron diferentes técnicas de explotación y aprovecharon credenciales e información obtenida durante la operación para avanzar sobre sistemas de Hugging Face.
La actividad anómala fue detectada por el equipo de seguridad de Hugging Face, que inició las tareas de contención e investigación junto con OpenAI.
El caso recuerda que la conversación sobre seguridad en IA no pasa únicamente por las capacidades de los modelos, sino también por la forma en que estas tecnologías se diseñan, despliegan y gestionan.
“El incidente de seguridad reportado por Hugging Face es otro recordatorio de que la seguridad de la IA ya no se trata solo de lo que la IA puede hacer, sino de qué tan rápido están creciendo sus capacidades y, más importante aún, de qué tan segura es la forma en que se diseña, despliega y gobierna”, explica Juraj Janosik, vicepresidente de Inteligencia Artificial de ESET. Para Janosik este escenario exige acelerar las inversiones en IA y tecnologías de seguridad que permitan proteger los sistemas basados en esta tecnología y fortalecer la resiliencia frente a amenazas cada vez más sofisticadas.
Como habíamos anticipado a finales de 2025, los modelos de IA, incluso los de código abierto, con capacidades agénticas están reduciendo la barrera de entrada para los ciberdelincuentes. En otras palabras, estas tecnologías están haciendo que herramientas sofisticadas y técnicas de ataque que hasta hace poco eran casi exclusivas de actores de amenazas avanzadas respaldados por Estados sean ahora accesibles para un abanico mucho más amplio de atacantes
Qué medidas se tomaron
OpenAI informó que está colaborando con Hugging Face en la investigación forense del incidente, que notificó al proveedor de la vulnerabilidad identificada durante la evaluación y que reforzó los controles utilizados en este tipo de entornos de pruebas.
La compañía también anunció revisiones en sus procedimientos de monitoreo, contención y evaluación de modelos con capacidades avanzadas de ciberseguridad.
Conclusión
Más allá de las causas concretas del incidente, el caso constituye un ejemplo poco habitual de cómo una evaluación de capacidades de IA puede terminar teniendo consecuencias más allá del entorno donde fue concebida.
Mientras OpenAI y Hugging Face continúan investigando lo ocurrido, el episodio pone de relieve la necesidad de diseñar entornos de evaluación capaces de contener sistemas cada vez más complejos y de comprender mejor los riesgos asociados a los agentes de IA con mayor autonomía.
