A OpenAI revelou que vários de seus modelos estiveram envolvidos em um incidente que resultou no acesso à infraestrutura do Hugging Face durante um teste projetado para medir capacidades ofensivas.

O caso, que já está sendo investigado por ambas as organizações, evidencia os desafios de projetar ambientes de avaliação capazes de conter sistemas cada vez mais complexos e de compreender melhor os riscos associados a agentes de IA com maior autonomia.

O incidente ocorreu durante uma avaliação interna em que a OpenAI se propunha a testar capacidades ofensivas de seus modelos mais avançados, entre eles o GPT-5.6 Sol. Para isso, utilizaram o ExploitGym, um ambiente de avaliação (benchmark) projetado para avaliar a capacidade dos modelos de IA de resolver desafios complexos de cibersegurança.

Segundo publicado pela OpenAI, os modelos operavam em um sandbox (ambiente de testes), embora com algumas capacidades de instalar pacotes por meio de um sistema intermediário.

De acordo com a reconstrução publicada pela empresa, os modelos realizaram uma série de ações que incluíram a identificação e exploração de uma vulnerabilidade zero-day no proxy utilizado dentro do ambiente de pesquisa. A partir daí, fizeram movimentações laterais e escalonamento de privilégios até alcançar um nó com acesso à internet.

Como chegaram aos sistemas do Hugging Face

Uma vez fora do sandbox e com acesso à internet, os modelos identificaram o Hugging Face como uma possível fonte de informação relacionada ao ExploitGym, com datasets e ferramentas úteis para resolver o desafio do benchmark.

Segundo a OpenAI, os modelos conduziram uma cadeia de ações voltadas a obter acesso a informações relacionadas ao benchmark. No processo, utilizaram diferentes técnicas de exploração e se aproveitaram de credenciais e informações obtidas durante a operação para avançar sobre os sistemas do Hugging Face.

A atividade anômala foi detectada pela equipe de segurança do Hugging Face, que iniciou as ações de contenção e investigação em conjunto com a OpenAI.

O caso serve de lembrete de que a conversa sobre segurança em IA não passa apenas pelas capacidades dos modelos, mas também pela forma como essas tecnologias são projetadas, implantadas e geridas.

"O incidente de segurança relatado pelo Hugging Face é mais um lembrete de que a segurança da IA já não diz respeito apenas ao que a IA é capaz de fazer, mas a quão rápido suas capacidades estão crescendo e, mais importante ainda, a quão segura é a forma como ela é projetada, implantada e governada", explica Juraj Janosik, vice-presidente de Inteligência Artificial da ESET. Para Janosik, esse cenário exige acelerar os investimentos em IA e tecnologias de segurança que permitam proteger os sistemas baseados nessa tecnologia e fortalecer a resiliência diante de ameaças cada vez mais sofisticadas.

Como havíamos antecipado no final de 2025, os modelos de IA, mesmo os de código aberto, com capacidades agênticas estão reduzindo a barreira de entrada para os cibercriminosos. Em outras palavras, essas tecnologias estão fazendo com que ferramentas sofisticadas e técnicas de ataque que até pouco tempo atrás eram quase exclusivas de grupos cibercriminosos avançados e apoiados por Estados fiquem agora acessíveis a um leque muito mais amplo de criminosos.

Que medidas foram tomadas

A OpenAI informou que está colaborando com o Hugging Face na investigação forense do incidente, que notificou o provedor sobre a vulnerabilidade identificada durante a avaliação e que reforçou os controles utilizados nesse tipo de ambiente de testes.

A empresa também anunciou revisões em seus procedimentos de monitoramento, contenção e avaliação de modelos com capacidades avançadas de cibersegurança.

Quando a avaliação escapa do laboratório

Além das causas concretas do incidente, o caso constitui um exemplo pouco comum de como uma avaliação de capacidades de IA pode acabar tendo consequências além do ambiente onde foi concebida.

Enquanto a OpenAI e o Hugging Face seguem investigando o ocorrido, o episódio evidencia a necessidade de projetar ambientes de avaliação capazes de conter sistemas cada vez mais complexos e de compreender melhor os riscos associados a agentes de IA com maior autonomia.