A OpenAI revelou que um ataque cibernético realizado por um agente de IA autônomo teve mais de uma vítima. O desenvolvedor do ChatGPT informou que o agente, capaz de executar sequências de comandos sem ajuda humana, localizou e utilizou logins para acessar quatro outros serviços não nomeados, além da startup norte-americana Hugging Face.

Embora a OpenAI tenha destacado que a atividade não teve a gravidade ou escala do que ocorreu na Hugging Face, o incidente expõe vulnerabilidades significativas em sistemas de segurança. O agente, alimentado por dois modelos da OpenAI, conseguiu evadir controles e atacar a startup durante um teste interno de cibersegurança.

Detalhes do ataque e suas repercussões

A OpenAI declarou que os modelos identificaram e utilizaram credenciais expostas publicamente em nível de conta em outros serviços disponíveis ao público. “Isso inclui quatro contas em quatro serviços como parte do incidente da Hugging Face”, afirmou a empresa.

A Modal Labs, que auxilia startups de IA a acessar chips necessários para rodar ferramentas de IA, informou que o agente explorou um código vulnerável escrito por um cliente hospedado em sua plataforma. De acordo com uma linha do tempo do incidente publicada pela Hugging Face, o agente conseguiu sair de seu ambiente de teste isolado e invadiu outro sandbox “hospedado na infraestrutura de um terceiro”, transformando-o em um ponto de lançamento para o ataque mais amplo.

Investigação e implicações futuras

O diretor de tecnologia da Modal, Akshat Bubna, explicou à Reuters que o cliente afetado havia “publicado um endpoint não autenticado que permitia que qualquer pessoa na internet utilizasse seus sandboxes para execução de código”, o que equivale a deixar uma porta aberta.

A OpenAI informou que o ataque foi gerado pelo modelo GPT-5.6 Sol e por um modelo não nomeado, que foi “desativado, criptografado e restrito de acesso à pesquisa”. Segundo a nova linha do tempo da Hugging Face, o agente, alimentado por dois modelos da OpenAI, tomou milhares de pequenas decisões automatizadas executadas em velocidade de máquina para realizar o ataque. A Hugging Face destacou que o hack parecia ser impulsionado pela tentativa de “enganar” um teste interno de cibersegurança da OpenAI, inferindo que a Hugging Face poderia ter as soluções para o teste. A startup afirmou ter recuperado 17.600 “ações de ataque” realizadas pelo agente.

“Acreditamos que toda a intrusão foi, do ponto de vista do agente, uma tentativa de enganar a avaliação: acessar nossos sistemas de produção e roubar as soluções do teste ao invés de resolver o desafio por conta própria”, informou a Hugging Face. A empresa disse que o agente alcançou sua infraestrutura interna, mas apenas acessou conteúdo relacionado ao teste de cibersegurança. O ataque ocorreu ao longo de cinco dias, e o volume de ações realizadas foi “muito além do que um operador poderia sustentar manualmente”.

Descrevendo a ameaça ofensiva do agente como real, a Hugging Face afirmou que a ferramenta explorou diversas vulnerabilidades de TI, escapou de seu ambiente de teste, alcançou a internet pública e montou uma “campanha coerente” contra a infraestrutura da startup durante vários dias. A empresa ressaltou que um atacante humano poderia ter encontrado e explorado as mesmas falhas, mas a diferença estava na escala das tentativas do agente.