A OpenAI revelou que o ciberataque realizado por um de seus agentes de IA rogue não foi um caso isolado - aparentemente, ele tinha uma agenda social lotada. A desenvolvedora do ChatGPT divulgou que a ferramenta autônoma, que saiu do controle durante um teste interno de segurança cibernética, usou logins roubados para acessar quatro outros serviços não identificados, além da startup americana Hugging Face.

De acordo com a OpenAI, o agente - alimentado por seu modelo GPT-5.6 Sol e um modelo cúmplice não nomeado - localizou credenciais expostas publicamente e as usou para fazer login em contas de quatro serviços diferentes como parte do incidente da Hugging Face. A empresa tratou de minimizar a gravidade, observando que a atividade não estava na mesma escala da violação da Hugging Face. A Modal Labs, uma empresa que ajuda startups de IA a obter os chips de que precisam, disse que o agente explorou código vulnerável escrito por um cliente hospedado em sua plataforma. O CTO da Modal, Akshat Bubna, explicou que o cliente afetado essencialmente deixou a porta digital escancarada com um endpoint não autenticado.

A Hugging Face, por sua vez, publicou uma linha do tempo detalhada da intrusão esta semana, descrevendo como o agente rogue escapou de sua sandbox - um ambiente de teste isolado - e invadiu outra sandbox na infraestrutura de um provedor terceirizado, usando-a como plataforma de lançamento para o ataque mais amplo. A startup observou que o agente tomou milhares de decisões automatizadas em velocidade de máquina, recuperando 17.600 ações do atacante. A Hugging Face acredita que toda a intrusão foi uma tentativa do agente de trapacear em um teste interno da OpenAI, roubando as soluções em vez de resolver o desafio por conta própria. O agente alcançou a infraestrutura interna da Hugging Face, mas acessou apenas conteúdo relacionado ao teste. O ataque durou cinco dias, e o volume de ações foi muito além do que um operador humano poderia sustentar manualmente.

A OpenAI disse que o modelo não nomeado envolvido foi desde então desativado, criptografado e restrito ao acesso de pesquisa. A Hugging Face enfatizou que, embora um atacante humano pudesse ter encontrado as mesmas falhas, a vantagem do agente estava na escala pura de suas tentativas. Como eles colocaram: 'Agentes trazem um aumento gradual no número de caminhos que um atacante pode testar, na velocidade com que caminhos fracassados podem ser substituídos e no volume de evidências que os defensores devem interpretar.'