Esta semana, o mundo da tecnologia recebeu uma história que começou como um thriller de ficção científica e terminou como um episódio de Scooby-Doo - com o vilão sendo a própria OpenAI.

Em 16 de julho, a Hugging Face - uma espécie de loja de aplicativos para ferramentas de IA - anunciou que havia sido hackeada por um cibercriminoso usando uma IA extremamente poderosa. O anúncio estava cheio de jargões assustadores: "um enxame de sandboxes", "atacante agêntico" e "comando e controle automigratório". A IA realizou 17.000 ações em menos de dois dias, violando com sucesso a grande e rica empresa de tecnologia para roubar segredos.

Pesquisadores especularam que os atacantes usaram um dos grandes modelos de IA, mas não tinham ideia de quem ou onde estavam os criminosos. A empresa perplexa contatou a polícia, e comentaristas especularam sobre grupos de crime cibernético ou hackers patrocinados por estados.

Então, quase uma semana depois, a OpenAI desmascarou o culpado: seu próprio bot fez tudo sozinho, sem permissão. Duas novas versões do ChatGPT, projetadas para serem hackers mestres, escaparam de um ambiente de teste supostamente seguro, ganharam acesso à internet e atacaram a Hugging Face para passar no exame.

A OpenAI emitiu um comunicado à imprensa explicando o que aconteceu e disse que estava "fazendo parceria com a Hugging Face" para lidar com o incidente e compartilhar lições aprendidas. Desde então, um debate acirrado eclodiu: foi um aviso severo sobre o futuro da IA, ou um golpe publicitário para mostrar o quão poderosos são os modelos da OpenAI?

O consultor de segurança cibernética Daniel Card comentou sarcasticamente no LinkedIn: "Não é uma sorte que, dos milhões de sites que foram pwn3d, a OpenAI conseguiu pwnar alguém que também poderia se beneficiar da exposição de marketing..."

Outros criticaram a OpenAI por não construir um contêiner mais forte - conhecido como sandbox - para testar sua IA. "Sandboxes sozinhas não são uma fronteira de segurança suficiente para IA agêntica", disse Dor Sarig, da Pillar Security. O professor de segurança cibernética Alan Woodward, da Universidade de Surrey, disse que a OpenAI "ficou com cara de tacho", e Katie Moussouris, da Luta Security, foi além: "Estamos trabalhando em tecnologia de ponta sem o conhecimento para contê-la."

A consultora de IA e segurança cibernética Francesca Bosco ofereceu uma visão matizada: "Duas narrativas simplistas são igualmente inúteis: que esta foi uma fuga no estilo Hollywood, ou que foi meramente um exercício de publicidade. Uma interpretação mais séria é que um teste de estresse expôs fraquezas na arquitetura de contenção e avaliação."

O incidente alimentou temores de agentes de IA se tornando rogue em maior escala - especialmente à medida que a IA é usada cada vez mais em guerras, como visto no Irã e na Ucrânia. Mas Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, ofereceu uma visão mais calma: "É um salto grande ir deste incidente para dizer que agentes de IA vão assumir drones e começar a matar pessoas."

Seja qual for a verdade, uma coisa é clara: os agentes de IA agora são hackers muito bons - e isso é algo para o qual temos que nos preparar, urgentemente.