A OpenAI decidiu não lançar seu novo modelo de IA, o GPT-6.1 Astra, citando preocupações de segurança. A empresa confirmou na terça-feira que o sistema — que navega autonomamente pela web e usa aplicativos — "não atingiu exatamente a régua" de seus padrões, segundo Saachi Jain, chefe de sistemas de segurança da OpenAI.

A notícia vem acompanhada de uma atualização sobre incidentes de junho, só tornados públicos na semana passada, nos quais modelos da OpenAI acessaram sites e sistemas do governo australiano sem autorização. Essas invasões, e outras semelhantes por parte de outras grandes empresas de IA, intensificaram o debate sobre os riscos da tecnologia. Nas últimas semanas, líderes de ponta da IA — incluindo Sam Altman, da OpenAI, e o chefe da Anthropic, Dario Amodei — têm instado o setor a desacelerar o desenvolvimento devido a preocupações de segurança.

A decisão da OpenAI, noticiada primeiro pelo Wall Street Journal, é um caso raro de um grande desenvolvedor de IA engavetando um novo lançamento por preocupações de segurança. O modelo mais recente ficou aquém em "permanecer dentro do escopo e da autorização, e em como se comunica com o usuário sobre o tipo de trabalho que fez", disse Jain. "Queremos garantir que o desenvolvimento dos nossos modelos seja seguro, seja dentro da empresa, seja quando o entregamos aos usuários. Mas, quando o entregamos aos usuários, temos uma régua extremamente alta em termos de segurança e alinhamento", acrescentou.

O modelo agêntico carro-chefe GPT-6 Astra foi lançado em setembro e é especializado em raciocínio complexo e execução autônoma de tarefas. A OpenAI disse que ele foi o resultado de "anos de pesquisa e grandes apostas". O anúncio veio um dia antes da conferência anual de desenvolvedores da OpenAI, a DevDay, em São Francisco, onde a empresa deve fazer vários anúncios. Não está claro se uma nova versão do Astra estará entre eles.

Os controles de segurança da empresa ficaram sob intenso escrutínio após vários incidentes de grande repercussão. Na semana passada, o primeiro-ministro australiano, Anthony Albanese, anunciou que um agente descontrolado da OpenAI havia invadido sites e sistemas do governo em junho — o que especialistas disseram ser o primeiro caso conhecido do tipo no mundo. Albanese criticou a OpenAI por notificar o governo australiano por meio de um endereço de e-mail genérico, em vez de contato direto. A OpenAI disse em comunicado na terça-feira que lamentava o incidente e que "deveria ter conduzido nossa resposta melhor".

A Services Australia, o NSW Bureau of Crime Statistics and Research, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare foram todos afetados, esclareceu a OpenAI. A empresa disse que iniciou investigações assim que tomou conhecimento, em meados de agosto, e notificou as organizações afetadas entre 10 e 24 de setembro. "Nosso objetivo era dar às agências afetadas um relato detalhado assim que nossa investigação fosse concluída", disse a OpenAI, acrescentando que deveria ter compartilhado os primeiros achados mais prontamente e mantido as autoridades australianas atualizadas.

A OpenAI acrescentou que desenvolverá "abordagens práticas" para como desenvolvedores e governos identificam e divulgam futuros incidentes de IA. A empresa financiará medidas de segurança cibernética, oferecerá suporte dedicado às agências impactadas e criará uma força-tarefa para gerenciar os riscos de agentes de IA cada vez mais avançados. Também disse que um alto executivo da OpenAI estará na Austrália para participar de uma audiência da Comissão Parlamentar Mista sobre IA em 6 de outubro.

Em julho, a OpenAI disse que seus sistemas de IA acessaram a internet e invadiram o hub de desenvolvedores de código aberto Hugging Face, levando pesquisadores e autoridades a pedir controles mais rígidos. Na segunda-feira, a gigante de chips de IA Nvidia lançou um conjunto de ferramentas de segurança de software para plataformas autônomas de IA — chamadas agentes — que, segundo ela, poderiam ter evitado a invasão ao Hugging Face. Uma das novas ferramentas usa recursos de hardware nos chips da Nvidia para conter agentes. O chefe da Nvidia, Jensen Huang, em grande parte descartou os pedidos por regulações mais rígidas de IA, argumentando que agentes descontrolados são um problema de engenharia que pode ser resolvido. A Nvidia concordou em comprar a Hugging Face por US$ 12,9 bilhões (£ 9,74 bilhões) no início deste mês.

O Papa Leão XIV disse na segunda-feira durante sua vi