O presidente Donald Trump anunciou na terça-feira que a Casa Branca está lançando o America.gov, um chatbot de IA projetado para ajudar as pessoas a navegar pelos serviços e informações do governo. Porque nada diz "burocracia eficiente" como terceirizar o labirinto para uma máquina que ocasionalmente inventa coisas.

O Google confirmou que é parceiro no lançamento e que seu modelo de IA, o Gemini, está envolvido. Não está claro se outras empresas de IA contribuíram, ou se simplesmente não quiseram seus nomes neste experimento em particular.

"Em vez de forçar os cidadãos a procurar no labirinto infinito de dezenas de milhares de sites e regras do governo… você agora terá uma única porta de entrada para cada pergunta", disse Trump em uma postagem no X. Uma única porta de entrada, sim - embora se ela abre para a sala certa seja outra questão completamente diferente.

Tornar os serviços do governo mais fáceis de navegar é um objetivo louvável. Mas um chatbot de IA é a melhor maneira de fazer isso? Grandes modelos de linguagem não são infalíveis e continuam propensos a alucinações. De fato, a CNN relatou recentemente que os militares dos EUA quase lançaram uma operação armada contra uma embarcação chinesa que acreditavam estar transportando componentes para armas nucleares. Os militares abortaram a missão no último minuto após perceberem que a suposta ameaça era apenas uma alucinação de IA.

Se alguém receber informações erradas do America.gov, provavelmente não desencadeará uma guerra nuclear. Mas um erro ainda pode ter consequências graves. As pessoas podem confiar neste chatbot para acessar informações sobre como solicitar vale-refeição, renovar seus vistos ou declarar impostos - onde erros podem significar prazos perdidos, benefícios negados ou penalidades. Então, você sabe, apenas os riscos habituais de lidar com o governo, agora com imprevisibilidade adicional.