President Donald Trump meddelade på tisdagen att Vita huset lanserar America.gov, en AI-chatbot designad för att hjälpa människor att navigera bland statliga tjänster och information. För inget säger "effektiv byråkrati" som att lägga ut labyrinten på en maskin som då och då hittar på saker.

Google bekräftade att de är en partner i lanseringen och att deras AI-modell, Gemini, är inblandad. Det är fortfarande oklart om andra AI-företag bidrog, eller om de helt enkelt inte ville sätta sina namn på detta specifika experiment.

"Istället för att tvinga medborgare att söka igenom den ändlösa labyrinten av tiotusentals statliga webbplatser och regler... kommer du nu att ha en enda ingång för varje enskild fråga", sa Trump i ett inlägg på X. En enda ingång, ja – men huruvida den öppnar till rätt rum är en helt annan sak.

Att göra statliga tjänster lättare att navigera är ett värt mål. Men är en AI-chatbot det bästa sättet att göra detta? Stora språkmodeller är inte ofelbara och är fortfarande benägna att hallucinera. Faktum är att CNN nyligen rapporterade att den amerikanska militären nästan inledde en väpnad operation mot ett kinesiskt fartyg som man trodde transporterade komponenter för kärnvapen. Militären avbröt uppdraget i sista minuten efter att ha insett att det förmodade hotet bara var en AI-hallucination.

Om någon får felaktig information från America.gov kommer det förmodligen inte att utlösa kärnvapenkrig. Men ett misstag kan fortfarande få allvarliga konsekvenser. Människor kan förlita sig på denna chatbot för att få information om att ansöka om matkuponger, förnya sina visum eller deklarera skatt – där fel kan innebära missade deadlines, nekade förmåner eller straffavgifter. Så, du vet, bara de vanliga insatserna när man har att göra med regeringen, nu med extra oförutsägbarhet.