President Donald Trump kondigde dinsdag aan dat het Witte Huis America.gov lanceert, een AI-chatbot die mensen moet helpen navigeren door overheidsdiensten en -informatie. Want niets zegt "efficiënte bureaucratie" als het uitbesteden van het doolhof aan een machine die af en toe dingen verzint.

Google bevestigde partner te zijn bij de lancering en dat zijn AI-model, Gemini, erbij betrokken is. Het blijft onduidelijk of andere AI-bedrijven hebben bijgedragen, of dat ze gewoon hun naam niet aan dit specifieke experiment wilden verbinden.

"In plaats van burgers door het eindeloze doolhof van tienduizenden overheidswebsites en -regels te laten zoeken... heb je nu één voordeur voor elke vraag," zei Trump in een bericht op X. Eén voordeur, ja - of die naar de juiste kamer leidt, is echter een heel andere kwestie.

Het gemakkelijker maken om door overheidsdiensten te navigeren is een nobel doel. Maar is een AI-chatbot de beste manier om dit te doen? Grote taalmodellen zijn niet onfeilbaar en blijven vatbaar voor hallucinaties. Sterker nog, CNN meldde onlangs dat het Amerikaanse leger bijna een gewapende operatie lanceerde tegen een Chinees schip waarvan het dacht dat het onderdelen voor kernwapens vervoerde. Het leger brak de missie op het laatste moment af nadat het zich realiseerde dat de vermeende dreiging slechts een AI-hallucinatie was.

Als iemand onjuiste informatie van America.gov ontvangt, zal dat waarschijnlijk geen kernoorlog ontketenen. Maar een fout kan nog steeds ernstige gevolgen hebben. Mensen vertrouwen misschien op deze chatbot voor informatie over het aanvragen van voedselbonnen, het verlengen van hun visa of het indienen van belastingen - waar fouten kunnen leiden tot gemiste deadlines, afgewezen uitkeringen of boetes. Dus, weet je, gewoon de gebruikelijke inzet van omgaan met de overheid, nu met extra onvoorspelbaarheid.