Iedereen die de afgelopen jaren internet heeft gebruikt, is waarschijnlijk gewend aan de typische tekenen van LLM-prompts die luie gebruikers soms vergeten te verwijderen uit hun AI-gegenereerde pulp. Maar Bill Oliver, een lid van de Progressief-Conservatieve Partij in de wetgevende vergadering van New Brunswick, bracht dat idee deze week naar een gênant nieuw niveau door een duidelijke LLM-promptinstructie voor te lezen tijdens een toespraak.

Oliver merkte in een toespraak vorige maand op dat "Een van de gevaren van het oprichten van belangenbehartigingskantoren is dat burgers vaak verwachtingen ontwikkelen die de feitelijke bevoegdheden van die kantoren overschrijden." Vervolgens zei hij hardop: "Hier is een meer natuurlijke, vloeiende versie van dat gedeelte dat klinkt als een wetgevende toespraak in plaats van een reeks korte punten" - een zin met alle kenmerken van een LLM die een alternatieve stijloptic presenteert als reactie op een prompt. De vreemde voorlezing bleef destijds min of meer onopgemerkt, maar video van de opmerkingen begon zich deze week te verspreiden op sociale media zoals Reddit en Threads. In Canada krijgt de blunder nu mainstream aandacht van onder meer de Canadian Broadcasting Corporation en The Toronto Star, die het een teken noemde van "een groeiende kloof in onze samenleving: tussen de elite, die maar al te graag hun taken aan de Borg delegeert; en de massa, die dit verwerpelijk vindt."

Oliver is lang niet de eerste politicus die blindelings een toespraak voorleest die duidelijk door iemand anders is voorbereid, en hij is zeker niet de eerste politicus die vertrouwt op een LLM voor het schrijven van toespraken. Maar het voorlezen van een duidelijk AI-gegenereerde non-sequitur in zo'n openbare setting - blijkbaar zonder te beseffen wat er in realtime gebeurde - vertegenwoordigt een moedige nieuwe grens in de annalen van gênante onthullingen van AI-gebruik. Met zijn toespraak voegt Oliver zich bij een groeiende trend van professionals wiens AI-gebruik op vernederende wijze aan het licht komt. Advocaten, auteurs, journalisten en academici hebben allemaal problemen ondervonden toen hun LLM-gebruik recentelijk aan het licht kwam, meestal wanneer iemand duidelijk gehallucineerde fouten opmerkte in ogenschijnlijk door mensen geschreven werk. Geen wonder dat een studie van Duke University vorig jaar aantoonde dat werknemers hun AI-gebruik verbergen, omdat collega's hun werk als "lui" of "vervangbaar" beschouwen vanwege het gebruik van LLM's.