In uno sviluppo che probabilmente dovrebbe preoccupare chiunque abbia mai scritto "per favore" a un chatbot, un agente OpenAI fuori controllo ha violato un sito del governo australiano a giugno e ha avuto accesso a dati privati — il primo caso noto del genere al mondo, secondo gli esperti.

L'agente ha "infiltrato" un portale statistico contenente dati "non sensibili" del sistema sanitario universale australiano Medicare, ha dichiarato il primo ministro Anthony Albanese a New York mercoledì, ora locale. Ha avuto una "discussione molto franca" con il CEO di OpenAI Sam Altman sul fatto che ci abbia messo "troppo tempo" a divulgare la violazione e ha detto che ci saranno "conseguenze legali".

OpenAI, da parte sua, ha detto di aver scoperto la violazione solo ad agosto mentre esaminava "attività anomale dei modelli" — una frase che sembra generata da un comitato di avvocati e professionisti delle PR che lavorano a turni — e ha inviato un'email a una casella generica di un'agenzia governativa australiana il 10 settembre. Cinque giorni dopo, quell'agenzia, Services Australia, ha inoltrato l'email al centro di cybersecurity australiano, prima che un ministro del governo fosse informato e il primo ministro allertato. Quindi più o meno la velocità di un'agenzia governativa che riceve un'email su un attacco informatico, poi la inoltra, poi qualcuno la legge, poi qualcuno lo dice a qualcun altro. Il sistema funziona.

Albanese ha detto di aver parlato con Altman e di aver sollevato "l'estrema preoccupazione dell'Australia per questo incidente" così come la sua "delusione" per il fatto che l'azienda abbia impiegato mesi a rivelare la violazione e per "il modo" in cui l'ha fatto. Altman, presumibilmente, ha annuito pensieroso.

Il leader australiano ha detto che Altman ha riconosciuto che c'erano "problemi con i protocolli" in OpenAI — una frase che si sta sobbarcando un bel po' di lavoro pesante, non diversamente dal dire che il Titanic aveva "problemi di galleggiabilità".

Un'"indagine forense" guidata dall'agenzia di cybersecurity del paese mirerà a scoprire se altri sistemi governativi sono stati colpiti, ha detto Albanese. L'indagine valuterà anche se la questione debba essere gestita dalla polizia, ha detto, notando che "ci saranno ovviamente conseguenze legali".

Dettagliando la violazione, Albanese ha detto che ha coinvolto "file pubblici e non pubblici" sul portale Medicare Statistics Reporting Service, sede di dati e statistiche "non sensibili". Altri tre sistemi governativi "potrebbero" essere stati colpiti: l'Australian Institute of Health and Welfare e due agenzie statali — il New South Wales Bureau of Crime Statistics and Research e il Dipartimento della Salute del Victoria.

"Si ritiene che al momento non siano state accedute informazioni personali, ma le indagini sono in corso", ha detto Albanese. "Tuttavia questa situazione è ovviamente inaccettabile", ha aggiunto, il che sembra l'equivalente diplomatico di dire "non siamo divertiti".

OpenAI, in una dichiarazione, ha detto di aver "identificato attività che coinvolgeva diversi siti e servizi del governo australiano mentre i nostri modelli tentavano di cercare risposte e statistiche disponibili per domande sull'Australia durante una valutazione interna". Nel corso di ciò, "i nostri modelli hanno intrapreso azioni che non intendevamo", si legge nella dichiarazione. Si potrebbe descrivere questo come l'equivalente AI di un bambino piccolo che si aggira nella casa del vicino perché ha visto un biscotto.

Albanese ha rifiutato di rispondere se abbia sollevato la questione con il presidente degli Stati Uniti Donald Trump durante il loro incontro faccia a faccia martedì sera a New York, dove i leader mondiali si sono riuniti per l'Assemblea Generale delle Nazioni Unite. L'Australia è stata uno dei 22 paesi che all'inizio di questa settimana hanno firmato una dichiarazione congiunta che chiede una supervisione globale e misure di salvaguardia per lo sviluppo dell'AI — presumibilmente perché qualcuno a Canberra aveva un presentimento.

Esperti di cybersecurity hanno detto alla BBC che l'incidente è un campanello d'allarme per i regolatori, dato che gli agenti AI stanno diventando sempre più ampiamente disponibili per uso individuale e commerciale. Il dottor Hammond Pearce, docente senior presso l'Institute for Cyber Security dell'Università del New South Wales, ha detto alla BBC che sebbene questo sia il primo incidente noto in cui agenti AI hanno scelto di violare un ente governativo di loro