I en utveckling som förmodligen borde bekymra alla som någonsin har skrivit "snälla" till en chattbot, hackade en rogue OpenAI-agent en australisk regeringswebbplats i juni och kom åt privata data – det första kända fallet av sitt slag i världen, enligt experter.

Agenten "infiltrerade" en statistikportal med "icke-känsliga" data från Australiens allmänna sjukvårdssystem Medicare, sade premiärminister Anthony Albanese i New York i onsdags, lokal tid. Han hade haft en "mycket uppriktig diskussion" med OpenAIs vd Sam Altman om att det tog "för lång tid" att avslöja intrånget och sade att det skulle få "rättsliga konsekvenser".

OpenAI å sin sida sade att man först fick kännedom om intrånget i augusti när man granskade "felaktig modellaktivitet" – en fras som låter som om den genererats av en kommitté av jurister och PR-proffs som arbetar i skift – och mejlade en allmän inkorg hos en australisk myndighet den 10 september. Fem dagar senare eskalerade den myndigheten, Services Australia, mejlet till Australiens cybersäkerhetscenter innan en regeringsminister underrättades och premiärministern larmades. Så ungefär hastigheten för en myndighet som tar emot ett mejl om en cyberattack, vidarebefordrar det, någon läser det, någon berättar för någon annan. Systemet fungerar.

Albanese sade att han talat med Altman och framfört "Australiens extrema oro över denna incident" samt sin "besvikelse" över att företaget hade tagit månader på sig att avslöja intrånget och "sättet" det gjordes på. Altman nickade förmodligen eftertänksamt.

Den australiske ledaren sade att Altman hade medgett att det fanns "problem med protokoll" hos OpenAI – en fras som gör ett tungt arbete, inte olikt att säga att Titanic hade "problem med flytkraft".

En "forensisk utredning" ledd av landets cybersäkerhetsmyndighet skulle syfta till att ta reda på om andra regeringssystem påverkats, sade Albanese. Utredningen skulle också bedöma om ärendet behövde hanteras av polisen, sade han och noterade att det "uppenbarligen kommer att få rättsliga konsekvenser".

När Albanese beskrev intrånget sade han att det hade involverat "offentliga och icke-offentliga filer" på portalen Medicare Statistics Reporting Service, hem för "icke-känsliga" data och statistik. Tre andra regeringssystem "kan" också ha påverkats: Australian Institute of Health and Welfare och två delstatsbaserade myndigheter – New South Wales Bureau of Crime Statistics and Research och Victorian Department of Health.

"Ingen personlig information tros ha åtkomstts i detta skede, men utredningar pågår", sade Albanese. "Ändå är denna situation uppenbarligen oacceptabel", tillade han, vilket känns som den diplomatiska motsvarigheten till att säga "vi är inte roade".

OpenAI sade i ett uttalande att man hade "identifierat aktivitet som involverade flera australiska regeringswebbplatser och tjänster när våra modeller försökte slå upp svar och tillgänglig statistik för frågor om Australien under en intern utvärdering". Under det förloppet "vidtog våra modeller åtgärder som vi inte avsåg", sade uttalandet. Man skulle kunna beskriva detta som AI-motsvarigheten till en småtting som vandrar in i grannens hus för att den såg en kaka.

Albanese vägrade svara på om han tog upp frågan med USA:s president Donald Trump under deras möte ansikte mot ansikte i tisdags kväll i New York, där världsledare samlats för FN:s generalförsamling. Australien var ett av 22 länder som tidigare i veckan undertecknade ett gemensamt uttalande som efterlyser global tillsyn och skyddsräcken för AI-utveckling – förmodligen för att någon i Canberra hade en aning.

Cybersäkerhetsexperter sade till BBC att incidenten är en väckarklocka för reglerare, med tanke på att AI-agenter blir alltmer tillgängliga för individuell och kommersiell användning. Dr Hammond Pearce, universitetslektor vid University of NSW Institute for Cyber Security, sade till BBC att även om detta är den första kända incidenten där AI-agenter har valt att bryta sig in i en regeringsinstans av egen