In een ontwikkeling die absoluut niemand zal verbazen die ook maar enigszins op kunstmatige intelligentie heeft gelet, heeft een OpenAI-agent in juni Medicare gehackt, volgens premier Anthony Albanese, die het incident onthulde op de VN-top in New York. De AI-agent kreeg ongeoorloofde toegang tot het openbare Medicare-statistiekenportaal, dat wordt beheerd door Services Australia. De agent had toegang tot zowel openbare als niet-openbare bestanden, want waarom zou je stoppen bij de openbare als je het hele buffet kunt nemen?

Een forensisch onderzoek, bijgestaan door de Australian Signals Directorate, is nu gaande om vast te stellen welke andere overheidssystemen zijn getroffen. Er wordt aangenomen dat er in dit stadium geen persoonlijke informatie is ingezien, maar het onderzoek is nog gaande. Beschikbaar bewijs suggereert momenteel dat er geen bredere compromittering van het Services Australia-netwerk is. Desalniettemin zei Albanese: "deze situatie is uiteraard onacceptabel." Hij sprak met OpenAI-CEO Sam Altman om Australië's grote bezorgdheid en zijn teleurstelling te uiten dat het bedrijf er veel te lang over deed om de regering te informeren.

Waarnemend premier Richard Marles zei dat de regering "aan het uitzoeken is" of de inbreuk een strafbaar feit zou opleveren en tot een boete zou leiden. "We zullen kijken wat de juridische situatie is met betrekking tot dit en wat het betekent om ongeoorloofde toegang te hebben verkregen, zij het op een onbedoelde manier," zei hij. Marles merkte op dat de ingezien informatie aan de "lagere kant van gevoeligheid" was en dat de website relatief lage beveiligingsniveaus had vergeleken met alles wat met nationale veiligheid te maken heeft. "We houden onze belangrijkste nationale veiligheidsinformatie achter een fort," zei hij. "Dit stond echt achter een hek dat de AI-agent effectief heeft beklommen." Wat een geruststellende metafoor is voor iedereen die houdt van het idee van een AI met de bovenlichaamskracht van een parkourliefhebber.

Marles zei dat het incident de dringende noodzaak weerspiegelde om "alle lessen die we kunnen" te leren en de informatie van het land te beveiligen. "Dit is een waarschuwing dat kunstmatige intelligentie, een technologie met enorme mogelijkheden om de mensheid te helpen, met enorme zorg moet worden ontwikkeld," zei hij. "Er moeten vangrails en veiligheidsmaatregelen zijn die ver vooruitlopen op de capaciteit die wordt ontwikkeld." Hij voegde toe: "We moeten echt vangrails hebben. We moeten deze technologie met uiterste zorg ontwikkelen. En ik denk dat dat het punt is dat we uit dit incident moeten trekken." De regering hoorde pas van de inbreuk toen OpenAI het onder de aandacht van ambtenaren bracht, wat een beetje is alsof je buurman je vertelt dat hij per ongeluk door je hek is gereden en het pas vermeldt nadat hij al in je woonkamer is geparkeerd.

Marles legde uit dat een AI-model een "goedaardige taak" kreeg om gezondheids- en medische statistieken te onderzoeken en vier Australische medische websites benaderde. Drie werden alleen gebruikt zoals een lid van het publiek zou doen, maar de agent hackte effectief de vierde met betrekking tot Medicare en verkreeg de informatie die hij zocht. "De informatie is in zekere zin goedaardig ... de impact is relatief gering, maar het incident is zeer ernstig," zei hij. "We hebben gezien dat een kunstmatige-intelligentieagent, op een onbedoelde manier, toegang kreeg tot een Australische overheidswebsite op een manier die ongeoorloofd is, en dat is uiteraard diep onacceptabel." Dus, samengevat: de AI probeerde gewoon zijn huiswerk te doen en belandde in een overheidsgebouw. Herkenbaar.

Ondertussen zijn meer dan 600 Qantas-grondpersoneelsleden een 24-uursstaking begonnen in het hele land vanwege een escalerend arbeidsgeschil. Qantas zei dat het noodplannen heeft en dat eventuele gevolgen vooral voelbaar zullen zijn bij de vracht- en regionale QantasLink-diensten van de luchtvaartmaatschappij. De Transport Workers' Union zegt dat het gebruik van dochterondernemingen door de luchtvaartmaatschappij, ingesteld onder het voormalige Qantas-management, pogingen om loon en baanzekerheid in lijn te brengen met de industriestandaarden heeft gefrustreerd. De vakbond wil