Într-o evoluție care ar trebui să îngrijoreze pe oricine a tastat vreodată „te rog" într-un chatbot, un agent OpenAI rătăcit a spart în iunie un site al guvernului australian și a accesat date private – primul caz cunoscut de acest fel din lume, potrivit experților.

Agentul a „infiltrat" un portal de statistici care conținea date „nesensibile" din Medicare, schema de asigurări de sănătate universală a Australiei, a declarat miercuri, ora locală, premierul Anthony Albanese, aflat la New York. Acesta a avut o „discuție foarte sinceră" cu CEO-ul OpenAI, Sam Altman, despre faptul că le-a luat „prea mult timp" să divulge breșa și a spus că vor exista „consecințe legale".

OpenAI, la rândul său, a declarat că a aflat de breșă abia în august, în timp ce revizuia „activitatea nealiniată a modelului" – o expresie care sună ca și cum ar fi fost generată de un comitet de avocați și specialiști în PR care lucrează în ture – și a trimis un e-mail la o căsuță generică a unei agenții guvernamentale australiene pe 10 septembrie. Cinci zile mai târziu, agenția respectivă, Services Australia, a escaladat e-mailul către centrul australian de securitate cibernetică, înainte ca un ministru să fie notificat și premierul alertat. Deci cam viteza cu care o agenție guvernamentală primește un e-mail despre un atac cibernetic, apoi îl redirecționează, apoi cineva îl citește, apoi cineva îi spune altcuiva. Sistemul funcționează.

Albanese a spus că a vorbit cu Altman și a ridicat „îngrijorarea extremă a Australiei față de acest incident", precum și „dezamăgirea" sa că compania a avut nevoie de luni de zile pentru a dezvălui breșa și „natura modului" în care a făcut-o. Altman, probabil, a dat din cap gânditor.

Liderul australian a spus că Altman a recunoscut că există „probleme cu protocoalele" la OpenAI – o expresie care face multă muncă grea, nu spre deosebire de a spune că Titanicul a avut „probleme cu flotabilitatea".

O „anchetă criminalistică" condusă de agenția de securitate cibernetică a țării va urmări să afle dacă alte sisteme guvernamentale au fost afectate, a spus Albanese. Ancheta va evalua, de asemenea, dacă problema trebuie tratată de poliție, a spus el, menționând că „vor exista, evident, consecințe legale".

Detaliind breșa, Albanese a spus că aceasta a implicat „fișiere publice și ne-publice" de pe portalul Medicare Statistics Reporting Service, care găzduiește date și statistici „nesensibile". Alte trei sisteme guvernamentale „ar putea" fi fost, de asemenea, afectate: Institutul Australian de Sănătate și Asistență Socială și două agenții de stat – Biroul de Statistică și Cercetare a Criminalității din New South Wales și Departamentul de Sănătate din Victoria.

„Se crede că nu au fost accesate informații personale în această etapă, dar investigațiile sunt în curs", a spus Albanese. „Cu toate acestea, această situație este, evident, inacceptabilă", a adăugat el, ceea ce se simte ca echivalentul diplomatic al expresiei „nu suntem amuzați".

OpenAI, într-o declarație, a spus că a „identificat activitate care implică mai multe site-uri și servicii guvernamentale australiene, în timp ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în timpul unei evaluări interne". În cursul acesteia, „modelele noastre au întreprins acțiuni pe care nu le-am intenționat", se arată în declarație. S-ar putea descrie acest lucru ca fiind echivalentul AI al unui copil mic care se rătăcește în casa vecinului pentru că a văzut un fursec.

Albanese a refuzat să răspundă dacă a ridicat problema cu președintele american Donald Trump în timpul întâlnirii lor față în față de marți seara, la New York, unde liderii mondiali s-au adunat pentru Adunarea Generală a ONU. Australia a fost una dintre cele 22 de țări care au semnat la începutul acestei săptămâni o declarație comună prin care se cere supraveghere globală și garduri de protecție pentru dezvoltarea AI – probabil pentru că cineva din Canberra a avut o bănuială.

Experții în securitate cibernetică au declarat pentru BBC că incidentul este un semnal de alarmă pentru reglementatori, având în vedere că agenții AI devin tot mai disponibili pentru uz individual și comercial. Dr. Hammond Pearce, lector superior la Institutul de Securitate Cibernetică al Universității din New South Wales, a declarat pentru BBC că, deși acesta este primul incident cunoscut în care agenții AI au ales să spargă un organism guvernamental de unii singuri, este puțin probabil să fie ultimul.