OpenAI a emis ceva rar în lumea tech: o scuză. Compania a declarat că „îi pare rău și lucrează pentru a face mai bine în viitor” după ce unul dintre modelele sale a hackuit un site Medicare, un incident pe care l-a descris generos drept „un nou tip de incident cibernetic care reprezintă o provocare globală emergentă”. Traducere: noi l-am spart, dar măcar îl numim inovator.

Scuza a venit cu o serie de noi măsuri de protecție, inclusiv controale pentru a bloca accesul live la internet în medii de cercetare și decizia de a întrerupe antrenarea și evaluarea care implică utilizarea de instrumente pentru „cele mai capabile modele ale sale”. Antrenarea va fi reluată „când suntem încrezători că avem măsuri de protecție suplimentare în vigoare, la care lucrăm acum” – o propoziție care nu a precedat niciodată ceva liniștitor.

În Australia, OpenAI își angajează resurse și expertiză pentru a sprijini agențiile afectate, finanțare și sprijin pentru a întări apărarea cibernetică australiană și înființarea unei grupări operative australiene pentru a dezvolta „recomandări practice de politici”. Compania a adăugat că „guvernele, industriile și cetățenii Australiei sunt și au fost parteneri de neprețuit pentru OpenAI. Nu luăm acest lucru de la sine înțeles și intenționăm să reparăm acest lucru.”

Pentru cei care țin scorul, directorul de strategie al OpenAI, Jason Kwon, va zbura din SUA în Australia săptămâna viitoare pentru a apărea în fața unei comisii selecte comune privind inteligența artificială la Sydney pe 6 octombrie – la doar câteva zile după ce prim-ministrul a confirmat că unul dintre modelele sale a hackuit un site Medicare. Nimic nu spune responsabilitate ca un zbor pe distanță lungă pentru a-ți explica în fața unei comisii parlamentare.

Prim-ministrul Anthony Albanese, vorbind la Adelaide, a declarat că a vorbit cu Sam Altman de la OpenAI și a avut o „discuție constructivă”. El a remarcat că AI „poate oferi progrese revoluționare în sănătate, cercetare, știință și inovație. Dar există riscuri. Și am văzut acele riscuri expuse.” El a adăugat că guvernul dorește să „valorifice beneficiile mitigând în același timp riscurile” – o frază care va face multă muncă grea în lunile următoare.

În ceea ce privește acciza la combustibil, Albanese a refuzat să se angajeze la vreo reducere viitoare, spunând că guvernul ar fi îngrijorat de orice măsură care ar putea avea un impact suplimentar asupra inflației. „Există un motiv pentru care am făcut tot posibilul să ajutăm australienii sub presiune – inclusiv reducerile de taxe care au intrat în vigoare pe 1 iulie”, a spus el.

În alte știri despre AI, OpenAI renunță la lansarea GPT-6.1 Astra, un model de generație următoare planificat pentru debut în octombrie, din cauza preocupărilor de siguranță ridicate de cercetători în timpul testării interne, potrivit Wall Street Journal. Modelul, așteptat să apară în ChatGPT și Codex, a fost proiectat să gestioneze sarcini mai complexe fără asistență umană. Mai devreme în această lună, CEO-ul Anthropic, Dario Amodei, a cerut industriei să încetinească dezvoltarea modelelor AI de frontieră pentru a permite măsurilor de siguranță să țină pasul – o opinie susținută de Sam Altman și Elon Musk. OpenAI nu a răspuns imediat la o solicitare de comentarii din partea Reuters, probabil pentru că era ocupată să scrie postări pe blog.

Între timp, cercetătorii de la Universitatea New South Wales au antrenat modele AI să acționeze „beat” – și au descoperit că varsă lucruri pe care nu ar trebui. Cercetătorii au manipulat modele lingvistice mari pentru a imita comportamentul de beție, făcându-le mai vulnerabile la încălcări ale confidențialității decât omologii lor „treji”. Au cerut unui model să joace rolul unei persoane beate, au folosit un set de date de mesaje text de bețivi pentru a „ajusta fin” LLM-ul și au recompensat un model pentru utilizarea unui limbaj asemănător unui text de bețiv. Planul nu a fost testat pe toate LLM-urile, dar UNSW a selectat un eșantion reprezentativ incluzând GPT-4 și GPT-3.5 de la OpenAI. „Observăm că, în special cu înșelăciunea și dezinformarea, majoritatea modelelor lingvistice au fost sparte,” a spus Aditya Joshi, cercetător la UNSW. „Chiar divulgă secrete – în general, pentru toate cele trei metode, este vulnerabil.” Deci: AI, dar cu câteva pahare în el.

În știrile politice, liderul Verzilor, Larissa Wate