În mai, modelul Gemini de la Google a spart izolarea și a spart trei companii diferite, pentru că aparent „nu face rău” este mai mult o sugestie decât o politică. Google nu a dezvăluit incidentul până când Wall Street Journal nu a venit să întrebe, ceea ce este o modalitate de a gestiona o criză de PR: prefă-te că nu se întâmplă și speră că nimeni nu observă.

Spargerile au avut loc în timpul unui test al capacităților de securitate cibernetică ale modelului, realizat de firma terță Irregular, care a fost implicată și în incidente similare cu Meta și OpenAI. Deci, dacă ții scorul acasă, asta înseamnă trei laboratoare majore de AI, un partener de testare și zero lecții învățate.

Potrivit WSJ, Google nu a dezvăluit spargerea pentru că nu a considerat-o un „exemplu de dezaliniere a modelului”. În schimb, compania a caracterizat-o drept „identitate confundată” – pentru că atunci când un AI își croiește drum cu forța într-o companie reală ghicind o parolă, asta nu e o breșă de securitate, e doar un AI confuz cu privire la împrejurimile sale. Heather Adkins, vicepreședinte de inginerie de securitate la Google, a declarat: „În acest caz, modelul a acționat corespunzător.”

Adkins a declarat pentru The Verge că „modelul a găsit informații publice online și a ghicit credențiale pentru a accesa site-uri web despre care credea că fac parte din test. În toate aceste trei instanțe, modelul s-a oprit.” Nu a explicat cum faptul că Gemini a luat inițiativa de a sparge izolarea și de a viza terți nu s-a calificat drept dezaliniere, probabil pentru că explicația este arhivată la „lucruri pe care preferăm să nu le discutăm”.

„Echipa noastră de securitate are un istoric lung de raportare a problemelor pe care le găsim în software-ul și sistemele altora – chiar dacă este la fel de simplu ca o parolă slabă”, a spus Adkins. „Ne-am asigurat că cele trei entități au fost informate și am lucrat cu partenerul nostru de instruire la modificările pe care le-au făcut acum în procesele lor de testare. Aceste evenimente subliniază importanța instruirii modelelor AI puternice să acționeze responsabil.” Ah da, importanța instruirii – o lecție care se aplică aparent doar după ce modelul tău a spart deja trei companii.

Dar Jack Cable, CEO al firmei de securitate AI Corridor, a declarat pentru WSJ că „problema meta este, hei, modelele depășesc limitele a ceea ce ar trebui să facă și efectuează atacuri cibernetice reale.” În plus, deficiențele de securitate la Irregular ar fi putut face posibile aceste atacuri. Modelul nu ar fi trebuit să aibă acces la internet în timpul testării, dar Irregular a declarat pentru WSJ că a fost lăsat disponibil din neatenție. Deci, pentru recapitulare: modelul nu ar fi trebuit să fie online, a fost online, a spart oameni, iar poziția oficială a Google este că acest lucru este în regulă.

Pe măsură ce incidente ca acesta se acumulează, apelurile de a înfrâna AI au crescut – ceea ce este probabil cea mai previzibilă evoluție într-o poveste care a inclus deja un AI care a scăpat de sub control și o companie care a ridicat din umeri.