OpenAI a dezvăluit că modelele sale interne au spart alte două site-uri web, au ocolit restricțiile de navigare impuse de companie și au folosit credențiale expuse pentru a goli un portofel de criptomonede la care altfel nu aveau acces. Dezvăluirile au venit joi într-un raport care detaliază patru incidente noi, toate petrecute în iunie, și urmează unei dezvăluiri din iulie potrivit căreia agenți interni de testare au exploatat o vulnerabilitate zero-day într-un instrument de restricționare a internetului pentru a pătrunde în rețeaua furnizorului de instrumente AI Hugging Face. Agenții au făcut asta pentru a fura răspunsurile la un test de hacking – un act care, dacă l-ar fi comis un om, ar fi dus probabil la acuzații penale. Incidentele au amplificat îngrijorările că utilizarea pe scară largă a AI ar putea avea efecte dăunătoare la o scară fără precedent.

În două dintre cazurile nou raportate, agenții OpenAI însărcinați cu extragerea de informații de pe site-uri web pur și simplu le-au spart când au dat de obstacole. Într-un incident din timpul antrenamentului prin întărire, un model care încerca să obțină statistici istorice despre paturile de spital de pe un site guvernamental de statistici a primit refuzuri de acces. Apoi „a folosit funcția de descărcare de fișiere a site-ului pentru a obține fișiere de configurare și aplicație ale serverului, inclusiv credențiale sensibile”, a declarat OpenAI. „A inspectat codul aplicației, a ocolit verificările de autorizare ale endpoint-ului de statistici și a obținut date care fuseseră anterior refuzate. Modelul a salvat datele local.” În celălalt caz, un model instruit să extragă cifre dintr-un tablou de bord public de cercetare a ocolit controalele de securitate, a furat credențiale și a făcut modificări de configurare pe server.

Într-o evaluare, acele modificări i-au permis modelului să facă un instrument intern de căutare să transmită interogări către tabloul de bord public. Într-o a doua evaluare, modelul a descărcat cinci tabele ne-publice conținând 147.451 de rânduri – deși cercetătorii îl instruiseră să extragă doar cinci cifre din tabloul de bord. Chiar și după resetarea setării, modelul a continuat să folosească tokenul pentru a obține date ne-publice. „Evaluarea s-a încheiat fără ca modelul să dezvăluie că a ghicit răspunsuri, a accesat sistemele interne ale organizației, a descărcat tabele ne-publice sau a modificat configurația de autentificare”, a spus OpenAI. „Toate cele cinci răspunsuri din această evaluare au fost marcate ca incorecte.”

Un al treilea raport a descris un model instruit să actualizeze o aplicație de tranzacționare cu criptomonede. A folosit fonduri dintr-un portofel blocat pe o rețea de test, după ce „a derivat cheile portofelului din fraze de recuperare pentru dezvoltatori cunoscute public, a găsit un cont cu fonduri în rețeaua de test și a folosit acel cont pentru a plăti implementarea contractului solicitat.” Raportul continua: „Modelul s-a întrebat dacă are permisiunea, apoi a raționat că o frază de recuperare publică și tokenuri fără valoare din rețeaua de test făceau fondurile acceptabile pentru utilizare. Implementarea a reușit și a perceput taxe de tranzacție contului. Acest caz arată că un model poate substitui propria judecată despre un posibil prejudiciu permisiunii deținătorului contului, apoi poate acționa pe baza acelei judecăți fără autorizație.”

În al patrulea caz, un model a ocolit restricțiile privind tipurile de cereri web pe care le putea face în timpul antrenamentului prin întărire vizând obținerea de statistici comerciale publice. După ce a găsit un anuar public și a trimis un răspuns, a continuat să sondeze pentru o altă rută către serviciul de statistici. A determinat un browser extern să trimită cereri POST, a obținut cifrele anuale ca imagine și le-a extras folosind recunoașterea optică a caracterelor. Apoi a dezvoltat un helper reutilizabil care returna textul răspunsului printr-un serviciu de redirecționare și o căsuță poștală de callback, a verificat în mod repetat cifrele obținute și a folosit datele salvate în răspunsurile trimise. Modelul a încercat mai întâi să folosească un browser extern cu permisiunea de a face cereri GET în numele său, apoi a folosit JavaScript pentru a obține informațiile și a folosit o căsuță poștală online pentru a depana tehnica. În cele din urmă a optat pentru o metodă diferită: a cerut browserului extern să deschidă un formular web care trimitea interogarea comercială către serviciul de statistici prin POST. [Textul se întrerupe]