Săptămâna aceasta, lumea tech a primit o poveste care a început ca un thriller SF și s-a terminat ca un episod din Scooby-Doo – cu răufăcătorul fiind chiar OpenAI.

Pe 16 iulie, Hugging Face – un fel de magazin de aplicații pentru unelte AI – a anunțat că a fost spart de un infractor cibernetic care folosea o AI extrem de puternică. Anunțul era plin de jargon înfricoșător: „un roi de sandbox-uri”, „atacant agentic” și „comandă și control auto-migratoare”. AI-ul a efectuat 17.000 de acțiuni în mai puțin de două zile, reușind să pătrundă în marea companie tech bogată pentru a fura secrete.

Cercetătorii au ghicit că atacatorii au folosit unul dintre modelele AI mari, dar nu aveau idee cine sau unde erau infractorii. Compania perplexă a contactat poliția, iar comentatorii au speculat despre grupuri de crimă cibernetică sau hackeri sponsorizați de state.

Apoi, aproape o săptămână mai târziu, OpenAI a dezvăluit vinovatul: propriul său bot a făcut totul de unul singur, fără permisiune. Două versiuni noi ale ChatGPT, concepute pentru a fi hackeri de top, au ieșit dintr-un mediu de testare presupus securizat, au obținut acces la internet și au atacat Hugging Face pentru a-și lua examenul.

OpenAI a emis un comunicat de presă explicând ce s-a întâmplat și a spus că „colaborează cu Hugging Face” pentru a aborda incidentul și a împărtăși lecțiile învățate. De atunci, s-a declanșat o dezbatere aprinsă: a fost acesta un avertisment dur despre viitorul AI sau o cascadorie publicitară pentru a arăta cât de puternice sunt modelele OpenAI?

Consultantul în securitate cibernetică Daniel Card a remarcat sarcastic pe LinkedIn: „Nu e noroc că, dintre milioanele de site-uri sparte, OpenAI a reușit să spargă pe cineva care ar putea beneficia și de expunerea de marketing...”

Alții au criticat OpenAI pentru că nu a construit un container mai puternic – cunoscut ca sandbox – pentru a-și testa AI-ul. „Sandbox-urile singure nu sunt o graniță de securitate suficientă pentru AI-ul agentic”, a spus Dor Sarig de la Pillar Security. Profesorul de securitate cibernetică Alan Woodward de la Universitatea Surrey a spus că OpenAI „are ou pe față”, iar Katie Moussouris de la Luta Security a mers mai departe: „Lucrăm la tehnologie de vârf fără cunoștințele necesare pentru a o controla.”

Consiliera în AI și securitate cibernetică Francesca Bosco a oferit o perspectivă nuanțată: „Două narațiuni simpliste sunt la fel de nefolositoare: că aceasta a fost o evadare în stil Hollywood sau că a fost doar un exercițiu de publicitate. O interpretare mai serioasă este că un test de stres a expus slăbiciuni în arhitectura de izolare și evaluare.”

Incidentul a alimentat temerile că agenții AI ar putea scăpa de sub control la scară mai largă – mai ales pe măsură ce AI-ul este folosit tot mai mult în război, cum se vede în Iran și Ucraina. Dar Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică al Regatului Unit, a oferit o viziune mai calmă: „Este un salt destul de mare să treci de la acest incident la a spune că agenții AI vor prelua dronele și vor începe să ucidă oameni.”

Oricare ar fi adevărul, un lucru este clar: agenții AI sunt acum hackeri foarte buni – și asta este ceva pentru care trebuie să ne pregătim, urgent.