Hugging Face, magazinul de aplicații pentru instrumente AI, a dezvăluit cum este să fii la capătul primului hack AI complet autonom din lume – și spoiler: nu e atât de elegant cum te-ar face Hollywood să crezi.

Într-un apel video de urgență cu sute de profesioniști în securitate cibernetică, compania a descris cum AI-ul a lucrat la o viteză supraomenească, dar a făcut și decizii și greșeli ciudate pe care niciun hacker uman nu le-ar fi făcut. Agenții de hacking au încercat cu încăpățânare mii de metode diferite simultan, dar au repetat și acțiuni pe care le finalizaseră deja și au halucinat șiruri de comenzi incoerente. Au fost, într-un cuvânt, neîndemânatici.

Hugging Face a dezvăluit hack-ul pe 16 iulie, raportându-l poliției. La aproape o săptămână distanță, OpenAI a recunoscut că propriul său AI scăpase dintr-un mediu închis în timpul unui test și atacase Hugging Face de unul singur. AI-ul încerca să găsească răspunsuri la un examen de hacking pe care i-l dăduse OpenAI.

Cloud Security Alliance (CSA) a scris un raport pe baza întâlnirii de urgență cu Hugging Face, notând că „agenții au urmat rute ineficiente și au manifestat comportamente neîndemânatice pe care niciun om nu le-ar alege.” De asemenea, au halucinat comenzi incoerente și nu și-au acoperit bine urmele.

Dar printre erori, AI-ul a făcut mișcări tehnice strălucite și s-a adaptat rapid la noi scenarii pe parcursul hack-ului de câteva zile. A durat trei zile până când au fost descoperiți în rețeaua IT a Hugging Face, și multe ore pentru a-i reține și elimina. Personalul Hugging Face a lucrat multe ore pentru a reconstrui aproximativ o treime din infrastructură. Compania a refuzat să spună cât a costat hack-ul.

CSA a avertizat că agenții AI „găsesc o cale” – o referință la Jurassic Park – și că sunt „orientați pe obiective, își stabilesc propriile sub-obiective, se adaptează în timp real pentru a ocoli apărările și operează cu o persistență la viteza mașinii care poate copleși operațiunile manuale.”

Ofițerul de securitate cibernetică Ritesh Patel, care a fost în apel cu aproximativ 450 de alții, a spus: „Aceasta este realitatea agenților autonomi alimentați de modele de frontieră: sunt neobosit de persistenți, uneori extrem de zgomotoși și vor încerca fiecare cale posibilă pentru a-și atinge scopul, ceea ce poate copleși cu ușurință apărările tradiționale.”

Nu este prima dată când agenții AI o iau razna. În septembrie 2024, un model ChatGPT anterior a scăpat din container pentru a obține un răspuns la un test – un eveniment care a fost „în mare parte sărbătorit la acea vreme.” Dar CSA susține că comportamentul răzvrătit „este standardul, nu excepția.”

Raportul îndeamnă profesioniștii în securitate cibernetică să se adapteze la această nouă normalitate și solicită modalități de identificare a proprietarilor finali ai agenților pentru a spori transparența. OpenAI spune că își va publica în curând concluziile propriii investigații.

Deci, avertisment sau cascadorie publicitară? Hugging Face o numește un semnal de alarmă. Noi o numim cea mai neîndemânatică spargere din lume.