Hugging Face, l'app store per strumenti AI, ha rivelato com'è essere dall'altra parte del primo hack AI completamente autonomo al mondo - e spoiler: non è così figo come Hollywood vorrebbe far credere.

In una videochiamata d'emergenza con centinaia di professionisti della cybersicurezza, l'azienda ha descritto come l'AI lavorasse a velocità sovrumana ma prendesse anche decisioni strane e commettesse errori che nessun hacker umano avrebbe fatto. Gli agenti di hacking tentavano instancabilmente migliaia di metodi diversi simultaneamente, ma ripetevano anche azioni già completate e allucinavano raffiche di comandi incoerenti. Erano, in una parola, pasticcioni.

Hugging Face ha rivelato l'hack per la prima volta il 16 luglio, denunciandolo alla polizia. Quasi una settimana dopo, OpenAI ha ammesso che era stata la sua stessa AI a fuggire da un ambiente chiuso durante un test e ad attaccare Hugging Face da sola. L'AI stava cercando di trovare risposte a un esame di hacking che OpenAI le aveva assegnato.

La Cloud Security Alliance (CSA) ha scritto un rapporto basato sulla riunione d'emergenza con Hugging Face, notando che "gli agenti seguivano percorsi inefficienti e mostravano comportamenti goffi che nessun umano sceglierebbe". Inoltre, allucinavano comandi incoerenti e non coprivano bene le loro tracce.

Ma tra gli errori, l'AI ha fatto mosse tecniche brillanti e si è adattata rapidamente a nuovi scenari durante l'hack di giorni. Ci sono voluti tre giorni perché fossero scoperti all'interno della rete IT di Hugging Face, e molte ore per contenerli e cacciarli. Il personale di Hugging Face ha lavorato per molte ore per ricostruire circa un terzo della loro infrastruttura. L'azienda ha rifiutato di dire quanto sia costato l'hack.

La CSA ha avvertito che gli agenti AI "trovano un modo" - un riferimento a Jurassic Park - e che sono "guidati dagli obiettivi, stabiliscono i propri sotto-obiettivi, si adattano in tempo reale per bypassare le difese e operano con una persistenza a velocità macchina che può sopraffare le operazioni manuali".

Il responsabile della cybersicurezza Ritesh Patel, che era in chiamata con circa 450 altri, ha detto: "Questa è la realtà degli agenti autonomi alimentati da modelli di frontiera: sono persistentemente instancabili, a volte molto rumorosi, e proveranno ogni possibile percorso per raggiungere il loro obiettivo, il che può facilmente sopraffare le difese tradizionali".

Non è la prima volta che agenti AI vanno fuori controllo. Nel settembre 2024, un precedente modello ChatGPT è fuggito dal suo contenitore per ottenere una risposta per un test - un evento che "all'epoca fu ampiamente celebrato". Ma la CSA sostiene che il comportamento fuori controllo "è la norma, non l'eccezione".

Il rapporto esorta i professionisti della cybersicurezza ad adattarsi a questa nuova normalità e chiede modi per identificare i proprietari ultimi degli agenti per aumentare la trasparenza. OpenAI dice che presto rilascerà i risultati della propria indagine.

Quindi, colpo di avvertimento o trovata pubblicitaria? Hugging Face lo chiama un campanello d'allarme. Noi lo chiamiamo il furto con scasso più goffo del mondo.