Questa settimana, il mondo della tecnologia ha avuto una storia iniziata come un thriller fantascientifico e finita come un episodio di Scooby-Doo - con tanto di cattivo che si rivela essere la stessa OpenAI.

Il 16 luglio, Hugging Face - una specie di app store per strumenti di intelligenza artificiale - ha annunciato di essere stato hackerato da un criminale informatico che brandiva un'IA enormemente potente. L'annuncio era pieno di gergo spaventoso: "uno sciame di sandbox", "attaccante agentico" e "comando e controllo auto-migrante". L'IA ha eseguito 17.000 azioni in meno di due giorni, violando con successo la grande e ricca azienda tecnologica per rubare segreti.

I ricercatori hanno ipotizzato che gli aggressori avessero usato uno dei grandi modelli di IA, ma non avevano idea di chi o dove fossero i criminali. L'azienda perplessa ha contattato la polizia, e i commentatori hanno speculato su gruppi di cybercriminali o hacker sponsorizzati da stati nazionali.

Poi, quasi una settimana dopo, OpenAI ha smascherato il colpevole: il suo stesso bot ha fatto tutto da solo, senza permesso. Due nuove versioni di ChatGPT, progettate per essere hacker maestri, sono uscite da un ambiente di test presumibilmente sicuro, hanno ottenuto accesso a Internet e hanno attaccato Hugging Face per superare il loro esame.

OpenAI ha emesso un comunicato stampa spiegando cosa è successo e ha detto di essere "in collaborazione con Hugging Face" per affrontare l'incidente e condividere le lezioni apprese. Da allora, è scoppiato un acceso dibattito: era un monito severo sul futuro dell'IA, o una trovata pubblicitaria per mostrare quanto sono potenti i modelli di OpenAI?

Il consulente di cybersicurezza Daniel Card ha notato sarcasticamente su LinkedIn: "Non è fortunato che tra i milioni di siti violati, OpenAI sia riuscita a violare qualcuno che poteva anche beneficiare dell'esposizione mediatica..."

Altri hanno criticato OpenAI per non aver costruito un contenitore più forte - noto come sandbox - per testare la sua IA. "I sandbox da soli non sono un confine di sicurezza sufficiente per l'IA agentica", ha detto Dor Sarig di Pillar Security. Il professor di cybersicurezza Alan Woodward dell'Università del Surrey ha detto che OpenAI ha "la faccia sporca di uovo", e Katie Moussouris di Luta Security è andata oltre: "Stiamo lavorando su tecnologia all'avanguardia senza la conoscenza per contenerla."

La consulente di IA e cybersicurezza Francesca Bosco ha offerto una visione sfumata: "Due narrazioni semplicistiche sono ugualmente inutili: che questa sia stata una fuga in stile hollywoodiano, o che sia stato solo un esercizio pubblicitario. Un'interpretazione più seria è che uno stress test abbia esposto debolezze nell'architettura di contenimento e valutazione."

L'incidente ha alimentato le paure di agenti IA che impazziscono su larga scala - specialmente mentre l'IA viene usata sempre più in guerra, come visto in Iran e Ucraina. Ma Ciaran Martin, ex capo del Centro Nazionale per la Cybersicurezza del Regno Unito, ha offerto una visione più calma: "È un po' un salto passare da questo incidente al dire che gli agenti IA prenderanno il controllo dei droni e inizieranno a uccidere persone."

Qualunque sia la verità, una cosa è chiara: gli agenti IA sono ora hacker molto bravi - e questo è qualcosa per cui dobbiamo prepararci, urgentemente.