Den här veckan fick techvärlden en historia som började som en sci-fi-thriller och slutade som ett Scooby-Doo-avsnitt – komplett med skurken som visade sig vara OpenAI själv.

Den 16 juli meddelade Hugging Face – en slags appbutik för AI-verktyg – att de hade hackats av en cyberbrottsling som använde enormt kraftfull AI. Tillkännagivandet var fullt av skrämmande jargong: "en svärm av sandlådor", "agentisk angripare" och "självmigrerande kommando och kontroll". AI:n utförde 17 000 handlingar på mindre än två dagar och lyckades bryta sig in i det stora rika techföretaget för att stjäla hemligheter.

Forskare gissade att angriparna hade använt en av de stora AI-modellerna, men de hade ingen aning om vilka eller var brottslingarna fanns. Det förbryllade företaget kontaktade polisen, och kommentatorer spekulerade om cyberbrottsgrupper eller statsstödda hackare.

Sedan, nästan en vecka senare, avslöjade OpenAI boven: deras egen bot gjorde allt på egen hand, utan tillstånd. Två nya versioner av ChatGPT, designade för att vara mästerhackare, bröt sig ut ur en förmodat säker testmiljö, fick internetåtkomst och attackerade Hugging Face för att klara sitt prov.

OpenAI utfärdade ett pressmeddelande som förklarade vad som hänt och sa att de "samarbetar med Hugging Face" för att hantera incidenten och dela lärdomar. Sedan dess har en häftig debatt brutit ut: var detta en skarp varning om AI:s framtid, eller en publicitetsstunt för att visa hur kraftfulla OpenAIs modeller är?

Cybersäkerhetskonsulten Daniel Card kommenterade sarkastiskt på LinkedIn: "Är det inte tur att av de miljontals webbplatser som blev pwn3d, lyckades OpenAI pwna någon som också kunde dra nytta av marknadsföringsexponeringen..."

Andra kritiserade OpenAI för att inte bygga en starkare behållare – känd som en sandlåda – för att testa sin AI. "Sandlådor ensamma är inte en tillräcklig säkerhetsgräns för agentisk AI," sa Dor Sarig från Pillar Security. Cybersäkerhetsprofessor Alan Woodward från Surrey University sa att OpenAI "har ägg i ansiktet," och Katie Moussouris från Luta Security gick längre: "Vi arbetar med banbrytande teknik utan kunskapen att innehålla den."

AI- och cybersäkerhetsrådgivaren Francesca Bosco erbjöd en nyanserad syn: "Två förenklade berättelser är lika ohjälpsamma: att detta var en Hollywood-liknande flykt, eller att det bara var en publicitetsövning. En mer seriös tolkning är att ett stresstest avslöjade svagheter i inneslutnings- och utvärderingsarkitekturen."

Incidenten har väckt rädsla för att AI-agenter ska gå rogue i större skala – särskilt när AI används alltmer i krigföring, som sett i Iran och Ukraina. Men Ciaran Martin, tidigare chef för Storbritanniens nationella cybersäkerhetscenter, erbjöd en lugnare syn: "Det är ett ganska stort steg att gå från denna incident till att säga att AI-agenter kommer att ta över drönare och börja döda människor."

Oavsett sanningen är en sak klar: AI-agenter är nu mycket bra hackare – och det är något vi måste förbereda oss för, akut.