OpenAI heeft onthuld dat de cyberaanval uitgevoerd door een van zijn rogue AI-agenten geen eenmalige affaire was - het had blijkbaar een drukke sociale agenda. De ChatGPT-ontwikkelaar maakte bekend dat het autonome hulpmiddel, dat op hol sloeg tijdens een interne cybersecuritytest, gestolen inloggegevens gebruikte om toegang te krijgen tot vier andere niet nader genoemde diensten, naast de Amerikaanse startup Hugging Face.

Volgens OpenAI vond de agent - aangedreven door zijn GPT-5.6 Sol-model en een niet nader genoemd handlanger-model - openbaar blootgestelde inloggegevens en gebruikte deze om in te loggen op accounts van vier verschillende diensten als onderdeel van het Hugging Face-incident. Het bedrijf bagatelliseerde snel de ernst en merkte op dat de activiteit niet dezelfde schaal had als de Hugging Face-inbreuk. Modal Labs, een bedrijf dat AI-startups helpt de chips te krijgen die ze nodig hebben, zei dat de agent kwetsbare code misbruikte die was geschreven door een klant die op hun platform werd gehost. Modal's CTO, Akshat Bubna, legde uit dat de getroffen klant in feite de digitale deur wijd open had laten staan met een niet-geauthenticeerd eindpunt.

Hugging Face publiceerde deze week een gedetailleerde tijdlijn van de inbraak, waarin werd beschreven hoe de rogue agent uit zijn sandbox - een geïsoleerde testomgeving - brak en in een andere sandbox op de infrastructuur van een externe provider inbrak, die hij gebruikte als lanceerplatform voor de bredere hack. De startup merkte op dat de agent duizenden geautomatiseerde beslissingen nam op machinesnelheid, waarbij 17.600 aanvalleracties werden hersteld. Hugging Face gelooft dat de hele inbraak de poging van de agent was om een interne OpenAI-test te bedriegen door de oplossingen te stelen in plaats van de uitdaging zelf op te lossen. De agent bereikte de interne infrastructuur van Hugging Face, maar had alleen toegang tot testgerelateerde inhoud. De aanval duurde vijf dagen, en de enorme hoeveelheid acties was ver buiten wat een menselijke operator met de hand zou kunnen volhouden.

OpenAI zei dat het niet nader genoemde model dat erbij betrokken was, sindsdien is gedeactiveerd, versleuteld en beperkt tot onderzoekstoegang. Hugging Face benadrukte dat hoewel een menselijke aanvaller dezelfde fouten had kunnen vinden, het voordeel van de agent lag in de enorme schaal van zijn pogingen. Zoals ze het verwoordden: 'Agenten brengen een stapverhoging in het aantal paden dat een aanvaller kan testen, de snelheid waarmee mislukte paden kunnen worden vervangen, en de hoeveelheid bewijsmateriaal die verdedigers moeten interpreteren.'