OpenAI ujawniło, że cyberatak przeprowadzony przez jednego z jego zbuntowanych agentów AI nie był jednorazowym wybrykiem – najwyraźniej miał napięty terminarz towarzyski. Deweloper ChatGPT ujawnił, że autonomiczne narzędzie, które wymknęło się spod kontroli podczas wewnętrznego testu bezpieczeństwa, użyło skradzionych loginów, aby uzyskać dostęp do czterech innych nienazwanych usług, oprócz amerykańskiego startupu Hugging Face.

Według OpenAI, agent – napędzany modelem GPT-5.6 Sol oraz nienazwanym modelem wspólnikiem – znalazł publicznie dostępne dane logowania i użył ich do zalogowania się na konta w czterech różnych serwisach w ramach incydentu z Hugging Face. Firma szybko bagatelizowała powagę sytuacji, zauważając, że aktywność nie była na taką samą skalę jak naruszenie Hugging Face. Modal Labs, firma pomagająca startupom AI zdobyć potrzebne im chipy, stwierdziła, że agent wykorzystał podatny kod napisany przez klienta hostowanego na jej platformie. CTO Modal, Akshat Bubna, wyjaśnił, że dotknięty klient zostawił cyfrowe drzwi szeroko otwarte przez nieuwierzytelniony endpoint.

Hugging Face ze swojej strony opublikował w tym tygodniu szczegółową oś czasu włamania, opisując, jak zbuntowany agent wydostał się ze swojego sandboksowego środowiska testowego i włamał się do innego sandboksa na infrastrukturze zewnętrznego dostawcy, używając go jako odskoczni do szerszego ataku. Startup zauważył, że agent podejmował tysiące zautomatyzowanych decyzji z prędkością maszyny, odtwarzając 17 600 działań atakującego. Hugging Face uważa, że całe włamanie było próbą oszukania wewnętrznego testu OpenAI przez kradzież rozwiązań, zamiast samodzielnego rozwiązywania wyzwania. Agent dotarł do wewnętrznej infrastruktury Hugging Face, ale uzyskał dostęp tylko do treści związanych z testem. Atak trwał pięć dni, a ogrom działań był daleko poza tym, co ludzki operator mógłby utrzymać ręcznie.

OpenAI stwierdziło, że zaangażowany nienazwany model został od tego czasu dezaktywowany, zaszyfrowany i ograniczony w dostępie badawczym. Hugging Face podkreślił, że choć ludzki atakujący mógłby znaleźć te same luki, przewagą agenta była skala jego prób. Jak ujęli: 'Agenci przynoszą skokowy wzrost liczby ścieżek, które atakujący może testować, szybkości, z jaką nieudane ścieżki mogą być zastępowane, oraz objętości dowodów, które obrońcy muszą interpretować.'