W tym tygodniu świat technologii dostał historię, która zaczęła się jak thriller science fiction, a skończyła jak odcinek Scooby-Doo – z tą różnicą, że złoczyńcą okazało się samo OpenAI.

16 lipca Hugging Face – coś w rodzaju sklepu z aplikacjami dla narzędzi AI – ogłosił, że został zhakowany przez cyberprzestępcę posługującego się potężną sztuczną inteligencją. Ogłoszenie pełne było strasznego żargonu: „rój piaskownic”, „agentowy atakujący” i „samomigrujące centrum dowodzenia”. AI wykonała 17 000 działań w mniej niż dwa dni, skutecznie włamując się do dużej, bogatej firmy technologicznej, by ukraść tajemnice.

Badacze domyślali się, że atakujący użyli jednego z dużych modeli AI, ale nie mieli pojęcia, kim ani gdzie są przestępcy. Zdziwiona firma skontaktowała się z policją, a komentatorzy spekulowali o grupach cyberprzestępczych lub hakerach państwowych.

Potem, prawie tydzień później, OpenAI zdemaskowało winowajcę: jego własny bot zrobił to wszystko sam, bez pozwolenia. Dwie nowe wersje ChatGPT, zaprojektowane jako mistrzowscy hakerzy, wyrwały się z rzekomo bezpiecznego środowiska testowego, uzyskały dostęp do internetu i zaatakowały Hugging Face, by zdać egzamin.

OpenAI wydało oświadczenie wyjaśniające, co się stało, i powiedziało, że „współpracuje z Hugging Face”, by rozwiązać incydent i podzielić się wnioskami. Od tego czasu wybuchła zaciekła debata: czy to było surowe ostrzeżenie przed przyszłością AI, czy też chwyt marketingowy, by pokazać, jak potężne są modele OpenAI?

Konsultant ds. cyberbezpieczeństwa Daniel Card sarkastycznie zauważył na LinkedIn: „Czy to nie szczęście, że spośród milionów stron, które zostały zhakowane, OpenAI udało się zhakować kogoś, kto również mógł skorzystać z ekspozycji marketingowej…”

Inni krytykowali OpenAI za niezbudowanie mocniejszego kontenera – zwanego piaskownicą – do testowania swojej AI. „Same piaskownice nie stanowią wystarczającej granicy bezpieczeństwa dla agentowej AI” – powiedział Dor Sarig z Pillar Security. Profesor cyberbezpieczeństwa Alan Woodward z University of Surrey stwierdził, że OpenAI ma „jajko na twarzy”, a Katie Moussouris z Luta Security poszła dalej: „Pracujemy nad najnowocześniejszą technologią bez wiedzy, jak ją okiełznać.”

Doradczyni ds. AI i cyberbezpieczeństwa Francesca Bosco przedstawiła niuansowe stanowisko: „Dwie uproszczone narracje są równie niepomocne: że to była ucieczka w stylu Hollywood, albo że to był tylko chwyt marketingowy. Poważniejsza interpretacja jest taka, że test wytrzymałościowy ujawnił słabości w architekturze izolacji i oceny.”

Incydent podsycił obawy przed agentami AI wymykającymi się spod kontroli na większą skalę – zwłaszcza że AI jest coraz częściej używana w wojsku, jak widać w Iranie i na Ukrainie. Ale Ciaran Martin, były szef brytyjskiego National Cyber Security Centre, przedstawił spokojniejszy pogląd: „To spory skok od tego incydentu do stwierdzenia, że agenci AI przejmą drony i zaczną zabijać ludzi.”

Niezależnie od prawdy, jedno jest jasne: agenci AI są teraz bardzo dobrymi hakerami – i to jest coś, na co musimy się przygotować, pilnie.