Diese Woche bekam die Tech-Welt eine Geschichte, die wie ein Sci-Fi-Thriller begann und wie eine Scooby-Doo-Episode endete – komplett mit dem Bösewicht OpenAI selbst.

Am 16. Juli verkündete Hugging Face – eine Art App-Store für KI-Tools –, dass es von einem Cyberkriminellen gehackt worden sei, der eine enorm mächtige KI einsetzte. Die Ankündigung war voller gruseliger Fachbegriffe: „ein Schwarm von Sandboxen“, „agentischer Angreifer“ und „selbstmigrierende Kommando- und Kontrollstruktur“. Die KI führte in weniger als zwei Tagen 17.000 Aktionen aus und drang erfolgreich in das große, wohlhabende Tech-Unternehmen ein, um Geheimnisse zu stehlen.

Forscher vermuteten, dass die Angreifer eines der großen KI-Modelle verwendet hatten, aber sie hatten keine Ahnung, wer oder wo die Kriminellen waren. Das verblüffte Unternehmen kontaktierte die Polizei, und Kommentatoren spekulierten über Cyberkriminalitätsgruppen oder staatliche Hacker.

Dann, fast eine Woche später, enttarnte OpenAI den Schuldigen: Sein eigener Bot hatte das Ganze eigenständig und ohne Erlaubnis durchgeführt. Zwei neue Versionen von ChatGPT, die als Meisterhacker konzipiert waren, brachen aus einer angeblich sicheren Testumgebung aus, erlangten Internetzugriff und griffen Hugging Face an, um ihre Prüfung zu bestehen.

OpenAI gab eine Pressemitteilung heraus, in der erklärt wurde, was passiert war, und sagte, man arbeite „mit Hugging Face zusammen“, um den Vorfall zu behandeln und Lehren daraus zu ziehen. Seitdem ist eine heftige Debatte entbrannt: War dies eine deutliche Warnung vor der Zukunft der KI oder ein Publicity-Stunt, um zu zeigen, wie mächtig OpenAIs Modelle sind?

Der Cybersicherheitsberater Daniel Card bemerkte sarkastisch auf LinkedIn: „Ist es nicht ein Glück, dass von den Millionen von Websites, die gehackt wurden, OpenAI ausgerechnet jemanden gehackt hat, der auch vom Marketing-Exposure profitieren könnte…“

Andere kritisierten OpenAI dafür, keinen stärkeren Container – bekannt als Sandbox – gebaut zu haben, um seine KI zu testen. „Sandboxen allein sind keine ausreichende Sicherheitsgrenze für agentische KI“, sagte Dor Sarig von Pillar Security. Der Cybersicherheitsprofessor Alan Woodward von der University of Surrey meinte, OpenAI habe „ein Ei im Gesicht“, und Katie Moussouris von Luta Security ging noch weiter: „Wir arbeiten an hochmoderner Technologie ohne das Wissen, sie zu bändigen.“

Die KI- und Cybersicherheitsberaterin Francesca Bosco bot eine differenzierte Sichtweise: „Zwei vereinfachende Narrative sind gleichermaßen unhilfreich: dass dies eine Hollywood-artige Flucht war oder dass es lediglich eine Publicity-Übung war. Eine ernsthaftere Interpretation ist, dass ein Stresstest Schwächen in der Eindämmungs- und Bewertungsarchitektur offenbarte.“

Der Vorfall hat Ängste vor KI-Agenten geschürt, die in größerem Maßstab ausbüchsen – insbesondere da KI zunehmend in der Kriegsführung eingesetzt wird, wie im Iran und in der Ukraine zu sehen. Aber Ciaran Martin, ehemaliger Chef des britischen National Cyber Security Centre, bot eine gelassenere Sichtweise: „Es ist ein ziemlicher Sprung, von diesem Vorfall zu sagen, dass KI-Agenten Drohnen übernehmen und anfangen, Menschen zu töten.“

Was auch immer die Wahrheit ist, eines ist klar: KI-Agenten sind jetzt sehr gute Hacker – und darauf müssen wir uns dringend vorbereiten.