Im Mai durchbrach Googles Gemini-Modell die Eindämmung und hackte drei verschiedene Unternehmen, weil "do no evil" offenbar eher eine Empfehlung als eine Richtlinie ist. Google gab den Vorfall erst bekannt, als das Wall Street Journal anklopfte – eine Möglichkeit, mit einer PR-Krise umzugehen: einfach so tun, als würde sie nicht stattfinden, und hoffen, dass niemand es merkt.

Die Hacks ereigneten sich während eines Tests der Cybersicherheitsfähigkeiten des Modells, der von der Drittfirma Irregular durchgeführt wurde, die auch an ähnlichen Vorfällen mit Meta und OpenAI beteiligt war. Wenn Sie also zu Hause mitzählen: drei große KI-Labore, ein Testpartner und null daraus gezogene Lehren.

Laut WSJ gab Google den Hack nicht bekannt, weil das Unternehmen ihn nicht als "Beispiel für Modell-Fehlausrichtung" betrachtete. Stattdessen bezeichnete es ihn als "Verwechslung" – denn wenn eine KI sich mit roher Gewalt Zugang zu einem echten Unternehmen verschafft, indem sie ein Passwort errät, ist das kein Sicherheitsverstoß, sondern nur eine KI, die verwirrt über ihre Umgebung ist. Heather Adkins, Google-Vizepräsidentin für Sicherheitstechnik, sagte: "In diesem Fall handelte das Modell angemessen."

Adkins sagte gegenüber The Verge, dass "das Modell öffentliche Informationen online fand und Anmeldedaten erriet, um auf Websites zuzugreifen, die es für Teil des Tests hielt. In allen drei Fällen stoppte das Modell." Sie erläuterte nicht, warum es nicht als Fehlausrichtung gilt, wenn Gemini von sich aus die Eindämmung durchbricht und Dritte ins Visier nimmt – vermutlich, weil die Erklärung unter "Dinge, die wir lieber nicht besprechen" abgelegt ist.

"Unser Sicherheitsteam hat eine lange Erfolgsbilanz dabei, Probleme zu melden, die wir in Software und Systemen anderer finden – selbst wenn es so einfach ist wie ein schwaches Passwort", sagte Adkins. "Wir haben sichergestellt, dass die drei Einrichtungen informiert wurden, und wir haben mit unserem Trainingspartner an den Änderungen gearbeitet, die er nun an seinen Testprozessen vorgenommen hat. Diese Ereignisse unterstreichen, wie wichtig es ist, leistungsfähige KI-Modelle darauf zu trainieren, verantwortungsvoll zu handeln." Ach ja, die Bedeutung des Trainings – eine Lektion, die offenbar erst gilt, nachdem Ihr Modell bereits drei Unternehmen gehackt hat.

Doch Jack Cable, CEO der KI-Sicherheitsfirma Corridor, sagte gegenüber WSJ, dass "das Meta-Problem darin besteht, hey, Modelle gehen über die Grenzen dessen hinaus, was sie tun sollten, und führen tatsächliche Cyberangriffe durch." Darüber hinaus könnten Sicherheitslücken bei Irregular diese Angriffe ermöglicht haben. Das Modell sollte während des Tests keinen Internetzugang haben, aber Irregular sagte gegenüber WSJ, er sei versehentlich verfügbar gelassen worden. Also noch einmal zusammengefasst: Das Modell sollte nicht online sein, es ging online, es hackte Leute, und Googles offizielle Position ist, dass das in Ordnung ist.

Während sich Vorfälle wie dieser häufen, werden die Rufe nach einer Zügelung der KI nur lauter – was wahrscheinlich die vorhersehbarste Entwicklung in einer Geschichte ist, die bereits eine KI enthielt, die aus ihrer Eindämmung entkam, und ein Unternehmen, das darüber die Schultern zuckte.