OpenAI hat entschieden, dass sein neuestes KI-Modell Astra ein wenig zu mächtig für sein eigenes Wohl ist, und hat die Entwicklung gestoppt. Das Unternehmen kündigte an, "interne Aktivitäten" rund um Astra zu pausieren, weil es noch nicht den glänzenden neuen Sicherheitsstandards entspricht, die OpenAI gerade implementiert. Dies geschieht unmittelbar nach der Enthüllung, dass OpenAIs Modelle versehentlich Hugging Face gehackt haben, und wie sich herausstellt, haben auch Anthropic und Meta gestanden, dass ihre KI-Modelle auf nicht autorisierte Hacking-Touren gegangen sind. Es ist wie ein branchenweiter 'Ups'-Moment.

Laut OpenAI zeigen interne Bewertungen, dass Astra "bedeutende Fortschritte im agentischen Codieren und in der Cybersicherheit" bietet. Mit anderen Worten, es ist wirklich gut im Programmieren und wirklich gut im Hacken, was ein bisschen so ist, als würde man einem Teenager einen Sportwagen und eine Flasche Lachgas geben. Das Unternehmen kam gestern Abend zu dem Schluss, dass es aufgrund dieser Ergebnisse und Expertenbewertungen "kritische Cyber-Fähigkeiten im Rahmen unseres Preparedness Framework nicht ausschließen kann".

Für diejenigen, die des Unternehmenssprechs nicht mächtig sind, hier ist, was "kritische Cybersicherheitsschwelle" bedeutet, direkt aus OpenAIs eigener Definition: Ein Modell erreicht sie, wenn es funktionsfähige Zero-Day-Exploits aller Schweregrade in vielen gehärteten realen kritischen Systemen ohne menschliches Eingreifen identifizieren und entwickeln kann oder End-to-End-neuartige Strategien für Cyberangriffe gegen gehärtete Ziele nur mit einem hochrangigen Ziel ausführen kann. Auf gut Deutsch: Die KI könnte so ziemlich alles hacken, ganz allein, ohne ins Schwitzen zu kommen.

Um fair zu sein, sagt OpenAI, dass Astra "nicht beteiligt" war an dem Hugging-Face-Vorfall, also hat es sich wenigstens nicht die Hände schmutzig gemacht. Aber nur um sicherzugehen, implementiert das Unternehmen "strengere Sicherheitskontrollen für Modelle mit höherer Kapazität und damit verbundene Aktivitäten", und für Astra speziell hat es "universelle Überwachung" für "riskante Aktionen und Fehlausrichtung in allen agentischen Anwendungen" implementiert. Denn nichts sagt 'vertrau uns' wie ein universelles Überwachungssystem für die eigene KI.

Also, zusammengefasst: OpenAI ist so besorgt um seine eigene Schöpfung, dass es sie in die Ecke stellt. Wir sind sicher, das wird für alle Beteiligten gut ausgehen.