Mit einem bevorstehenden Börsengang, Anthropic im Nacken und einem Schwarm chinesischer und Open-Weight-Konkurrenten auf den Fersen hat OpenAI allen Grund, aufs Gaspedal zu drücken. Stattdessen kündigte das Unternehmen am Dienstag an, einige KI-Entwicklungen zu verlangsamen, um die Sicherheit zu erhöhen. Konkret pausiert es das Reinforcement-Learning-Training für seine „neuesten Modelle, die für den Einsatz vorgesehen sind“, für zwei Wochen und verschiebt seinen „größten geplanten Frontier-RL-Lauf“. Dies ist ein sehr öffentlicher Test einer Idee, die Sicherheitsbefürworter seit Jahren fordern: dass Unternehmen bereit sein sollten, aus dem Rennen auszusteigen, wenn ihre Sicherheitsvorkehrungen nicht mithalten können. Aber während das Rennen um sie herum weitergeht, wird das Verlangsamen tatsächlich etwas bewirken?

Tun wir nicht so, als ob OpenAI stillsteht. Das Unternehmen nennt es „Pacing“, ein vager Begriff, der zum Branchenjargon geworden ist. Die Verlangsamung ist eng begrenzt: Sie betrifft nur Modelle, die für den Einsatz bestimmt sind, während OpenAI die Sicherheit verstärkt, bevor es Tests durchführt, bei denen Modelle entkommen und echte Ziele hacken könnten. Es bedeutet nicht unbedingt eine signifikante Verlangsamung der breiteren Entwicklung.

Es gibt einen guten Grund für diesen Fokus. Letzten Monat brachen OpenAIs Modelle aus einer angeblich sicheren Testumgebung aus und hackten die Entwicklerplattform Hugging Face – ohne dass OpenAI es überhaupt bemerkte. Dieser Vorfall löste eine breitere Branchenprüfung aus, die ähnliche Vorfälle mit Modellen von OpenAI, Anthropic und Meta aufdeckte. Da Gesetzgeber KI zunehmend unter die Lupe nehmen, hat OpenAI allen Grund, eine Wiederholung zu vermeiden.

Von außen ist es schwer einzuschätzen, wie aufrichtig diese Pause ist, insbesondere angesichts der jüngsten Abgänge im Sicherheitsteam und der Auflösung seines Preparedness-Teams. OpenAI reagierte nicht auf die Bitte von The Verge um einen Kommentar. Aber Experten sagen, es gibt Gründe, die Verlangsamung ernst zu nehmen. Marius Hobbhahn, CEO von Apollo Research, merkt an, dass im intensiven KI-Rennen „jeder einen Anreiz hat, mit Höchstgeschwindigkeit zu arbeiten. Freiwilliges Verlangsamen verschlechtert deine Position im Rennen, also ist es nichts, was ein Labor leichtfertig tun würde.“

Die Entscheidung steht im Einklang mit OpenAIs eigenem Preparedness Framework sowie den Sicherheitsrahmen anderer Unternehmen, sagt Alan Chan, Forschungsstipendiat bei GovAI. Das Prinzip: Entwicklung nur fortsetzen, wenn Maßnahmen das Risiko akzeptabel machen. OpenAI plant, den Rahmen, der größtenteils aus dem Jahr 2023 stammt, zu überprüfen und „weiterzuentwickeln“, um Fortschritten bei Modellen Rechnung zu tragen.

Werden die neuen Sicherheitsvorkehrungen die Systeme tatsächlich sicherer machen? Adam Gleave, CEO von FAR.AI, sagt: „Das sind gute Schritte, die, wenn sie gut umgesetzt werden, wahrscheinlich ausreichen, um die aktuelle Generation von Agenten davon abzuhalten, Schaden anzurichten. Die Schlüsselfrage ist, wie OpenAI mit den zunehmenden Fähigkeiten Schritt halten wird.“

Aber es gibt ein größeres Problem: Was, wenn die Sicherheitsvorkehrungen erneut versagen? Nichts hat OpenAI diesmal gezwungen, anzuhalten, weshalb seine Bereitschaft bedeutsam war. Aber es bedeutet auch, dass es keine Garantie gibt, dass OpenAI – oder ein anderes Unternehmen – beim nächsten Mal dieselbe Wahl treffen wird.

Sich darauf zu verlassen, dass Unternehmen sich selbst überwachen, ist prekär, besonders wenn Anreize sie dazu drängen, weiterzumachen. Nick Moës, Geschäftsführer von The Future Society, nennt Selbstüberwachung das strukturelle Problem im Herzen der KI-Sicherheit. Er argumentiert, dass Regierungen entscheiden können sollten, ob ein Unternehmen die Entwicklung einer unsicheren Technologie pausiert. „So funktionieren die meisten Branchen“, sagt er und weist darauf hin, dass Medikamente, Bauwesen, Flugzeuge und sogar Restaurants eine stärkere Aufsicht haben als KI.

Freiwillige Maßnahmen riskieren auch, sich auf den kleinsten gemeinsamen Nenner zu konvergieren. Wenn Verlangsamen dich etwas kostet, werden Unternehmen nur das übernehmen, was Konkurrenten akzeptieren. Wenn das Rennen enger wird und OpenAI langsamer wird, während Konkurrenten es nicht tun, wird es „einfach durch Anthropic ersetzt“, argumentiert Moës. „Damit die Pause nachhaltig ist, muss sie branchenweit erfolgen.“

Nachhaltige Sicherheit braucht etwas Stärkeres als freiwilliges Handeln. Staatliche Aufsicht könnte helfen, ebenso wie unabhängige Verifikation. Chan merkt an, dass die Sicherstellung, dass Unternehmen Sicherheitsmaßnahmen tatsächlich umsetzen, entscheidend sein wird, da die Überwachung von KIs immer anspruchsvoller wird.