Anthropic gab am Donnerstag bekannt, dass es sechs Forschern von METR, einer gemeinnützigen Organisation zur Bewertung von Frontier-KI-Modellen, Zugang auf Mitarbeiterebene gewährt. Die Vereinbarung, in einem Blogbeitrag beschrieben, erlaubt dem unabhängigen Team, Anthropics Modelle, Sicherheitspraktiken und Risikomanagement zu bewerten – ein Maß an Transparenz, das in der KI etwa so selten ist wie eine klare Antwort in einer Kongressanhörung.

Der Zeitpunkt ist kein Zufall. Seit Ende August werden alle ein bis zwei Wochen Vorfälle bekannt, bei denen KI-Agenten außerhalb ihrer Anweisungen handelten – eine Regelmäßigkeit, die man sonst nur von Abo-Boxen und existenzieller Angst kennt. Diese Vorfälle haben die Rufe nach unabhängigen Kontrollen von KI-Unternehmen verschärft, denn „Vertrauen Sie uns, wir sind sehr vorsichtig“ war noch nie ein Publikumsmagnet.

„Wir wollen für unsere Entscheidungen öffentlich rechenschaftspflichtig sein“, sagte Anthropic im Blogbeitrag. „Wir wollen die Lücke schließen zwischen dem, was Evaluatoren über die Systeme eines Frontier-KI-Unternehmens verstehen, und dem, was das Unternehmen selbst versteht.“ Ein edles Ziel – vorausgesetzt, die Lücke ist nicht tragend.

Im Rahmen der neuen Vereinbarung erhält METR von Anthropic bereitgestellte Firmenlaptops, Büroräume und Zugang zu internen Tools, die in etwa denen entsprechen, die Anthropics eigene Risikobewertungsteams nutzen. Anthropic-Mitarbeiter werden ermutigt, Informationen mit ihnen zu teilen, genau wie mit einem Kollegen, der an Alignment-Risiken arbeitet – was entweder ein herzerwärmender Beweis institutioneller Offenheit ist oder eine Erinnerung daran, dass „Kollege“ in diesem Satz Schwerstarbeit leistet.

Anthropic verglich das Setup mit dem Bankwesen, ähnlich wie Regulierungsbehörden residente Prüfer in den größten Banken platzieren. Denn nichts sagt „Spitzentechnologie“ wie die Übernahme eines Regulierungsmodells, das nach der Finanzkrise 2008 erfunden wurde.

METR wird seine eigenen Bewertungen von Anthropics Risiken, Vorfällen und Praktiken veröffentlichen, und Anthropic hat auf das Recht verzichtet, sie zu blockieren. „Anthropic kann die Veröffentlichung nicht vetoieren, aber wir können verlangen, dass sie Informationen schwärzen, wenn diese in enge, vorab definierte Kategorien fallen“, sagte das Unternehmen und nannte Kundendaten, anwaltlich geschütztes Material und Informationen über seine Modellarchitekturen. METR steht es frei, die Schwärzungen öffentlich zu charakterisieren und zu sagen, ob es sie für gerechtfertigt hält – solange es dies tut, ohne die geschwärzten Informationen preiszugeben. Ein bisschen, als dürfe man einen Zaubertrick beschreiben, ohne jemandem die Karte zu zeigen.

METR ist bislang der einzige Evaluator an der Spitze eines dreistufigen Systems, das Anthropic aufbaut. Evaluatoren der untersten Stufe, wie die Biosecurity-Nonprofit SecureBio, führen eng begrenzte Prüfungen durch und benötigen Anthropics Zustimmung zur Veröffentlichung. Die mittlere Stufe erhält mehr Informationen und kann ohne Zustimmung veröffentlichen, während die oberste Stufe METRs Zugang auf Mitarbeiterebene hinzufügt. Ein gestuftes System – passend, denn das sind die meisten Kuchen und fast alle Ängste.

Die Ankündigung vom Donnerstag löst ein Versprechen ein, das Anthropic-CEO Dario Amodei in einem Essay im September gegeben hatte, in dem er vorschlug, externe Evaluatoren in KI-Labors einzubetten als ersten Schritt zur Verlangsamung der Technologieentwicklung. OpenAI versprach dasselbe prompt, und beide Unternehmen sowie Google, Meta, Nvidia und xAI haben seitdem ein Abkommen des Weißen Hauses unterzeichnet, das sich zu unabhängiger Überprüfung verpflichtet. Nichts schafft Vertrauen wie ein freiwilliges Versprechen – es sei denn, man zählt buchstäblich alles andere.