Anthropic musste seine beiden neuesten KI-Modelle – Fable 5 und Mythos 5 – offline nehmen, nachdem die Trump-Regierung eine Exportkontrollverordnung erlassen hatte, die sich auf vage „nationale Sicherheitsbedenken“ berief. Die Anordnung, die per Brief am vergangenen Freitag zugestellt wurde, enthielt keine Einzelheiten und verlangte von Anthropic sicherzustellen, dass die Modelle nicht von ausländischen Staatsangehörigen genutzt werden können. Anthropic, das darauf hinwies, dass viele seiner eigenen Mitarbeiter Ausländer sind, entschied, dass der sicherste Schritt darin bestehe, die Modelle komplett vom Netz zu nehmen.

Das Weiße Haus wurde Berichten zufolge getippt, nachdem Amazon-Forscher angeblich einen Weg gefunden hatten, die Schutzmaßnahmen von Fable 5 zu umgehen, wobei CEO Andy Jassy das Problem direkt ansprach. Dies alles spielte sich an einem Freitagnachmittag ab, was bequem von den laufenden Bemühungen der Regierung ablenkte, einen Vertrag für den von ihr begonnenen Krieg im Iran auszuhandeln.

Anthropics Konkurrenten müssen sich wohl keine Sorgen um eine ähnliche Behandlung machen, wie Sean O'Kane im TechCrunch-Equity-Podcast anmerkte: „Anthropic hatte nicht das beste Verhältnis zur Trump-Regierung, und das unterscheidet sie von den anderen führenden KI-Labors.“ Der Schritt wirkt vergeltend, insbesondere angesichts einer laufenden Klage zwischen Anthropic und der Regierung, nachdem das Unternehmen als Lieferkettenrisiko eingestuft wurde.

Führende Cybersicherheitsexperten haben einen offenen Brief unterzeichnet, in dem sie Trump auffordern, die Anordnung zurückzunehmen, da es gefährlich sei, fortschrittliche Cybersicherheitsfähigkeiten von US-Netzwerkverteidigern zu entfernen. Anthropic selbst wies darauf hin, dass ähnliche Jailbreaks auch in anderen Modellen gefunden werden könnten. Aber hey, vielleicht ist das gute Publicity – wie Rebecca Bellan anmerkte: „Jeder liebt einen Bad Boy.“ Die Downloads von Claude schossen nach dem letzten großen Eklat in die Höhe, und das könnte Anthropics Modelle noch mächtiger erscheinen lassen.

„In gewisser Weise fühlt sich das wie ein Mikrokosmos der vielen Diskussionen über KI an“, sagte Anthony, „wo Leute wie Sam Altman und Jensen Huang sagen: ‚Hey, lasst uns die Temperatur senken. Warum ist jeder sauer auf uns?‘ Nun, ihr habt die letzten Jahre damit verbracht, im Wesentlichen zu sagen, dass ihr diese Gott-Maschine gebaut habt, die allen die Jobs wegnehmen wird. Es ist nicht gerade eine Überraschung, dass die Leute sich dabei nicht wohlfühlen.“