Weißes Haus befiehlt Anthropic, seine Doomsday-KI-Spielzeuge nicht mehr zu teilen – die Geschichte kichert leise

Letzten Freitag ordnete das Weiße Haus unter Berufung auf nicht näher bezeichnete nationale Sicherheitsbedenken an, dass Anthropic den Export seiner leistungsstarken KI-Modelle Fable und Mythos an Personen außerhalb der USA sowie an ausländische Staatsangehörige im Inland einstellt. Anthropic, stets der gehorsame Gast, zog umgehend den Stecker für beide Modelle, die nun seit einer Woche für niemanden verfügbar sind.

Diese Episode ist der erste echte Test, ob die US-Regierung mit Exportkontrollen die Grenzen der KI eindämmen kann – so wie sie es zuvor mit Verschlüsselung und Spyware versucht hat, mit sehr gemischten Ergebnissen. Und so dramatisch es klingen mag, wie dieser Showdown gelöst wird, könnte nicht nur den Zugang von Anthropic zu ausländischen Märkten prägen, sondern auch das Regelwerk, an das sich andere KI-Labore halten müssen.

Etwas Kontext zuerst. Seit Anthropic im April Mythos auf den Markt gebracht hat, vermarktet das Unternehmen es als eine Art Doomsday-Cyber-Maschine, die im Internet verheerenden Schaden anrichten könnte, wenn sie zu weit verbreitet würde – weshalb vor dem Verbot nur etwa 150 geprüfte Unternehmen und Regierungsorganisationen Zugang hatten. Ziel war es, Verteidigern zu helfen, ihre Software und Dienste zu sichern, bevor die Bösen in den Besitz von Mythos-ähnlichen Fähigkeiten gelangen.

Was hat also das Verbot ausgelöst? Berichten zufolge zwei Ereignisse. Erstens: Anthropic gab einem südkoreanischen Telekommunikationsunternehmen über sein begrenztes Partnerprogramm Zugang zu Mythos, und US-Beamte wurden alarmiert, nachdem sie das Unternehmen als eines identifiziert hatten, das sie verdächtigten, Verbindungen zu China zu haben. (Das Unternehmen, bei dem es sich weithin um SK Telecom handelt, hat jegliche China-Verbindung bestritten.) Amazon-CEO Andy Jassy soll die Regierung ebenfalls alarmiert haben, nachdem Amazon-eigene Forscher seiner Aussage nach einen Weg gefunden hatten, die Sicherheitsvorkehrungen von Fable 5 zu umgehen. Anthropic bestreitet das Label „Jailbreak“ und bezeichnet es als ein enges, bereits behobenes Problem und nicht als eine vollständige Niederlage der Sicherheitsmaßnahmen des Modells.

Das Ergebnis war dasselbe: Das Handelsministerium erließ eine Exportkontrollanweisung, und Anthropic musste sich beeilen, den Zugang zu seinen Produkten sofort einzuschränken – Berichten zufolge innerhalb von etwa 90 Minuten nach der Benachrichtigung.

All dies ist jedoch nicht neu. Regierungen versuchen seit Jahrzehnten, mit Exportkontrollen die Verbreitung dessen zu begrenzen, was sie als gefährliche Cyber-Technologie ansehen, aber ihre Bilanz ist bestenfalls durchwachsen.

Die US-Regierung war für das vielleicht spektakulärste Scheitern dieses Ansatzes in der Geschichte verantwortlich, in den frühen bis mittleren 1990er Jahren. Damals entwickelten Informatiker Verschlüsselungstechnologien, um Daten auf ihrem Weg durch das Internet zu sichern. Eines dieser Verschlüsselungsprodukte war Pretty Good Privacy (PGP), eine beliebte Software, die Daten verschlüsseln und praktisch unmöglich zu entschlüsseln machen konnte, selbst wenn sie auf dem Weg zum beabsichtigten Empfänger abgefangen wurden.

Die US-Regierung sah PGP zunächst als gefährliche Waffe an, aus Angst, es würde ihre Geheimdienste daran hindern, E-Mails zu überwachen. Um die Verbreitung von PGP zu stoppen, leitete der US-Zoll ein strafrechtliches Ermittlungsverfahren gegen PGP-Erfinder Phil Zimmermann ein, weil er angeblich gegen Waffenexportkontrollen verstoßen hatte. Er wehrte sich, indem er den Quellcode von PGP als gedrucktes Buch veröffentlichte, was die heute als „Crypto Wars“ bekannte Auseinandersetzung auslöste. Zimmermann gewann später eine wichtige Schlacht, als die Ermittlungen eingestellt wurden, und ebnete den Weg für entscheidende Ende-zu-Ende-Verschlüsselungsalgorithmen wie den, der von Milliarden von Signal- und WhatsApp-Nutzern verwendet wird.

Später, in den frühen 2010er Jahren, entdeckten Forscher westliche Spyware, die gegen Dissidenten im Nahen Osten eingesetzt wurde. Als Reaktion darauf erklärten sich mehrere Regierungen bereit, das Wassenaar-Abkommen zu erweitern, einen internationalen Vertrag, der den Export von Dual-Use-Software und -Technologien einschränkt, die sowohl in zivilen als auch militärischen Anwendungen eingesetzt werden. Die Idee war, Überwachungs- und Hacking-Software als Dual-Use einzustufen und Spyware-Hersteller zu zwingen, Exportlizenzen für den Verkauf ihrer Produkte im Ausland zu erhalten.

Aber Wassenaar hatte schon immer zwei inhärente Schwächen.