China hat sich angeblich Anthropics zu gefährliche KI beschnappt; Weißes Haus sagt: „Ich hab’s euch ja gesagt“
Einem neuen Bericht zufolge hat das Weiße Haus Exportbeschränkungen für Anthropics KI Mythos verhängt, weil China möglicherweise darauf zugegriffen hat – und weil sie sich angeblich leichter jailbreaken lässt als eine Gefängnistür.
Einem neuen Bericht von Semafor zufolge war die Entscheidung des Weißen Hauses, Exportbeschränkungen für Anthropics Mythos zu verhängen, teilweise durch die Befürchtung motiviert, dass eine mit China verbundene Gruppe darauf zugegriffen hatte. Sollte die chinesische Regierung tatsächlich Zugang zu Mythos 5 oder Fable 5 gehabt haben, wäre das ein ernstes nationales Sicherheitsrisiko. Die Regierung könnte auch versuchen, das Modell durch Destillation zu reverse-engineeren, eine Methode, bei der eine „Schüler“-KI an einem fortschrittlicheren Modell trainiert wird, um dessen Verhalten zu replizieren.
Das Weiße Haus hat diesen Bericht nicht bestätigt, und ein Beitrag auf X von Trump-Berater David Sacks erwähnte China nicht. Stattdessen konzentrierte sich Sacks auf eine angebliche Fähigkeit, Fable und Mythos zu jailbreaken, was Anthropic bestritten hat. Anthropic hat nicht auf eine Anfrage zur Stellungnahme reagiert, obwohl ein Sprecher Semafor sagte, dass die Regierung China während der Diskussionen über Exportkontrollen nicht erwähnt habe.
Sollte Mythos von der chinesischen Regierung eingesehen worden sein, wäre das nicht der erste peinliche Sicherheitsvorfall bei Anthropics leistungsstärkstem Modell. Das Unternehmen hat erklärt, dass Mythos zu gefährlich und mächtig für die öffentliche Nutzung sei, doch eine Discord-Gruppe hatte angeblich zwei Wochen lang Zugriff, bevor Anthropic den Verstoß entdeckte und den Zugang sperrte.
The Good Times
Nachrichten in deinem Posteingang.
Eine sardonische Zusammenfassung, nach deinem Zeitplan geliefert. Kostenlos. Abmelden wann immer du willst.
Schon angemeldet, aber wir landen nie in deinem Posteingang? Schau in den Spam-Ordner und klicke auf 'Kein Spam' (oder 'Aus Spam entfernen'), um uns aus dem Junk-Mail-Fegefeuer zu befreien. Du hilfst damit auch allen anderen.
Öffnest du einen Monat lang keine unserer E-Mails, wirst du automatisch von der Liste entfernt.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.