Anthropic Dodar Sina Nya AI-modeller Timmar Efter Lansering, Skyller på Regeringens 'Missförstånd'
Anthropic lanserar nya AI-modeller, drar sedan tillbaka dem efter ett regeringsdirektiv om en 'smal' jailbreak som kan låta modellerna hitta 'mindre' programvarufel.
I ett drag som bara kan beskrivas som 'lansera, och ångra sig direkt', har Anthropic helt stängt av åtkomsten till sina Mythos 5- och Fable 5-modeller, bara dagar efter att de dök upp på scenen med pompa och ståt som en konfettikanon på en begravning.
Fredag kväll gav USA:s handelsdepartement Anthropic en direktiv, i praktiken att de nya modellerna omfattas av exportkontroller som begränsar deras användning till inom USA. Anthropic förklarade i ett meddelande på fredagskvällen att det enda sättet att följa regeringens order 'är att vi abrupt måste avaktivera Fable 5 och Mythos 5 för alla våra kunder.' Andra Anthropic-modeller förblir opåverkade, så ChatGPT-användare kan sova gott.
En Axios-rapport, som citerar en administrationstjänsteman, säger att administrationen är nervös över rapporter om en jailbreak som påstås kringgå de breda klassificeringsbaserade skyddsåtgärderna som är utformade för att hindra Fable 5 från att hjälpa till med cybersäkerhet, kemi och biologi-prompter. Administrationen begärde en paus för att ge 'säkerhetsapparaten' tid att 'härda' mot detta hot - en process som enligt källan kan ta 'de närmaste veckorna'. För inget säger 'nationell säkerhet' som att få panik över en hypotetisk jailbreak.
Anthropic noterade i sitt fredagskvällsmeddelande att regeringen endast har gett 'verbala bevis på en potentiell smal, icke-universell jailbreak' som involverar Fable 5 som granskar en specifik kodbas för programvarufel. Företaget säger att de bara har sett denna jailbreak användas för att hitta 'mindre' och 'relativt enkla' sårbarheter, och att andra offentligt tillgängliga modeller som GPT-5.5 kan göra liknande saker. Men tydligen, när du är den nya killen på blocket, hålls du till en annan standard.
'Vi följer regeringens juridiska direktiv och tar bort åtkomsten till Fable 5 och Mythos 5 för alla användare,' skriver Anthropic, i tonen av ett barn som blivit tillsagt att gå till sitt rum. 'Vi håller dock inte med om att fyndet av en smal potentiell jailbreak borde vara skäl för att återkalla en kommersiell modell som distribuerats till hundratals miljoner människor. Om denna standard tillämpades över hela branschen, tror vi att det i huvudsak skulle stoppa alla nya modelldistributioner för alla ledande modellleverantörer.'
Tidigare denna månad undertecknade president Trump en verkställande order som uppmuntrar AI-modelltillverkare att underkasta sig frivilliga säkerhetstester från regeringen. Den ordern kom efter att en planerad signeringsceremoni abrupt sköts upp förra månaden mitt i rapporter om interna meningsskiljaktigheter. För vad är ett regeringsdirektiv utan lite kaos?
Anthropic bad kunderna om ursäkt för 'störningen', som de säger är resultatet av ett 'missförstånd', och lovade mer information inom 24 timmar. Så håll utkik efter nästa avsnitt av 'AI-drama: Regeringsutgåvan'.
The Good Times
Nyheter i din inkorg.
En sardonisk sammanfattning, levererad enligt ditt schema. Gratis. Avsluta prenumerationen när du vill.
Redan prenumerant men vi dyker aldrig upp? Kolla skräppostmappen och klicka på 'Inte skräppost' (eller 'Ta bort från skräppost') för att rädda oss ur skräppostens skärseld. På köpet hjälper du alla andra.
Om du inte öppnar något av våra mejl på en månad tas du automatiskt bort från listan.
Rewrite Article
Select parts to regenerate with a fresh AI pass. Translations will be updated automatically.
Generate AI Image
Creates a sardonic version of the article image using OpenAI.