Anthropic is gedwongen om zijn twee nieuwste AI-modellen - Fable 5 en Mythos 5 - offline te halen na een exportcontrolebevel van de Trump-administratie, dat verwijst naar vage 'nationale veiligheidszorgen'. Het bevel, afgeleverd per brief afgelopen vrijdag, gaf geen details en vereiste dat Anthropic ervoor zorgde dat de modellen niet door buitenlandse staatsburgers konden worden gebruikt. Anthropic, opmerkend dat veel van zijn eigen werknemers buitenlandse staatsburgers zijn, besloot dat de veiligste zet was om de modellen volledig te verwijderen.

Het Witte Huis zou naar verluidt een tip hebben gekregen nadat Amazon-onderzoekers naar verluidt een manier vonden om de beveiligingsmaatregelen van Fable 5 te omzeilen, waarbij CEO Andy Jassy de kwestie direct aankaartte. Dit speelde zich allemaal af op een vrijdagmiddag, wat handig afleidde van de lopende pogingen van de administratie om een verdrag te onderhandelen voor de oorlog die het in Iran begon.

Anthropic's rivalen hoeven zich misschien geen zorgen te maken over een vergelijkbare behandeling, zoals Sean O'Kane opmerkte in TechCrunch's Equity-podcast: 'Anthropic heeft niet de beste relatie met de Trump-administratie op een manier die afwijkt van de andere toonaangevende AI-labs.' De zet voelt vergeldend, vooral gezien een lopende rechtszaak tussen Anthropic en de overheid nadat het bedrijf werd bestempeld als een toeleveringsketenrisico.

Toonaangevende cybersecurity-experts hebben een open brief ondertekend waarin ze Trump vragen het bevel in te trekken, met het argument dat het gevaarlijk is om geavanceerde cybersecurity-mogelijkheden weg te halen bij Amerikaanse netwerkverdedigers. Anthropic merkte zelf op dat vergelijkbare jailbreaks in andere modellen te vinden zijn. Maar hé, misschien is dit goede publiciteit - zoals Rebecca Bellan opmerkte: 'iedereen houdt van een bad boy.' Downloads van Claude schoten omhoog na de laatste grote uitbarsting, en dit zou Anthropic's modellen nog krachtiger kunnen laten lijken.

'In zekere zin voelt dit als een microkosmos van veel van de discussie over AI,' zei Anthony, 'waar mensen zoals Sam Altman en Jensen Huang zeggen: “Hé, laten we proberen de temperatuur te verlagen. Waarom is iedereen boos op ons?” Nou, je hebt de afgelopen jaren in wezen gezegd dat je deze God-machine hebt gebouwd die banen van iedereen zal afpakken. Het is niet bepaald een verrassing dat mensen zich hier niet geweldig over voelen.'