Afgelopen vrijdag beval het Witte Huis, onder verwijzing naar niet-gespecificeerde nationale veiligheidszorgen, Anthropic om te stoppen met de export van zijn krachtige AI-modellen Fable en Mythos naar iedereen buiten de Verenigde Staten, evenals naar buitenlandse staatsburgers binnen het land. Anthropic, altijd de gehoorzame huisgast, trok haastig de stekker uit beide modellen, die nu al een week voor niemand beschikbaar zijn.

Deze episode markeert de eerste echte test of de Amerikaanse overheid exportcontroles kan gebruiken om grensverleggende AI in te dammen – op dezelfde manier als ze eerder, met zeer wisselende resultaten, encryptie en spyware probeerde in te dammen. En hoe dramatisch het ook klinkt, hoe deze impasse wordt opgelost, kan niet alleen Anthropic's toegang tot buitenlandse markten bepalen, maar ook het regelboek dat andere AI-laboratoria zullen moeten volgen.

Eerst wat context. Sinds Anthropic in april Mythos lanceerde, heeft het bedrijf het model op de markt gebracht als een soort Doomsday-cybermachine die het internet zou kunnen ontwrichten als het te breed werd verspreid – daarom hadden vóór het verbod slechts ongeveer 150 goedgekeurde bedrijven en overheidsorganisaties er toegang toe. Het doel was om verdedigers te helpen hun software en diensten te beveiligen voordat de slechteriken toegang zouden krijgen tot Mythos-achtige mogelijkheden.

Wat leidde tot het verbod? Twee opeenvolgende gebeurtenissen, naar verluidt. De eerste: Anthropic gaf een Zuid-Koreaanse telecomoperator toegang tot Mythos via zijn beperkte partnerprogramma, en Amerikaanse functionarissen raakten gealarmeerd nadat ze het bedrijf identificeerden als een waarvan ze vermoedden dat het banden had met China. (Het bedrijf, algemeen gemeld als SK Telecom, heeft elke connectie met China ontkend.) Amazon-CEO Andy Jassy zou de regering ook hebben gewaarschuwd nadat Amazon's eigen onderzoekers, volgens hem, een manier vonden om de beveiliging van Fable 5 te omzeilen. Anthropic betwist het label 'jailbreak' en noemt het een smal, reeds gepatcht probleem in plaats van een algehele nederlaag van de veiligheidsmaatregelen van het model.

Het resultaat was hetzelfde: het Ministerie van Handel vaardigde een exportcontrole-richtlijn uit, en Anthropic moest zich haasten om de toegang tot zijn producten onmiddellijk te beperken – binnen ongeveer 90 minuten na de melding, volgens sommige berichten.

Dit is echter niets nieuws. Regeringen proberen al decennia exportcontroles te gebruiken om de verspreiding van wat zij als gevaarlijke cybertechnologie beschouwen te beperken, maar hun staat van dienst is op zijn best middelmatig.

De Amerikaanse overheid stond achter wat misschien wel de meest spectaculaire mislukking van deze aanpak in de geschiedenis is, in de vroege tot midden jaren '90. Destijds ontwikkelden computerwetenschappers encryptietechnologieën om gegevens te beveiligen terwijl ze over het internet reisden. Een van die encryptieproducten heette Pretty Good Privacy, of PGP, een populaire software die gegevens kon versleutelen en ze vrijwel onmogelijk te ontcijferen maakte, zelfs als ze werden onderschept tijdens hun reis naar de beoogde ontvanger via het internet.

De Amerikaanse overheid zag PGP aanvankelijk als een gevaarlijk wapen, uit angst dat het haar inlichtingendiensten zou beletten e-mails te bespioneren terwijl ze over hun draden reisden. Om de verspreiding van PGP te stoppen, opende de Amerikaanse douane een strafrechtelijk onderzoek tegen PGP's maker Phil Zimmermann wegens vermeende overtreding van wapenexportcontroles. Hij vocht terug door de broncode van PGP als gedrukt boek te publiceren, wat leidde tot wat nu bekend staat als de 'Crypto Wars'. Zimmermann won later een belangrijke slag toen het onderzoek werd gesloten, wat de weg vrijmaakte voor cruciale end-to-end encryptie-algoritmen zoals die gebruikt worden door miljarden Signal- en WhatsApp-gebruikers.

Later, in de vroege jaren 2010, begonnen onderzoekers in het Westen gemaakte spyware te ontdekken die werd gebruikt tegen dissidenten in het Midden-Oosten. Als reactie stemden verschillende regeringen ermee in om de Wassenaar-regeling uit te breiden, een internationaal verdrag dat de export van dual-use software en technologieën beperkt die zowel in civiele als militaire toepassingen worden gebruikt. Het idee was om surveillance- en hacksoftware als dual-use te classificeren, waardoor spywaremakers exportlicenties moeten krijgen om hun producten in het buitenland te verkopen.

Maar Wassenaar heeft altijd twee inherente zwaktes gehad.