W zeszły piątek Biały Dom, powołując się na nieokreślone względy bezpieczeństwa narodowego, nakazał Anthropic zaprzestanie eksportu swoich potężnych modeli AI, Fable i Mythos, do kogokolwiek poza Stanami Zjednoczonymi, a także obcokrajowców w kraju. Anthropic, zawsze posłuszny gość, pospiesznie odciął oba modele, które od tygodnia są niedostępne dla nikogo.

Ten epizod to pierwszy prawdziwy test, czy rząd USA może użyć kontroli eksportu do powstrzymania granicznej AI – tak samo jak próbował, z bardzo nierównymi skutkami, powstrzymać szyfrowanie i oprogramowanie szpiegowskie. I choć brzmi to dramatycznie, sposób rozwiązania tego sporu może ukształtować nie tylko dostęp Anthropic do rynków zagranicznych, ale także zasady, które będą musiały przyjąć inne laboratoria AI.

Najpierw trochę kontekstu. Odkąd Anthropic uruchomił Mythos w kwietniu, firma reklamowała go jako swego rodzaju cybermaszynę zagłady, która mogłaby siać spustoszenie w internecie, gdyby została zbyt szeroko udostępniona – dlatego przed zakazem dostęp do niej miało tylko około 150 sprawdzonych firm i organizacji rządowych. Celem było pomaganie obrońcom w zabezpieczaniu ich oprogramowania i usług, zanim źli gracze zdobędą możliwości podobne do Mythos.

Co więc wywołało zakaz? Podobno dwa późniejsze wydarzenia. Po pierwsze: Anthropic dał południowokoreańskiemu operatorowi telekomunikacyjnemu dostęp do Mythos w ramach swojego ograniczonego programu partnerskiego, a urzędnicy USA zaniepokoili się, gdy zidentyfikowali firmę jako podejrzaną o powiązania z Chinami. (Firma, powszechnie uznawana za SK Telecom, zaprzeczyła jakimkolwiek związkom z Chinami.) Podobno także dyrektor generalny Amazonu, Andy Jassy, poinformował administrację, że badacze Amazonu znaleźli sposób na obejście zabezpieczeń Fable 5. Anthropic kwestionuje etykietę „jailbreak”, nazywając to wąskim, już załatanym problemem, a nie całkowitą porażką środków bezpieczeństwa modelu.

Efekt był ten sam: Departament Handlu wydał dyrektywę o kontroli eksportu, a Anthropic musiał natychmiast ograniczyć dostęp do swoich produktów – według niektórych relacji w ciągu około 90 minut od powiadomienia.

Nic z tego nie jest jednak nowe. Rządy od dziesięcioleci próbują używać kontroli eksportu do ograniczenia proliferacji tego, co uważają za niebezpieczną technologię cybernetyczną, ale ich skuteczność jest co najwyżej średnia.

Rząd USA stał za tym, co jest prawdopodobnie najbardziej spektakularną porażką tego podejścia w historii na początku i w połowie lat 90. W tym czasie informatycy opracowywali technologie szyfrowania do zabezpieczania danych przesyłanych przez internet. Jednym z tych produktów szyfrujących był Pretty Good Privacy, czyli PGP, popularne oprogramowanie, które mogło szyfrować dane i czynić je praktycznie niemożliwymi do odszyfrowania, nawet jeśli zostały przechwycone podczas podróży do zamierzonego odbiorcy przez internet.

Rząd USA początkowo postrzegał PGP jako niebezpieczną broń, obawiając się, że uniemożliwi to jego agencjom wywiadowczym szpiegowanie e-maili przesyłanych przez ich sieci. Aby powstrzymać dystrybucję PGP, amerykańska Służba Celna wszczęła śledztwo karne przeciwko twórcy PGP, Philowi Zimmermannovi, za rzekome naruszenie kontroli eksportu broni. Odpowiedział on, publikując kod źródłowy PGP jako drukowaną książkę, wywołując to, co dziś znane jest jako „Wojny kryptograficzne”. Zimmermann później wygrał kluczową bitwę, gdy śledztwo zostało zamknięte, torując drogę kluczowym algorytmom szyfrowania end-to-end, takim jak ten używany przez miliardy użytkowników Signala i WhatsAppa.

Później, na początku lat 2010., badacze zaczęli odkrywać zachodnie oprogramowanie szpiegowskie używane przeciwko dysydentom na Bliskim Wschodzie. W odpowiedzi kilka rządów zgodziło się rozszerzyć Porozumienie Wassenaar, międzynarodowy traktat ograniczający eksport oprogramowania i technologii podwójnego zastosowania, używanych zarówno w zastosowaniach cywilnych, jak i wojskowych. Pomysłem było sklasyfikowanie oprogramowania do inwigilacji i hakowania jako podwójnego zastosowania, zmuszając tym samym producentów spyware do uzyskiwania licencji eksportowych na sprzedaż swoich produktów za granicą.

Ale Wassenaar zawsze miał dwie wrodzone słabości