Geçen Cuma, Beyaz Saray, belirtilmeyen ulusal güvenlik endişelerini gerekçe göstererek Anthropic'e güçlü AI modelleri Fable ve Mythos'u Amerika Birleşik Devletleri dışındaki herkese ve ülke içindeki yabancı uyruklulara ihraç etmeyi durdurmasını emretti. Her zaman itaatkar bir misafir olan Anthropic, aceleyle her iki modelin fişini çekti ve modeller bir haftadır kimseye sunulmuyor.
Bu bölüm, ABD hükümetinin sınır AI'sını kontrol altına almak için ihracat kontrollerini kullanıp kullanamayacağının ilk gerçek testi - tıpkı daha önce şifreleme ve casus yazılımları kontrol altına almaya çalıştığı gibi, çok eşitsiz sonuçlarla. Ve kulağa ne kadar dramatik gelse de, bu anlaşmazlığın nasıl çözüleceği yalnızca Anthropic'in yabancı pazarlara erişimini değil, diğer AI laboratuvarlarının etrafında inşa etmek zorunda kalacağı kural kitabını da şekillendirebilir.
Önce biraz bağlam. Anthropic, Nisan ayında Mythos'u piyasaya sürdüğünden beri, onu bir tür Kıyamet siber makinesi olarak pazarladı - çok geniş çapta serbest bırakılırsa internette kaosa yol açabilecek bir şey. Bu nedenle, yasaktan önce, yalnızca yaklaşık 150 onaylı şirket ve devlet kuruluşunun ona erişimi vardı. Amaç, kötü adamlar Mythos benzeri yeteneklere ulaşmadan önce savunucuların yazılımlarını ve hizmetlerini güvence altına almalarına yardımcı olmaktı.
Peki yasağı ne tetikledi? İddiaya göre iki ardışık olay. Birincisi: Anthropic, sınırlı ortak programı aracılığıyla Güney Koreli bir telekom şirketine Mythos'a erişim verdi ve ABD'li yetkililer, şirketi Çin ile bağlantılı olduğundan şüphelendikleri biri olarak tanımladıktan sonra alarma geçti. (Yaygın olarak SK Telecom olduğu bildirilen şirket, herhangi bir Çin bağlantısını reddetti.) Amazon CEO'su Andy Jassy'nin de, Amazon'un kendi araştırmacılarının Fable 5'in güvenlik önlemlerini aşmanın bir yolunu bulduğunu söylemesi üzerine yönetimi uyardığı bildiriliyor. Anthropic, "jailbreak" etiketini reddediyor ve bunu modelin güvenlik önlemlerinin toptan bir yenilgisi değil, dar, zaten yamalanmış bir sorun olarak nitelendiriyor.
Sonuç aynıydı: Ticaret Bakanlığı bir ihracat kontrol direktifi yayınladı ve Anthropic, ürünlerine erişimi derhal sınırlamak için acele etmek zorunda kaldı - bazı hesaplara göre, bildirimden yaklaşık 90 dakika sonra.
Ancak bunların hiçbiri yeni değil. Hükümetler onlarca yıldır tehlikeli siber teknoloji olarak gördükleri şeylerin yayılmasını sınırlamak için ihracat kontrollerini kullanmaya çalıştılar, ancak sicilleri en iyi ihtimalle vasat.
ABD hükümeti, bu yaklaşımın belki de tarihin en muhteşem başarısızlığının arkasındaydı: 1990'ların başından ortasına kadar. O zamanlar, bilgisayar bilimcileri internet üzerinden seyahat ederken verileri güvence altına almak için şifreleme teknolojileri geliştiriyorlardı. Bu şifreleme ürünlerinden biri, Pretty Good Privacy veya PGP adlı, verileri şifreleyebilen ve internet üzerinden hedefine ulaşırken ele geçirilse bile neredeyse imkansız hale getiren popüler bir yazılımdı.
ABD hükümeti başlangıçta PGP'yi tehlikeli bir silah olarak gördü ve istihbarat teşkilatlarının kablolarından geçerken e-postaları gizlice dinlemesini engelleyeceğinden korktu. PGP'nin dağıtımını durdurmak için ABD Gümrük Servisi, PGP'nin yaratıcısı Phil Zimmermann'a karşı silah ihracat kontrollerini ihlal ettiği iddiasıyla bir ceza soruşturması başlattı. O, PGP'nin kaynak kodunu basılı bir kitap olarak yayınlayarak karşılık verdi ve bugün "Kripto Savaşları" olarak bilinen şeyi ateşledi. Zimmermann daha sonra soruşturma kapatıldığında önemli bir savaş kazandı ve milyarlarca Signal ve WhatsApp kullanıcısı tarafından kullanılan uçtan uca şifreleme algoritmalarının önünü açtı.
Daha sonra, 2010'ların başında araştırmacılar, Orta Doğu'daki muhaliflere karşı kullanılan Batı yapımı casus yazılımlar keşfetmeye başladı. Buna yanıt olarak, birkaç hükümet, hem sivil hem de askeri uygulamalarda kullanılan çift kullanımlı yazılım ve teknolojilerin ihracatını sınırlayan uluslararası bir anlaşma olan Wassenaar Düzenlemesi'ni genişletmeyi kabul etti. Fikir, gözetleme ve hackleme yazılımlarını çift kullanımlı olarak sınıflandırmak ve böylece casus yazılım üreticilerini ürünlerini yurtdışında satmak için ihracat lisansı almaya zorlamaktı.
Ancak Wassenaar'ın her zaman iki doğal zayıflığı oldu.