Anthropic Perşembe günü, sınır yapay zeka modellerini değerlendiren kar amacı gütmeyen kuruluş METR'den altı araştırmacıya çalışan düzeyinde erişim sağlayacağını duyurdu. Bir blog yazısında ayrıntıları verilen bu düzenleme, bağımsız ekibin Anthropic'in modellerini, güvenlik uygulamalarını ve risk yönetimini değerlendirmesine olanak tanıyor - yapay zeka dünyasında bir kongre oturumunda net bir cevap almak kadar nadir görülen bir şeffaflık seviyesi.

Zamanlama tesadüf değil. Ağustos sonundan bu yana, yapay zeka ajanlarının talimatlarının dışına çıktığı olaylar her bir iki haftada bir açıklanıyor; bu tür bir istikrarı normalde sadece abonelik kutularında ve varoluşsal korkularda görürsünüz. Bu olaylar, yapay zeka şirketleri üzerinde bağımsız denetim çağrılarını keskinleştirdi, çünkü "bize güvenin, çok dikkatliyiz" hiçbir zaman kalabalıkları memnun etmedi.

Anthropic blog yazısında, "Aldığımız kararlar için kamuya hesap verebilir olmak istiyoruz" dedi. "Değerlendiricilerin bir sınır yapay zeka şirketinin sistemleri hakkında anladıkları ile şirketin kendisinin anladıkları arasındaki boşluğu kapatmayı hedefliyoruz." Bu asil bir hedef, tabii boşluk taşıyıcı değilse.

Yeni düzenlemeye göre METR, Anthropic tarafından sağlanan şirket dizüstü bilgisayarlarını, ofis alanını ve Anthropic'in kendi risk değerlendirme ekiplerinin kullandıklarıyla kabaca aynı düzeyde dahili araçlara erişimi alıyor. Anthropic çalışanları, hizalama riski üzerinde çalışan bir iş arkadaşlarıyla paylaşacakları gibi onlarla bilgi paylaşmaya teşvik ediliyor - bu ya kurumsal açıklığın iç ısıtan bir göstergesi ya da o cümlede "iş arkadaşı" ifadesinin çok fazla iş yaptığının bir hatırlatıcısı.

Anthropic bu düzeni bankacılığa benzetti; düzenleyicilerin en büyük bankaların içine yerleşik denetçiler yerleştirmesine benzer şekilde. Çünkü 2008 finansal krizinden sonra icat edilen bir düzenleme modelini benimsemek kadar "son teknoloji" diyen başka bir şey yok.

METR, Anthropic'in riskleri, olayları ve uygulamaları hakkında kendi değerlendirmelerini yayınlayacak ve Anthropic bunları engelleme hakkından feragat etti. Şirket, "Anthropic yayını veto edemez, ancak bilgiler dar, önceden tanımlanmış kategorilere girerse redakte etmelerini isteyebiliriz" dedi; müşteri verileri, avukat-müvekkil ayrıcalıklı materyaller ve model mimarileri hakkındaki bilgileri gerekçe göstererek. METR, redaksiyonları kamuya açık olarak karakterize etmekte ve gerekçeli olduğuna inanıp inanmadığını söylemekte serbest - yeter ki redakte edilen bilgileri açığa çıkarmasın - bu da bir sihirbazlık numarasını kimseye kartı göstermeden tarif etmeye izin verilmesine benziyor.

METR, Anthropic'in inşa ettiği üç katmanlı sistemin şu ana kadarki en üst katmanındaki tek değerlendirici. Biyogüvenlik kar amacı gütmeyen kuruluşu SecureBio gibi alt katmandaki değerlendiriciler dar kapsamlı incelemeler yapar ve yayınlamak için Anthropic'in onayına ihtiyaç duyar. Orta katman daha fazla bilgi alır ve onay olmadan yayınlayabilir; en üst katman ise METR'in çalışan düzeyindeki erişimini ekler. Bu katmanlı bir sistem, ki bu uygun çünkü çoğu pasta ve neredeyse tüm kaygı da öyle.

Perşembe günkü duyuru, Anthropic CEO'su Dario Amodei'nin Eylül ayında bir makalesinde verdiği sözü yerine getiriyor; Amodei bu makalede teknolojinin gelişimini yavaşlatmaya yönelik ilk adım olarak dış değerlendiricileri yapay zeka laboratuvarlarına yerleştirmeyi önermişti. OpenAI hızla aynı taahhüdü verdi ve her iki şirket ile Google, Meta, Nvidia ve xAI, o zamandan beri bağımsız incelemeyi taahhüt eden bir Beyaz Saray anlaşmasını imzaladı. Gönüllü bir taahhüt kadar güven inşa eden başka bir şey yok - kelimenin tam anlamıyla başka herhangi bir şeyi saymazsanız.