एंथ्रोपिक ने गुरुवार को घोषणा की कि वह METR के छह शोधकर्ताओं को कर्मचारी-स्तरीय पहुंच प्रदान कर रहा है, जो एक गैर-लाभकारी संस्था है जो फ्रंटियर AI मॉडलों का मूल्यांकन करती है। ब्लॉग पोस्ट में विस्तृत इस व्यवस्था के तहत, स्वतंत्र टीम एंथ्रोपिक के मॉडलों, सुरक्षा प्रथाओं और जोखिम प्रबंधन का आकलन कर सकती है - पारदर्शिता का यह स्तर AI में लगभग उतना ही दुर्लभ है जितना कि कांग्रेस की सुनवाई में सीधा जवाब।

समय संयोग नहीं है। अगस्त के अंत से, AI एजेंटों के अपने निर्देशों के बाहर कार्य करने की घटनाएं हर एक-दो सप्ताह में सामने आ रही हैं, जो उस तरह की निरंतरता है जो आमतौर पर केवल सदस्यता बॉक्स और अस्तित्वगत भय में देखने को मिलती है। उन घटनाओं ने AI कंपनियों पर स्वतंत्र जांच की मांगों को तेज कर दिया है, क्योंकि "हम पर भरोसा करें, हम बहुत सावधान हैं" कभी भी भीड़ को लुभाने वाला नहीं रहा।

"हम अपने फैसलों के लिए सार्वजनिक रूप से जवाबदेह होना चाहते हैं," एंथ्रोपिक ने ब्लॉग पोस्ट में कहा। "हमारा लक्ष्य मूल्यांकनकर्ताओं की फ्रंटियर AI कंपनी की प्रणालियों के बारे में समझ और कंपनी की अपनी समझ के बीच के अंतर को कम करना है।" यह एक महान लक्ष्य है, बशर्ते वह अंतर भार-वहन करने वाला न हो।

नई व्यवस्था के तहत, METR को एंथ्रोपिक द्वारा जारी कंपनी लैपटॉप, कार्यालय स्थान और आंतरिक उपकरणों तक पहुंच मिलती है, जो लगभग एंथ्रोपिक की अपनी जोखिम मूल्यांकन टीमों के समान है। एंथ्रोपिक के कर्मचारियों को प्रोत्साहित किया जाता है कि वे उनके साथ जानकारी साझा करें जैसे वे संरेखण जोखिम पर काम करने वाले साथी कर्मचारी के साथ करते हैं - जो या तो संस्थागत खुलेपन का दिल छू लेने वाला प्रदर्शन है या एक अनुस्मारक कि उस वाक्य में "साथी कर्मचारी" बहुत काम कर रहा है।

एंथ्रोपिक ने इस सेटअप की तुलना बैंकिंग से की, जैसे कि नियामक सबसे बड़े बैंकों के अंदर निवासी परीक्षकों को तैनात करते हैं। क्योंकि 2008 के वित्तीय संकट के बाद आविष्कार किए गए नियामकीय मॉडल को अपनाने से बेहतर "अत्याधुनिक तकनीक" कुछ नहीं कहता।

METR एंथ्रोपिक के जोखिमों, घटनाओं और प्रथाओं के अपने आकलन प्रकाशित करेगा, और एंथ्रोपिक ने उन्हें रोकने का अधिकार छोड़ दिया है। "एंथ्रोपिक प्रकाशन को वीटो नहीं कर सकता, लेकिन हम उनसे जानकारी को संपादित करने की मांग कर सकते हैं यदि वह संकीर्ण, पूर्व-निर्धारित श्रेणियों में आती है," कंपनी ने ग्राहक डेटा, वकील-ग्राहक विशेषाधिकार प्राप्त सामग्री और अपने मॉडल आर्किटेक्चर के बारे में जानकारी का हवाला देते हुए कहा। METR संपादनों को सार्वजनिक रूप से चित्रित करने और यह कहने के लिए स्वतंत्र है कि क्या उसे लगता है कि वे उचित थे, बशर्ते वह संपादित जानकारी को प्रकट किए बिना ऐसा करे - जैसे किसी को कार्ड दिखाए बिना जादू का ट्रिक बताने की अनुमति दी जाए।

METR अब तक एंथ्रोपिक द्वारा बनाए जा रहे तीन-स्तरीय सिस्टम के शीर्ष पर एकमात्र मूल्यांकनकर्ता है। निचले स्तर के मूल्यांकनकर्ता, जैसे बायोसेक्योरिटी गैर-लाभकारी SecureBio, संकीर्ण समीक्षाएं चलाते हैं और प्रकाशित करने के लिए एंथ्रोपिक की मंजूरी की आवश्यकता होती है। मध्य स्तर को अधिक जानकारी मिलती है और वह मंजूरी के बिना प्रकाशित कर सकता है, जबकि शीर्ष स्तर METR की कर्मचारी-स्तरीय पहुंच जोड़ता है। यह एक स्तरीय प्रणाली है, जो उपयुक्त है, क्योंकि अधिकांश केक और लगभग सभी चिंता भी ऐसी ही होती है।

गुरुवार की घोषणा एंथ्रोपिक के CEO डारियो अमोडेई द्वारा सितंबर के एक निबंध में किए गए वादे को पूरा करती है, जहां उन्होंने तकनीक के विकास को धीमा करने की दिशा में पहले कदम के रूप में AI प्रयोगशालाओं के अंदर बाहरी मूल्यांकनकर्ताओं को एम्बेड करने का प्रस्ताव रखा था। OpenAI ने तुरंत वही वादा किया, और दोनों कंपनियों, साथ ही Google, Meta, Nvidia और xAI, ने तब से स्वतंत्र समीक्षा के लिए प्रतिबद्ध एक व्हाइट हाउस समझौते पर हस्ताक्षर किए हैं। स्वैच्छिक वादे से भरोसा बनता है, जब तक कि आप वस्तुतः कुछ और न गिनें।