गूगल और गूगल डीपमाइंड के शोधकर्ताओं ने बुधवार को डीपमाइंड इंस्टीट्यूट की शुरुआत की, जो आर्टिफिशियल जनरल इंटेलिजेंस (AGI) पर बहस को आगे बढ़ाने का एक नया प्रयास है। क्योंकि अगर AGI के तेज़ी से बढ़ते क्षेत्र को किसी एक चीज़ की ज़रूरत है, तो वह है और बहस।

इंस्टीट्यूट में डीपमाइंड के सह-संस्थापक शेन लेग, गूगल के अधिकारी जेम्स मान्यिका और गूगल डीपमाइंड के अध्यक्ष डेमिस हसाबिस को निदेशक के रूप में सूचीबद्ध किया गया है, जिसमें लेग प्रबंध संपादक की भूमिका निभाएंगे। इसका घोषित उद्देश्य गूगल, गूगल डीपमाइंड और व्यापक वैश्विक शोध समुदाय के बीच AGI को लेकर अलग-अलग विचारों को सामने लाना है। घोषणा में कहा गया, "वे हमेशा सहमत नहीं होंगे, और जैसे-जैसे तेज़ी से बढ़ते मोर्चे पर अधिक डेटा और जानकारी सामने आएगी, वे संभवतः अपने विचार बदलेंगे" - एक ऐसा वाक्य जो 2022 से हर ग्रुप चैट के मिशन स्टेटमेंट के रूप में काम कर सकता है।

चार निबंधों का पहला संग्रह संभावित AGI व्यवधान के प्रबंधन के लिए आर्थिक नीतियों, मानव-पठनीय मॉडल तर्क को संरक्षित करने, मानव flourishing के सिद्धांतों, और फ्रंटियर AI मॉडलों के मूल्यांकन के लिए एक रूपरेखा को कवर करता है। दूसरे शब्दों में: पैसा, गणित, अर्थ, और निगरानी।

डीपमाइंड के सुरक्षा शोधकर्ताओं रोहिन शाह और अंका द्रागन द्वारा लिखे गए एक निबंध में तर्क दिया गया है कि AI की सिकुड़ती पारदर्शिता - किसी मॉडल के चरण-दर-चरण तर्क को देखने और जांचने की क्षमता - अपरिहार्य नहीं है। जैसे-जैसे नई आर्किटेक्चर सबसे शक्तिशाली मॉडलों की निगरानी करना कठिन बनाती हैं, लेखकों का कहना है कि डेवलपर्स और नियामकों को सुरक्षा व्यापार-बंदों का सीधे सामना करना चाहिए। इसका मतलब "अपारदर्शी सीरियल गहराई" को सीमित करना हो सकता है - एक मॉडल द्वारा पठनीय तर्क ट्रेस उत्पन्न किए बिना किए जा सकने वाले अनुक्रमिक गणना की मात्रा - या डेवलपर्स को यह प्रदर्शित करने की आवश्यकता हो सकती है कि कम पारदर्शी सिस्टम भी उतने ही निगरानी योग्य बने हुए हैं। जो कहने का एक विनम्र तरीका है: अगर आप अपना काम नहीं दिखा सकते, तो बेहतर होगा कि आप साबित कर दें कि आपको इसकी ज़रूरत नहीं है।

एक अन्य निबंध में, हसाबिस ने सबसे उन्नत AI मॉडलों के मूल्यांकन के लिए अमेरिका के नेतृत्व वाली एक फ्रंटियर AI मानक संस्था का प्रस्ताव रखा है। उनके ढांचे के तहत, डेवलपर्स शुरू में रिलीज़ से 30 दिन पहले तक स्वेच्छा से मॉडल समीक्षा के लिए जमा करेंगे। एक बार मूल्यांकन प्रणाली प्रभावी साबित होने के बाद, संयुक्त राज्य अमेरिका में फ्रंटियर मॉडलों को तैनात करने के लिए इसके परीक्षणों को पास करना एक आवश्यकता बन सकता है। यह संस्था पहले AI कंपनियों के परामर्श से मूल्यांकन डिज़ाइन करेगी, लेकिन अंततः स्वतंत्र, अप्रकाशित मूल्यांकन विकसित करेगी - जिसे निबंध में "हेल्ड-आउट" परीक्षण कहा गया है - ताकि प्रयोगशालाएं अपने मॉडलों को ज्ञात मूल्यांकनों के अनुरूप न ढाल सकें। हसाबिस ने कहा कि यह ढांचा "स्थिति की गंभीरता की मांग होने पर बढ़ाया जा सकता है," जिसमें संभावित रूप से फ्रंटियर AI डेवलपर्स के बीच समन्वित धीमा करना शामिल हो सकता है। क्योंकि स्वैच्छिक अनुपालन को प्रोत्साहित करने के लिए समूह टाइमआउट की धमकी से बेहतर कुछ नहीं है।

ये निबंध ऐसे समय में आए हैं जब उद्योग की सुरक्षा बहस व्यापक चिंता के बयानों से हटकर प्रकटीकरण, बाहरी जांच, और यदि सुरक्षा उपाय पीछे रह जाते हैं तो समन्वित धीमा करने के ठोस प्रस्तावों की ओर बढ़ रही है। यह बदलाव इस सप्ताह तेज़ हुआ जब उद्योग के नेताओं ने एंथ्रोपिक के CEO डारियो अमोदेई की फ्रंटियर AI विकास को "गति" देने की अपील के तत्वों का समर्थन किया। तो: निबंध, मानक संस्थाएं, और कभी-कभार अस्तित्वगत आह। एक तरह की प्रगति।