एंथ्रोपिक के सीईओ का कहना है कि हमें एआई को धीमा करना चाहिए, संभवतः क्योंकि यह हमें मारने की कोशिश कर रहा है

एक शोधकर्ता द्वारा एंथ्रोपिक में अपनी नौकरी सार्वजनिक रूप से छोड़ने के चार दिन बाद - जिसमें उसने चेतावनी दी थी कि शीर्ष एआई कंपनियां "जिम्मेदारी से काम नहीं कर रही हैं" और उनके उत्पाद "हम सबको मारने" की राह पर हो सकते हैं - कंपनी के सीईओ, डारियो अमोदेई ने अनिवार्य रूप से कहा: हां, उचित बात है। आज अपनी व्यक्तिगत वेबसाइट पर प्रकाशित और सोशल मीडिया पर साझा किए गए 3,800 शब्दों के एक निबंध में, अमोदेई ने लिखा, "हमें उस गति को धीमा करना चाहिए जिससे हम एआई मॉडलों की क्षमताओं में सुधार करते हैं।"

अब तक, हम सभी एआई अधिकारियों द्वारा उन्हीं उत्पादों के बारे में भयावह भविष्यवाणियां जारी करने के आदी हो चुके हैं, जिन्हें वे बाजार में उतारने की दौड़ में हैं। अमोदेई के निबंध को उल्लेखनीय बनाती है इसकी तात्कालिकता और इसका समय। एआई एजेंटों के बेकाबू होने की चिंताएं हाल के हफ्तों में ओपनएआई, एंथ्रोपिक और अन्य द्वारा परेशान करने वाली घटनाओं की रिपोर्ट के बाद काल्पनिक से खतरनाक रूप से वास्तविक हो गई हैं। सवाल यह है कि क्या इस चेतावनी का पिछली चेतावनियों से अधिक प्रभाव पड़ेगा - यानी, कोई भी प्रभाव। कुछ कारण हैं जो सोचते हैं कि ऐसा हो सकता है।

अमोदेई ने जिसे वे "सीमा को गति देना" कहते हैं, उसके लिए तीन-चरणीय योजना प्रस्तुत की - सुरक्षा को प्राथमिकता देने के लिए शीर्ष एआई मॉडलों में सुधार की गति को संयमित करना। उन्होंने तर्क दिया कि इससे चीजों के बिगड़ने की संभावना कम हो जाएगी, जैसे कि जब एक ओपनएआई मॉडल ने एआई एजेंटों के झुंड पैदा किए जो गुप्त रूप से मिलीभगत करके किसी अन्य कंपनी के सिस्टम में हैक करते थे और आंतरिक परीक्षण में धोखा देते थे। उन्होंने कहा कि शीर्ष एआई कंपनियां, जिनमें उनकी अपनी भी शामिल है, एक खतरनाक "नीचे की ओर दौड़" में फंसी हुई हैं जो अधिक गंभीर साइबर हमलों का कारण बन सकती है, जैसे इंटरनेट पर पूर्ण कब्जा। इसके बजाय, उन्होंने "शीर्ष की ओर दौड़" का आह्वान किया - एक वाक्यांश जो राष्ट्रपति ओबामा ने एक बार शिक्षा नीति के लिए इस्तेमाल किया था - जिसमें कंपनियां सबसे शक्तिशाली के बजाय सबसे सुरक्षित मॉडल बनाने के लिए प्रतिस्पर्धा करें। अमोदेई ने लिखा, "सीमा को सुरक्षित गति से आगे बढ़ाने के लिए मैं जो उपाय प्रस्तावित करता हूं वे आसान नहीं होंगे। लेकिन मेरा मानना है कि हमें मानवता के प्रति यह कर्तव्य है कि हम प्रयास करें।"

पहला कदम: एआई लैब्स खतरों की निगरानी के लिए बाहरी निगरानीकर्ताओं को शामिल करने के लिए प्रतिबद्ध हों। उन्होंने कहा कि एंथ्रोपिक तुरंत इसके लिए प्रतिबद्ध होगा और उम्मीद करता है कि प्रतिद्वंद्वी भी इसका पालन करेंगे। दूसरा: लोकतांत्रिक देशों की एआई कंपनियां - संभवतः सरकारी समर्थन के साथ - कुछ सीमाओं और सुरक्षा मानकों पर सहमत हों। तीसरा और सबसे कठिन काम: "वैश्विक समन्वय", जिसका मुख्य अर्थ चीन को शामिल करना है। तकनीकी दुनिया इस पर विभाजित है। कुछ तर्क देते हैं कि शून्य-योग प्रतियोगिता में सहयोग असंभव है; अन्य मानते हैं कि देश आम जमीन खोज सकते हैं यदि वे स्वीकार करें कि विकल्प पारस्परिक विनाश है।

एआई दिग्गजों द्वारा सावधानी की सार्वजनिक अपीलें चैटजीपीटी जितनी ही पुरानी परंपरा हैं। पहली बड़ी अपील मार्च 2023 में आई थी, जब हजारों उद्योग और शैक्षणिक हस्तियों ने फ्यूचर ऑफ लाइफ इंस्टीट्यूट के एक पत्र पर हस्ताक्षर किए थे, जिसमें "विशाल एआई प्रयोगों" पर छह महीने के ठहराव का आग्रह किया गया था। अमोदेई ने आज कहा कि उन्हें लगता है कि उस समय उस विचार का "बहुत कम अर्थ" था, क्योंकि जीपीटी-4 इतना शक्तिशाली नहीं था कि वह इतना डरावना हो। उन्होंने लिखा, "आज, हालांकि, तस्वीर पूरी तरह से अलग है।" इस बीच, जनता ने ध्यान देना शुरू कर दिया है। सर्वेक्षण बताते हैं कि अमेरिकी अनियंत्रित एआई के बारे में अधिक चिंतित और गुस्से में हैं, जो इस तकनीक के खिलाफ एक उल्लेखनीय द्विदलीय लोकलुभावन आंदोलन को बढ़ावा दे रहा है।

कुछ लोग अमोदेई के निबंध को एक ऐसे अधिकारी की नवीनतम गंभीर मुद्रा के रूप में खारिज कर देंगे जिसका यह मानने में निहित स्वार्थ है कि लोग उसकी तकनीक को अभूतपूर्व मानें। (द वॉल स्ट्रीट जर्नल के अनुसार, अगले महीने की योजना बनाई गई एंथ्रोपिक का आईपीओ लगभग 100 बिलियन डॉलर का निवेश उत्पन्न कर सकता है, जिससे कंपनी का मूल्य 2 ट्रिलियन डॉलर हो जाएगा।) एआई संदेहवादी और त्वरणवादी दोनों ही ऐसी चेतावनियों को "डूमरिज्म" के रूप में उपहास करते हैं। संदेहवादी एक विस्तृत मार्केटिंग पिच देखते हैं: ओह नहीं, हमारे उत्पाद बहुत शक्तिशाली हो रहे हैं! त्वरणवादी इसे तकनीक को गेटकीप करने के लिए मौजूदा कंपनियों की एक कुटिल चाल के रूप में खारिज करते हैं।

लेकिन ओकम का रेजर बताता है कि अमोदेई कमोबेश वास्तविक हैं। लगभग कोई भी व्यक्ति जिसके पास नौकरी और विवेक है, वह यह महसूस कर सकता है कि आपको वास्तव में धीमा होना चाहिए और अधिक सावधानी से काम करना चाहिए - लेकिन आप ऐसा नहीं कर सकते, क्योंकि एक प्रतियोगी आपसे पहले पहुंच जाएगा। ब्रेकिंग न्यूज स्टोरी लिखते समय मुझे उसका कुछ (स्वीकार्य रूप से कम सर्वनाशकारी) संस्करण महसूस होता है। मैं