पिछले महीने के अंत में, OpenAI ने एक बहुत बड़ा मिशन शुरू किया: शक्तिशाली मशीनों के युग में व्यक्तिगत राजनीतिक स्वतंत्रता की रक्षा करना। कंपनी की 'स्ट्रैटेजिक फ्यूचर्स' टीम ने खुद को, एक अर्थ में, अमेरिका के संस्थापक पिताओं के कार्य का उत्तराधिकारी बताया है: "हम स्वतंत्र अभिव्यक्ति और व्यक्तिगत स्वतंत्रता के आदर्शों की सेवा में काम करते हैं जो अमेरिकी संविधान के विनम्र चर्मपत्र में अंकित हैं," टीम के नेता डीन बॉल ने OpenAI के एक नए ब्लॉग पोस्ट में लिखा। (पोस्ट की शुरुआत फेडरलिस्ट पेपर्स में जेम्स मैडिसन के एक उद्धरण से होती है।)

बॉल को चिंता है कि उन्नत AI उन लोगों के हाथों में सत्ता को केंद्रित कर सकता है जो इसे नियंत्रित करते हैं, श्रम को विस्थापित करके मनुष्यों को शक्तिहीन बना सकता है। एक चरम परिदृश्य में, सरकारों को अपने नागरिकों की बात सुनने की आवश्यकता नहीं होगी यदि युद्ध लड़ने के लिए रोबोट हों और नौकरशाही चलाने के लिए सर्वज्ञ सॉफ्टवेयर हो। बॉल इस बात का अध्ययन करने में रुचि रखते हैं कि इस भाग्य से बचने के लिए किन नए राजनीतिक संस्थानों की आवश्यकता हो सकती है।

कई अमेरिकी - जिनमें से बहुमत AI उद्योग पर अविश्वास, डेटा केंद्रों पर आक्रोश और अपनी नौकरी की सुरक्षा के बारे में भय व्यक्त करता है - पहले से ही इस शक्तिहीनता की भावना को गहराई से महसूस कर रहे हैं। और AI बूम ने पहले ही कुछ ही तकनीकी कंपनियों में भारी मात्रा में धन पैदा कर दिया है - जिसमें OpenAI भी शामिल है। कम से कम कहने के लिए, दुनिया के सबसे शक्तिशाली उद्योग की सबसे प्रभावशाली कंपनियों में से एक के लिए AI द्वारा सक्षम सत्ता के केंद्रीकरण की निंदा करना विरोधाभासी है। इसलिए मैंने बॉल से संपर्क किया ताकि उनके अपने उद्योग के बारे में उनकी बेचैनी और वे अमेरिका को AI के अनुकूल कैसे देखना चाहते हैं, इसे और समझ सकूं।

बॉल, जो AI नीति का अध्ययन करते हैं, उद्योग में कुछ हद तक छोटे सेलिब्रिटी हैं। पिछले साल, वे व्हाइट हाउस में AI सलाहकार के रूप में शामिल हुए और ट्रम्प प्रशासन की AI एक्शन प्लान लिखने में मदद की, जो प्रौद्योगिकी के लिए एक नीति रोडमैप है। वे अंततः प्रशासन से अच्छे संबंधों के साथ अलग हुए, लेकिन इस साल की शुरुआत में एंथ्रोपिक के साथ विवाद के दौरान सार्वजनिक रूप से इसकी आलोचना की। फिर, जुलाई में, वे OpenAI में शामिल हो गए। "मेरा मानना है कि अब हमारे पास मूल रूप से दुनिया में परिवर्तनकारी AI है," बॉल ने मुझसे कहा। "आप एक ऐसी दुनिया में जी रहे हैं जो बदल रही है। यह हो रहा है।"

यह बातचीत लंबाई और स्पष्टता के लिए संपादित की गई है।

माटेओ वोंग: आप लिखते हैं कि AI के माध्यम से सत्ता का केंद्रीकरण अमेरिकी संविधान में निहित बुनियादी मानव स्वतंत्रता को उलट सकता है। क्या आप विस्तार से बता सकते हैं कि कैसे?

डीन बॉल: मौलिक रूप से, राजनीतिक शक्ति वैध बल और हिंसा पर एकाधिकार का उपयोग करने की भौगोलिक रूप से सीमित क्षमता है। ऐसा करने के लिए अब तक कई मनुष्यों के सहयोग की आवश्यकता होती थी। आपको सेनाओं की आवश्यकता थी, आपको उन सेनाओं में लोगों की आवश्यकता थी, और आपको उन सेनाओं को खिलाने और आपूर्ति करने के लिए लोगों की आवश्यकता थी। और आपको कराधान के माध्यम से उस सब के लिए भुगतान करने के लिए लोगों की आवश्यकता थी। इसलिए लोगों की मेज पर सीट थी क्योंकि, कुछ अर्थों में, सब कुछ उनके द्वारा प्रदान किया जा रहा है।

अब आपको यह मानना होगा कि रोबोटिक्स जल्द ही उसी तरह आगे बढ़ेगा जैसे सामान्य डिजिटल बुद्धि ने किया है। शायद इसमें मेरे विचार से अधिक समय लगे। लेकिन उस बिंदु पर, हिंसा प्रक्षेपित करने की क्षमता के लिए लोगों की आवश्यकता नहीं होगी। और यह भी संभव है कि AI पर्याप्त राजस्व उत्पन्न करे कि सरकार को लोगों पर कर लगाने पर निर्भर न रहना पड़े।

यदि आप AI की राजनीति को देखें, तो मुझे लगता है कि अमेरिकी समझदार हैं और उन्हें लगता है कि मेज पर उनकी सीट छोटी हो सकती है। उनका डर सही है।

वोंग: आप सरकार में सत्ता के केंद्रीकरण की बात कर रहे हैं, लेकिन जनरेटिव AI निजी क्षेत्र में विकसित एक तकनीक है। उद्योग में सत्ता का दुर्लभ और अभूतपूर्व केंद्रीकरण की संभावना है। इससे क्या जोखिम पैदा होते हैं?

बॉल: आप सत्ता के सभी केंद्रीकरण से बचने की कोशिश नहीं कर रहे हैं, बल्कि इसे संतुलित करने की कोशिश कर रहे हैं। यदि यह युग ऐसे निगमों को जन्म देता है जिनके पास दुनिया में जबरदस्त शक्ति है, तो मुझे लगता है कि यह अच्छा है - बशर्ते कि वे संगठन शासित हों। दूसरे शब्दों में, जब तक कि सरकार उनकी देखरेख करती है