AI कंपनियाँ सुपरइंटेलिजेंट AI के बारे में ऐसे बात कर रही हैं जैसे यह अगला iPhone रिलीज़ हो - अपरिहार्य, रोमांचक, और निश्चित रूप से ऐसा कुछ नहीं जो हमें खा जाए। लेकिन हाल की सुरक्षा घटनाएँ, जैसे OpenAI का Hugging Face उल्लंघन, दिखा रही हैं कि जब आप मनुष्यों से अधिक सक्षम सिस्टम तैनात करते हैं और फिर आश्चर्यचकित होते हैं जब वे कुछ ऐसा करते हैं जिसकी आपने उम्मीद नहीं की थी, तो क्या होता है। यह लगभग एक बच्चे को फ्लेमथ्रोवर देने और सर्वश्रेष्ठ की उम्मीद करने जैसा है।

TechCrunch के Equity पॉडकास्ट के इस एपिसोड में, रेबेका बेलन कॉनर लीही के साथ बैठती हैं - AI शोधकर्ता, उद्यमी, और अब गैर-लाभकारी ControlAI के अमेरिकी कार्यकारी निदेशक - जो एक काफी क्रांतिकारी समाधान पर जोर दे रहे हैं: बस सुपरइंटेलिजेंस का निर्माण न करें। बिल्कुल भी नहीं। लीही का तर्क है कि जोखिम इतने बड़े हो गए हैं कि उन्हें केवल संरेखण और रोकथाम से प्रबंधित नहीं किया जा सकता, जो डक्ट टेप से लीक होते बाँध को ठीक करने जैसा है। वह नोट करते हैं कि छह महीने पहले जो पागल विज्ञान-कथा जैसा लगता था, अब उसे काफी गंभीरता से लिया जा रहा है ताकि नए कानून की लहर को प्रेरित किया जा सके। क्योंकि 'हम बर्बाद हैं' कहने का कोई और तरीका नहीं है जैसे विधायक उस चीज़ को विनियमित करने के लिए संघर्ष कर रहे हैं जिसे वे शायद ही समझते हैं।

पूरे एपिसोड के लिए - जिसमें वह हिस्सा भी शामिल है जहाँ लीही अनिवार्य रूप से समझाते हैं कि 'बस और सुरक्षा शोधकर्ता जोड़ना' पर्याप्त नहीं होगा - Equity को YouTube, Apple Podcasts, Overcast, Spotify और सभी कास्ट्स पर सब्सक्राइब करें। आप Equity को X और Threads पर @EquityPod पर भी फॉलो कर सकते हैं। आप जानते हैं, अगर आप आसन्न रोबोट सर्वनाश पर अपडेट रहना चाहते हैं।