अगस्त की शुरुआत में एक शाम, सैम स्टोवर्स और कई पड़ोसी सैन फ्रांसिस्को के अलामो स्क्वायर के पास एक अपार्टमेंट में इकट्ठे हुए और अंत की शुरुआत पर विचार किया। स्टोवर्स, एक एआई-सॉफ्टवेयर इंजीनियर, और उनके मेहमान - जिनमें से कई एआई उद्योग में काम करते हैं - एक नया जारी YouTube वीडियो देखने के लिए इकट्ठा हुए, जिसमें दो OpenAI शोधकर्ताओं ने एक चिंताजनक साइबर सुरक्षा उल्लंघन के बारे में नए विवरण बताए। यदि आप उद्यमियों और प्रोग्रामरों से भरे पड़ोस में हैं, जो एआई की क्षमताओं के हर मोड़ और मोड़ का अनुसरण करते हैं, तो सप्ताह की रात बिताने का यह कोई अजीब तरीका नहीं है। स्टोवर्स, किसी भी पारंपरिक अर्थ में, एक दूमर नहीं है, लेकिन जब उन्होंने पहली बार रिपोर्ट देखी कि OpenAI मॉडल ने स्वायत्त रूप से तकनीकी कंपनी हगिंग फेस को हैक कर लिया था, तो उन्होंने तुरंत इसे "हे भगवान, यह हो रहा है" वाले क्षण के रूप में पहचाना।

इस घटना में सबसे खराब स्थिति के सभी लक्षण थे: एआई मॉडल दिनों के दौरान परिष्कृत हैक शुरू कर रहे थे, एक दूसरे के साथ समन्वय में और अपने मानव निर्माताओं की जानकारी के बिना। YouTube वीडियो में, OpenAI के शोधकर्ताओं ने खुलासा किया कि कंपनी के प्रोग्राम ने मई में साजिश शुरू कर दी थी, शायद हैकिंग झुंड में सैकड़ों बॉट थे। सिद्धांत रूप में, इन बॉट्स को ईमानदार और मददगार होने और मानवता के सर्वोत्तम हितों को प्राथमिकता देने के लिए प्रशिक्षित किया जाता है, लेकिन एक भी बॉट ने OpenAI के मानव कर्मचारियों को चेतावनी नहीं दी कि कुछ गड़बड़ है। "हम क्या करें?" स्टोवर्स ने कहा। "कोई बड़ा जवाब नहीं है।"

बे एरिया में माहौल बदल गया है। "आप भविष्य को पहले सैन फ्रांसिस्को में देख सकते हैं" की उमंग की जगह एक स्थायी बेचैनी ने ले ली है। "मुझे उम्मीद है कि इंटरनेट जल्द ही बंद हो जाएगा," इलियट कैलेंडर, एक एआई-सुरक्षा कार्यकर्ता, जो OpenAI मुख्यालय के बाहर प्रतिदिन विरोध करने वाले एक छोटे समूह का हिस्सा है, ने हाल ही में हमें बताया। वह अपनी कार को नकदी और सोने के लिए बेचने की योजना बना रहा है और परिवार के सदस्यों को क्लाउड का उपयोग करके उत्पन्न सूची से तीन महीने के भोजन और उत्तरजीविता गियर खरीदने की सलाह दे रहा है। चरम? शायद, लेकिन ज्यादा नहीं। पिछले हफ्ते, बिल गेट्स ने एआई के खतरों पर लगभग 6,000 शब्दों का निबंध प्रकाशित किया। "जो कोई भी एआई की तुलना अन्य तकनीकों से करता है, वह यह भूल रहा है कि इस बार अलग है," उन्होंने हमारे सहयोगी हन्ना रोसिन को बताया। सप्ताहांत में, लोकप्रिय एआई पॉडकास्टर द्वारकेश पटेल ने OpenAI हैकिंग झुंड को "तीन लगातार गुप्त एआई सभ्यताओं" के उत्थान और पतन के रूप में वर्णित किया। गेट्स और पटेल एक प्रचलित चिंता साझा करते हैं कि सबसे खराब भविष्य उससे पहले आ गया है जब अधिकांश लोगों को इसकी उम्मीद करनी थी।

इस डर को इस तथ्य से मदद नहीं मिली है कि एआई कंपनियां अपने बॉट्स के सबसे खराब व्यवहार के प्रति जानबूझकर अनभिज्ञ दिखती हैं। OpenAI ने कहा कि उसने ध्यान नहीं दिया कि उसके एजेंट किसी अन्य कंपनी को हैक करने की साजिश कर रहे थे जब तक कि झुंड ने किसी अन्य कंपनी को हैक नहीं किया। एंथ्रोपिक के बॉट्स ने समान घटनाएं पैदा कीं; कंपनी ने बताया कि उसने OpenAI द्वारा हगिंग फेस हैक के बारे में बात करना शुरू करने के बाद तक ऐसे व्यवहारों की पहचान करने के लिए कठोर समीक्षा शुरू नहीं की थी। साइबर सुरक्षा विशेषज्ञ, जो और क्या हो रहा है, जिसे एआई प्रयोगशालाएं या तो अनदेखा कर रही हैं या खुलासा करने में विफल हो रही हैं, से भयभीत हैं, भयावह भविष्यवाणियां जारी कर रहे हैं। "साम्राज्य गिरने वाला है, इस बिंदु पर हम केवल अंधकार युग को छोटा करने और अराजकता को कम करने की कोशिश कर सकते हैं," एलेक्स स्टैमोस, याहू और मेटा के पूर्व मुख्य सुरक्षा अधिकारी, ने हाल ही में लिखा। उनका दृष्टिकोण साइबर सुरक्षा विशेषज्ञों के बीच आम सहमति बन रहा है।

जबकि साइबर सर्वनाश की संभावना पृष्ठभूमि में मंडरा रही है, रोजमर्रा की जिंदगी में छोटी दरारें दिखाई देती हैं। मार्क जुकरबर्ग कथित तौर पर खुद का एक एआई "जुड़वां" बना रहे हैं ताकि मेटा कर्मचारी अपने बॉस से बेहतर जुड़ाव महसूस कर सकें (रोबोट जुकरबर्ग के साथ चैट करके)। कांग्रेस के कर्मचारी अपने सांसद की आवाज में लिखने के लिए एआई मॉडल को प्रशिक्षित कर रहे हैं। छात्र एआई-लिखित पेपर जमा करते हैं, और शिक्षक एआई-लिखित प्रतिक्रिया लौटाते हैं। हार्वर्ड बिजनेस स्कूल एआई अवतारों का उपयोग करके निर्देशात्मक वीडियो बेच रहा है। रोकू ने 24/7 एआई-स्लॉप चैनल लॉन्च किया। निम्न-गुणवत्ता वाला एआई-जनित गद्य दुनिया के कुछ सबसे प्रतिष्ठित प्रकाशनों द्वारा बेशर्मी से प्रसारित किया जा रहा है। साथ ही, आरोप