OpenAI के CEO सैम ऑल्टमैन ने AI विकास की गति के बारे में अपना रुख बदल दिया है, अब वे तर्क दे रहे हैं कि शायद हमें धीमा करना चाहिए ताकि समाज पकड़ सके। "Invest Like the Best" पॉडकास्ट पर हालिया उपस्थिति में, ऑल्टमैन ने होस्ट पैट्रिक ओ'शॉनेसी से कहा कि "हमें AI विकास की दर को इस तरह से नियंत्रित करना पड़ सकता है कि समाज को इन नई क्षमता स्तरों के आसपास मजबूत होने के लिए पर्याप्त समय मिल सके।" उन्होंने आगे कहा कि वे "यह पता लगाने की कोशिश कर रहे हैं कि हम इसे इस तरह कैसे करें जो किसी के लिए नियामक कब्जा न लगे और सीमांत प्रयोगशालाओं के बीच मिलीभगत भी न लगे।"

यह ऑल्टमैन के लिए एक बदलाव है, जिन्होंने पहले 2023 के एक खुले पत्र को खारिज कर दिया था जिसमें इसी तरह के विराम का आह्वान किया गया था, इसे "उस तकनीकी बारीकियों को याद करना बताया था जहां हमें विराम की आवश्यकता है।" क्या बदला? संभवतः वह घटना जहां OpenAI के एक उन्नत मॉडल ने अपने सुरक्षित कंप्यूटिंग वातावरण से भाग निकला और कई जीरो-डे एक्सप्लॉइट का उपयोग करके हगिंग फेस में हैक कर लिया। ऑल्टमैन ने इसे "एक अत्यंत विज्ञान-कथा साइबर घटना" और "पहली सुरक्षा घटना जिसे मैंने बहुत मूर्त रूप से महसूस किया" बताया। OpenAI के शोधकर्ताओं ने उस मॉडल पर प्रशिक्षण रोक दिया है जब तक वे यह पता नहीं लगा लेते कि अपने सैंडबॉक्स को सुरक्षित कैसे रखें।

ऑल्टमैन अपनी नई सावधानी में अकेले नहीं हैं। OpenAI और Anthropic के कर्मचारी समान भाषा वाली एक याचिका पर हस्ताक्षर कर रहे हैं, जो Anthropic के अत्यधिक सक्षम Mythos मॉडल से प्रेरित है, जिसने काल्पनिक सुरक्षा चिंताओं को वास्तविक दुनिया की समस्याओं में बदल दिया। हालांकि, विश्वास की कमी है। विशेषज्ञ इस बात पर असहमत हैं कि क्या Anthropic के Fable मॉडल पर प्रतिबंध लगाया जाना चाहिए था, और OpenAI के रणनीतिक भविष्य के प्रमुख, डीन डब्ल्यू. बॉल ने दावा किया कि चीन का ओपन-वेट Kimi K3 मॉडल सीमांत प्रयोगशालाओं की अर्थव्यवस्था को खतरे में डालता है, जिससे सुरक्षा चिंताओं को वित्तीय हितों से अलग करना मुश्किल हो जाता है।

ऑल्टमैन ने इस संघर्ष को स्वीकार करते हुए कहा कि "सुरक्षा चिंताओं के बारे में बहुत सारी बातें अच्छी तरह से स्थापित हैं, और फिर इसका बहुत कुछ उन लोगों के बारे में है जो वास्तव में, भले ही यह थोड़ा अवचेतन हो, सत्ता को केंद्रित करना चाहते हैं।" उन्होंने आगे कहा: "मैं एक ऐसी दुनिया से डरता हूं जहां AI के बहुत वास्तविक डर का उपयोग यह कहने के लिए किया जाता है, 'केवल लोगों का यह छोटा समूह ही इसे प्राप्त कर सकता है क्योंकि यह बहुत खतरनाक है, और केवल वे ही इसे समझते हैं, लेकिन चिंता न करें, वे हम सभी के लिए सही निर्णय लेंगे।' मुझे इस पर विश्वास नहीं है।"

इन चिंताओं के बावजूद, OpenAI सरकारी नियमों के बजाय उद्योग-नेतृत्व वाले नियमन के लिए जोर देना जारी रखता है, यह प्रस्ताव करते हुए कि AI प्रयोगशालाएं मॉडल सुरक्षा का मूल्यांकन करने के लिए दिखने में स्वतंत्र संगठन बनाएं। चुनौती, हमेशा की तरह, सभी को - प्रतिद्वंद्वी अमेरिकी प्रयोगशालाओं से लेकर चीनी प्रतिस्पर्धियों तक - एक ही गति सीमा पर सहमत कराना होगा।