आईपीओ की संभावना, एंथ्रोपिक की सांसे थामती प्रतिस्पर्धा, और चीनी तथा ओपन-वेट प्रतिद्वंद्वियों की भीड़ जो उसकी एड़ियों पर चिपकी हुई है, इन सबके बीच ओपनएआई के पास पूरी गति से आगे बढ़ने का हर कारण है। इसके बजाय, कंपनी ने मंगलवार को घोषणा की कि वह सुरक्षा कड़ी करने के लिए कुछ एआई विकास को धीमा कर रही है। विशेष रूप से, वह अपने 'नवीनतम मॉडल जो तैनाती के लिए हैं' पर सुदृढीकरण सीखने के प्रशिक्षण को दो सप्ताह के लिए रोक रही है, और अपनी 'सबसे बड़ी नियोजित फ्रंटियर आरएल रन' में देरी कर रही है। यह उस विचार का एक बहुत ही सार्वजनिक परीक्षण है जिसे सुरक्षा पैरोकार वर्षों से आगे बढ़ा रहे हैं: कि कंपनियों को दौड़ से बाहर निकलने के लिए तैयार रहना चाहिए जब उनकी सुरक्षा उपाय तालमेल नहीं बिठा पाते। लेकिन जैसे-जैसे दौड़ उनके आसपास जारी है, क्या धीमा होना वास्तव में कुछ हासिल करेगा?

चलिए यह दिखावा नहीं करते कि ओपनएआई स्थिर खड़ा है। कंपनी इसे 'पेसिंग' कहती है, एक अस्पष्ट शब्द जो उद्योग की भाषा बन गया है। यह मंदी संकीर्ण रूप से सीमित है: यह केवल उन मॉडलों को कवर करती है जो तैनाती के लिए हैं, जबकि ओपनएआई सुरक्षा बढ़ाता है, इससे पहले कि वह परीक्षण चलाए जहां मॉडल भाग सकते हैं और वास्तविक लक्ष्यों को हैक कर सकते हैं। इसका मतलब यह जरूरी नहीं है कि व्यापक विकास में महत्वपूर्ण मंदी होगी।

इस फोकस का एक अच्छा कारण है। पिछले महीने, ओपनएआई के मॉडल एक कथित सुरक्षित परीक्षण वातावरण से बाहर निकल गए और डेवलपर प्लेटफॉर्म हगिंग फेस को हैक कर लिया - बिना ओपनएआई को पता चले। इस घटना ने व्यापक उद्योग समीक्षा को प्रेरित किया, जिसमें ओपनएआई, एंथ्रोपिक और मेटा के मॉडलों के साथ समान प्रकरण सामने आए। विधायकों के एआई पर बढ़ती जांच के साथ, ओपनएआई के पास पुनरावृत्ति से बचने का हर कारण है।

बाहर से, इस विराम की ईमानदारी का आकलन करना कठिन है, विशेष रूप से हाल ही में सुरक्षा टीम के सदस्यों के जाने और इसकी तैयारी टीम के विघटन को देखते हुए। ओपनएआई ने द वर्ज की टिप्पणी के अनुरोध का जवाब नहीं दिया। लेकिन विशेषज्ञों का कहना है कि मंदी को गंभीरता से लेने के कारण हैं। अपोलो रिसर्च के सीईओ मारियस होब्बहान ने नोट किया कि तीव्र एआई दौड़ में, 'हर किसी के पास तेज गति से काम करने का प्रोत्साहन है। स्वेच्छा से धीमा करना दौड़ में आपकी स्थिति को खराब करता है, इसलिए यह ऐसा कुछ नहीं है जो एक प्रयोगशाला हल्के में करे।'

यह निर्णय ओपनएआई के अपने तैयारी ढांचे के साथ-साथ अन्य कंपनियों के सुरक्षा ढांचे के अनुरूप है, गोवएआई के शोध साथी एलन चैन कहते हैं। सिद्धांत: विकास तभी जारी रखें जब शमन इसे स्वीकार्य रूप से जोखिम भरा बना दें। ओपनएआई मॉडल की प्रगति को ध्यान में रखते हुए, ढांचे की समीक्षा और 'विकसित' करने की योजना बना रहा है, जिसका अधिकांश हिस्सा 2023 का है।

क्या नए सुरक्षा उपाय वास्तव में सिस्टम को सुरक्षित बनाएंगे? एफएआर.एआई के सीईओ एडम ग्लीव कहते हैं, 'ये अच्छे कदम हैं जो, यदि अच्छी तरह से लागू किए जाएं, तो संभवतः एजेंटों की वर्तमान पीढ़ी को नुकसान पहुंचाने से रोकने के लिए पर्याप्त हैं। मुख्य प्रश्न यह है कि क्षमताओं में वृद्धि के साथ ओपनएआई कैसे तालमेल बनाए रखेगा।'

लेकिन एक बड़ी समस्या है: यदि सुरक्षा उपाय फिर से विफल हो जाते हैं, तो फिर क्या? इस बार ओपनएआई को रोकने के लिए कुछ भी आवश्यक नहीं था, यही कारण है कि उसकी इच्छा सार्थक थी। लेकिन इसका मतलब यह भी है कि कोई गारंटी नहीं है कि ओपनएआई - या कोई अन्य कंपनी - अगली बार वही विकल्प चुनेगी।

कंपनियों पर आत्म-निगरानी के लिए भरोसा करना अनिश्चित है, खासकर जब प्रोत्साहन उन्हें आगे बढ़ने के लिए प्रेरित करते हैं। द फ्यूचर सोसाइटी के कार्यकारी निदेशक निक मोएस आत्म-निगरानी को एआई सुरक्षा के केंद्र में संरचनात्मक समस्या कहते हैं। उनका तर्क है कि सरकारों को यह तय करने में सक्षम होना चाहिए कि क्या कोई कंपनी असुरक्षित तकनीक के विकास को रोकती है। 'अधिकांश उद्योग इसी तरह काम करते हैं,' वे कहते हैं, दवाओं, निर्माण, विमान और यहां तक कि रेस्तरां की ओर इशारा करते हुए जिनकी एआई की तुलना में मजबूत निगरानी है।

स्वैच्छिक उपाय भी न्यूनतम सामान्य भाजक पर एकत्रित होने का जोखिम उठाते हैं। यदि धीमा होने से आपको नुकसान होता है, तो कंपनियां केवल वही अपनाएंगी जो प्रतिद्वंद्वी स्वीकार करते हैं। जैसे-जैसे दौड़ तेज होती है, यदि ओपनएआई धीमा हो जाता है जबकि प्रतिस्पर्धी नहीं, तो यह 'बस एंथ्रोपिक द्वारा प्रतिस्थापित किया जाएगा,' मोएस तर्क देते हैं। 'विराम को स्थायी बनाने के लिए, इसे उद्योग-व्यापी बनाना होगा।'

स्थायी सुरक्षा के लिए स्वैच्छिक कार्रवाई से अधिक मजबूत कुछ चाहिए। सरकारी निगरानी मदद कर सकती है, जैसे स्वतंत्र सत्यापन। चैन नोट करते हैं कि यह सुनिश्चित करना महत्वपूर्ण होगा कि कंपनियां वास्तव में सुरक्षा उपायों को लागू करें क्योंकि एआई की निगरानी अधिक जटिल हो जाती है।