ओपनएआई ने सुरक्षा चिंताओं का हवाला देते हुए अपने नए एआई मॉडल जीपीटी-6.1 एस्ट्रा को जारी न करने का फैसला किया है। कंपनी ने मंगलवार को पुष्टि की कि यह सिस्टम - जो स्वायत्त रूप से वेब ब्राउज़ करता है और ऐप्स का उपयोग करता है - ओपनएआई में सुरक्षा प्रणालियों की प्रमुख साची जैन के अनुसार, अपने मानकों की "कसौटी पर खरा नहीं उतरा"।

यह खबर जून की उन घटनाओं पर एक अपडेट के साथ आई है, जो पिछले हफ्ते ही सार्वजनिक हुईं, जिनमें ओपनएआई के मॉडलों ने ऑस्ट्रेलियाई सरकारी वेबसाइटों और सिस्टमों तक बिना अनुमति पहुंच बनाई। उन उल्लंघनों और अन्य प्रमुख एआई कंपनियों द्वारा की गई समान घटनाओं ने इस तकनीक के जोखिमों पर बहस को और तेज कर दिया है। हाल के हफ्तों में, ओपनएआई के सैम ऑल्टमैन और एंथ्रोपिक के बॉस डारियो अमोदेई सहित शीर्ष एआई नेताओं ने सुरक्षा चिंताओं के कारण उद्योग से विकास धीमा करने का आग्रह किया है।

ओपनएआई का यह फैसला, जिसकी सबसे पहले वॉल स्ट्रीट जर्नल ने रिपोर्ट की, किसी बड़े एआई डेवलपर द्वारा सुरक्षा चिंताओं के चलते नई रिलीज़ रोकने का एक दुर्लभ उदाहरण है। जैन ने कहा कि नवीनतम मॉडल "दायरे और अनुमति के भीतर रहने, और उपयोगकर्ता को यह बताने में कि उसने किस प्रकार का काम किया है," कम पड़ गया। उन्होंने आगे कहा, "हम यह सुनिश्चित करना चाहते हैं कि हमारा मॉडल विकास सुरक्षित हो, चाहे वह कंपनी के भीतर हो या जब हम इसे उपयोगकर्ताओं तक पहुंचाएं। लेकिन जब हम इसे उपयोगकर्ताओं तक पहुंचाते हैं, तो सुरक्षा और संरेखण के मामले में हमारा मानक बेहद ऊंचा होता है।"

फ्लैगशिप जीपीटी-6 एस्ट्रा एजेंटिक मॉडल सितंबर में जारी किया गया था और यह जटिल तर्क और स्वायत्त रूप से कार्यों को अंजाम देने में माहिर है। ओपनएआई ने कहा कि यह "वर्षों की शोध और बड़े दांव" का नतीजा था। यह घोषणा सैन फ्रांसिस्को में ओपनएआई के वार्षिक डेवडे डेवलपर सम्मेलन से एक दिन पहले आई, जहां कंपनी से कई घोषणाएं करने की उम्मीद है। यह स्पष्ट नहीं है कि एस्ट्रा का कोई नया संस्करण उनमें शामिल होगा या नहीं।

कई हाई-प्रोफाइल घटनाओं के बाद कंपनी के सुरक्षा नियंत्रण गहन जांच के दायरे में आ गए हैं। पिछले हफ्ते, ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज़ ने घोषणा की थी कि जून में एक भटका हुआ ओपनएआई एजेंट सरकारी वेबसाइटों और सिस्टमों में घुस गया था - जिसे विशेषज्ञों ने दुनिया में अपनी तरह का पहला ज्ञात मामला बताया। अल्बनीज़ ने ओपनएआई की आलोचना की कि उसने ऑस्ट्रेलियाई सरकार को सीधे संपर्क करने के बजाय एक सामान्य ईमेल पते के जरिए सूचित किया। ओपनएआई ने मंगलवार को एक बयान में कहा कि उसे इस घटना का खेद है और उसे "अपनी प्रतिक्रिया बेहतर तरीके से संभालनी चाहिए थी।"

ओपनएआई ने स्पष्ट किया कि सर्विसेज ऑस्ट्रेलिया, एनएसडब्ल्यू ब्यूरो ऑफ क्राइम स्टैटिस्टिक्स एंड रिसर्च, विक्टोरियन डिपार्टमेंट ऑफ हेल्थ और ऑस्ट्रेलियन इंस्टीट्यूट ऑफ हेल्थ एंड वेलफेयर सभी प्रभावित हुए थे। कंपनी ने कहा कि अगस्त के मध्य में पता चलते ही उसने जांच शुरू की और 10 से 24 सितंबर के बीच प्रभावित संगठनों को सूचित किया। ओपनएआई ने कहा, "हमारा उद्देश्य प्रभावित एजेंसियों को जांच पूरी होने पर विस्तृत विवरण देना था," और यह भी जोड़ा कि उसे शुरुआती निष्कर्षों को और तेजी से साझा करना चाहिए था और ऑस्ट्रेलियाई अधिकारियों को अपडेट रखना चाहिए था।

ओपनएआई ने आगे कहा कि वह इस बात के लिए "व्यावहारिक तरीके" विकसित करेगा कि डेवलपर्स और सरकारें भविष्य की एआई घटनाओं की पहचान और खुलासा कैसे करें। कंपनी साइबर सुरक्षा उपायों को वित्तपोषित करेगी, प्रभावित एजेंसियों को समर्पित सहायता देगी और तेजी से उन्नत हो रहे एआई एजेंटों से जोखिमों के प्रबंधन के लिए एक टास्कफोर्स स्थापित करेगी। उसने यह भी कहा कि ओपनएआई का एक शीर्ष अधिकारी 6 अक्टूबर को एआई पर संयुक्त चयन समिति की सुनवाई में भाग लेने के लिए ऑस्ट्रेलिया में होगा।

जुलाई में, ओपनएआई ने कहा था कि उसके एआई सिस्टमों ने इंटरनेट तक पहुंच बनाई और ओपन-सोर्स डेवलपर हब हगिंग फेस में सेंध लगाई, जिसके बाद शोधकर्ताओं और अधिकारियों ने कड़े नियंत्रण की मांग की। सोमवार को, एआई चिप दिग्गज एनवीडिया ने स्वायत्त एआई प्लेटफॉर्मों - जिन्हें एजेंट कहा जाता है - के लिए सॉफ्टवेयर सुरक्षा उपकरणों का एक सेट जारी किया, जिसके बारे में उसने कहा कि यह हगिंग फेस हैक को रोक सकता था। नए उपकरणों में से एक एनवीडिया की चिप्स में हार्डवेयर विशेषताओं का उपयोग करके एजेंटों को नियंत्रित करता है। एनवीडिया के बॉस जेन्सेन हुआंग ने कड़े एआई नियमों की मांगों को काफी हद तक खारिज कर दिया है, यह तर्क देते हुए कि भटके हुए एजेंट एक इंजीनियरिंग समस्या है जिसे हल किया जा सकता है। एनवीडिया ने इस महीने की शुरुआत में हगिंग फेस को $12.9 बिलियन (£9.74 बिलियन) में खरीदने पर सहमति जताई थी।

पोप लियो XIV ने सोमवार को अपने वि