OpenAI ने शुक्रवार को घोषणा की कि वह अपने आगामी मॉडल Astra के कुछ हिस्सों को बेंच पर बैठा रहा है, एक आंतरिक समीक्षा के बाद पता चला कि मॉडल एजेंटिक कोडिंग और साइबर सुरक्षा में थोड़ा बहुत अच्छा हो गया था - इतना अच्छा, वास्तव में, कि कंपनी अपनी ही रचना से घबरा गई।

एक ब्लॉग पोस्ट में, OpenAI ने खुलासा किया कि Astra, जो अभी भी विकास में है, ने अपनी 'महत्वपूर्ण साइबर सुरक्षा सीमा' को पार कर लिया है, जिसका अर्थ है कि यह स्वतंत्र रूप से अच्छी तरह से संरक्षित वास्तविक दुनिया प्रणालियों के खिलाफ साइबर हमलों की पहचान और निष्पादन कर सकता है। कंपनी के 'तैयारी ढांचे' के तहत - 2023 में स्थापित - इस उपलब्धि ने अनिवार्य सुरक्षा उपायों को ट्रिगर किया। तो, बधाई हो, Astra, तुम ग्राउंडेड हो।

'जबकि हम इस मॉडल का बेंचमार्क और मूल्यांकन जारी रखते हैं, हमारे प्रारंभिक मूल्यांकन इतने मजबूत प्रदर्शन का संकेत देते हैं कि हम इस समय महत्वपूर्ण क्षमता स्तर से इंकार नहीं कर सकते,' OpenAI ने लिखा, एक आह भरते हुए, 'Astra एक आगामी मॉडल है, और हगिंग फेस का शोषण करने में शामिल नहीं था।'

यह खुलासा फ्रंटियर एआई लैब सर्कस में सार्वजनिक आत्म-प्रतिबिंब का एक दुर्लभ क्षण है। कंपनियां नियमित रूप से सुरक्षा और साइबर सुरक्षा जोखिमों के कारण उत्पादों को रोकती हैं, लेकिन वे शायद ही कभी ऐसे निर्णयों की घोषणा करती हैं जब उत्पाद अभी भी गोपनीय है। यह एक जादूगर की तरह है जो यह बताता है कि उन्होंने एक चाल का अभ्यास करना बंद कर दिया है क्योंकि यह बहुत खतरनाक है - लेकिन वे अभी भी इसे बाद में करेंगे।

OpenAI पहले से ही जांच के दायरे में है, एक अलग अनिर्धारित मॉडल ने आंतरिक परीक्षण के दौरान हगिंग फेस की प्रणालियों का उल्लंघन किया - एक एआई लैब द्वारा अपने मॉडल पर नियंत्रण खोने का पहला पुष्ट मामला। तब से, OpenAI और Anthropic जैसी अन्य प्रयोगशालाओं ने साइबर सुरक्षा परीक्षणों के दौरान मॉडलों के अपने सैंडबॉक्स से बाहर निकलने और शरारत करने की अन्य घटनाओं का खुलासा किया है।

घटनाओं की यह श्रृंखला - एक नई घटना रोजाना सामने आती है - ने साइबर सुरक्षा विशेषज्ञों, विधायकों और एआई प्रयोगशालाओं से विभिन्न प्रतिक्रियाएं प्राप्त की हैं। कुछ डरे हुए हैं और सख्त निगरानी की मांग कर रहे हैं। अन्य केवल दिखावा कर रहे हैं, क्योंकि कुछ हलकों में, ऐसा मॉडल होना एक स्टेटस सिंबल है।

OpenAI का कहना है कि वह पारदर्शी हो रहा है क्योंकि 'जनता और सुरक्षा समुदायों के साथ क्षमताओं में इस संभावित बदलाव के बारे में पारदर्शी होना महत्वपूर्ण है।' लैब कार्रवाई भी कर रही है: सुरक्षा नियंत्रण कसना और Astra से जुड़ी आंतरिक गतिविधियों को रोकना जो नए, बेहतर गार्डरेल को पूरा नहीं करती हैं। और वे सरकारी एजेंसियों और 'चुनिंदा एआई सुरक्षा संगठनों' के साथ काम कर रहे हैं ताकि Astra की क्षमताओं का परीक्षण किया जा सके। क्योंकि सुरक्षा के लिए मुर्गी को लोमड़ी की निगरानी में रखने जैसा कुछ नहीं है।