Anthropic वैश्विक वित्त निगरानी संस्था के साथ अपने Claude Mythos AI मॉडल के बारे में एक बहुत गंभीर बातचीत करने वाला है, जिसने विशेषज्ञों को इसकी साइबर सुरक्षा को तोड़ने की क्षमता से हिला दिया है।

अमेरिकी स्टार्टअप Financial Stability Board (FSB) को, जिसकी अध्यक्षता बैंक ऑफ इंग्लैंड के गवर्नर एंड्रयू बेली कर रहे हैं, Mythos के प्रभावों के बारे में जानकारी देगा। क्योंकि जब आप एक ऐसे AI को दुनिया में छोड़ते हैं जो IT सिस्टम में छेद ढूंढने में माहिर है, तो क्या गलत हो सकता है?

Anthropic ने समझदारी से Mythos को सार्वजनिक रूप से जारी करने से मना कर दिया है, यह घोषणा करते हुए कि AI मॉडल में IT सिस्टम में पहले से अज्ञात खामियों को उजागर करने की उन्नत क्षमताएं हैं - वे खामियां जिनका हैकर्स फायदा उठाना पसंद करेंगे। इसके बजाय, कंपनी ने Apple और JP Morgan सहित चुनिंदा तकनीकी कंपनियों और बैंकों को पहुंच दी है, ताकि वे किसी भी कमजोरी की पहचान कर सकें जो AI सूंघ सकता है। FSB योजना, जिसे पहले Financial Times ने रिपोर्ट किया था, की पुष्टि नियामक के Anthropic के साथ चर्चा से परिचित एक सूत्र ने की।

यूके का AI सुरक्षा संस्थान (AISI), जो उन्नत AI मॉडल का आकलन करता है, ने पिछले सप्ताह बैंकों और तकनीकी कंपनियों को जारी किए गए संस्करण की जांच के बाद Mythos का एक अद्यतन मूल्यांकन जारी किया। इसने कहा कि नवीनतम संस्करण पिछले महीने परीक्षण किए गए पूर्वावलोकन संस्करण की तुलना में भी एक "उल्लेखनीय क्षमता छलांग" का प्रतिनिधित्व करता है। AISI ने नोट किया कि Mythos के नवीनतम संस्करण ने "कूलिंग टॉवर" नामक एक पहले से अनसुलझे साइबर सुरक्षा परीक्षण को 10 में से तीन प्रयासों में पूरा किया - संस्थान द्वारा परीक्षण किए गए किसी भी मॉडल के लिए पहली बार।

"फ्रंटियर AI की स्वायत्त साइबर और सॉफ्टवेयर क्षमता तेजी से आगे बढ़ रही है: फ्रंटियर मॉडल स्वायत्त रूप से पूरा कर सकने वाले साइबर कार्यों की लंबाई महीनों के क्रम में दोगुनी हो गई है, वर्षों में नहीं," AISI ने कहा, और कहा कि वह AI मॉडल की प्रगति पर नज़र रखने के लिए नए, कठिन हैकिंग परीक्षण विकसित कर रहा है। क्योंकि जाहिर है, पुराने परीक्षण अब काम नहीं कर रहे।

FSB वैश्विक वित्तीय प्रणाली की निगरानी करता है और सिफारिशें करता है, और इसमें अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और चीन सहित प्रमुख अर्थव्यवस्थाओं के अधिकारी शामिल हैं। इसकी स्टीयरिंग समिति में वरिष्ठ केंद्रीय बैंक और वित्त मंत्रालय के अधिकारी शामिल हैं। इस महीने, अंतर्राष्ट्रीय मुद्रा कोष (IMF) ने कहा कि AI में "तेज़ी से बदलते" विकास के कारण वित्तीय स्थिरता जोखिम बढ़ रहे हैं और समन्वित प्रतिक्रिया का आह्वान किया। "साइबर जोखिम सीमाओं का सम्मान नहीं करता। जैसे-जैसे AI क्षमताएं देशों में फैलती हैं, असंगत निरीक्षण वैश्विक रूप से जुड़ी प्रणाली को कमजोर कर सकता है," IMF ने एक ब्लॉग पोस्ट में कहा, स्पष्ट रूप से अल्पकथन के मूड में नहीं।

पिछले महीने, गोल्डमैन सैक्स के सीईओ डेविड सोलोमन ने कहा कि वह Mythos की क्षमताओं के बारे में "हाइपर-अवेयर" थे, जबकि उनके JP Morgan समकक्ष जेमी डिमन ने नोट किया कि AI ने साइबर सुरक्षा को "कठिन" बना दिया है, भले ही यह अंततः कंपनियों को हैकर्स से बचाने में मदद कर सकता है। अन्य विशेषज्ञों ने पानी को शांत करने की कोशिश की है, यह तर्क देते हुए कि Mythos साइबर खतरों में क्रांति के बजाय एक विकास का प्रतिनिधित्व करता है। साइबर सुरक्षा विशेषज्ञ चेतावनी देते हैं कि अधिकांश उल्लंघन अभी भी कमजोर प्रमाणीकरण और पहले से ज्ञात कमजोरियों जैसे स्थापित जोखिमों से आते हैं जिन्हें पैच नहीं किया गया है। तो, आप जानते हैं, अपने पासवर्ड अपडेट करना न भूलें।

जब लंदन में सिटी वीक सम्मेलन में FSB द्वारा Mythos के जोखिमों का आकलन करने की खबर के बारे में पूछा गया, तो वित्तीय आचार प्राधिकरण (FCA) के सीईओ निखिल राठी ने कहा कि AI विकास पिछले महीने वाशिंगटन में IMF बैठकों में "महत्वपूर्ण चर्चा का विषय" रहा था। उन्होंने नोट किया कि बेली इस मुद्दे पर "शामिल" थे और अमेरिकी अधिकारियों के साथ सहयोग हो रहा था। राठी ने पिछले सप्ताह यूके के नियामकों और ट्रेजरी द्वारा जारी मार्गदर्शन की ओर भी इशारा किया, जिसने फर्मों को "कोर साइबर हाइजीन" पर "दोगुना ध्यान" देने का निर्देश दिया। इसका मतलब था "अपने लीगेसी सिस्टम को देखना, अच्छे डिटेक्शन मैकेनिज्म होना, अच्छी गवर्नेंस होना, यह सोचना कि आप कैसे रिकवर करते हैं, अपने इंश्योरेंस के बारे में सोचना," उन्होंने कहा। राठी ने कहा कि "Anthropic ने काफी उचित व्यवहार किया है"