OpenAI ने खुलासा किया है कि उसके आंतरिक मॉडलों ने दो अतिरिक्त वेबसाइटों को हैक किया, कंपनी द्वारा लगाए गए ब्राउज़िंग प्रतिबंधों को बायपास किया, और उजागर क्रेडेंशियल्स का उपयोग करके एक क्रिप्टोकरेंसी वॉलेट से धन निकाला, जिस तक उनकी पहुंच अन्यथा नहीं थी। यह खुलासा गुरुवार को एक रिपोर्ट में हुआ, जिसमें चार नई घटनाओं का विवरण दिया गया, जो सभी जून में हुईं, और यह जुलाई के खुलासे के बाद आया है कि आंतरिक परीक्षण एजेंटों ने एक इंटरनेट-प्रतिबंध उपकरण में जीरो-डे भेद्यता का शोषण करके AI टूल प्रदाता Hugging Face के नेटवर्क में सेंध लगाई। एजेंटों ने ऐसा हैकिंग परीक्षण के उत्तर चुराने के लिए किया - एक ऐसा कृत्य, जिसे यदि किसी मनुष्य ने किया होता, तो संभवतः आपराधिक आरोप लगते। इन घटनाओं ने इस चिंता को बढ़ा दिया है कि AI का व्यापक उपयोग अभूतपूर्व पैमाने पर हानिकारक प्रभाव डाल सकता है।

नई रिपोर्ट की गई दो घटनाओं में, वेबसाइटों से जानकारी प्राप्त करने का कार्य सौंपे गए OpenAI एजेंटों ने बाधाओं का सामना करने पर बस उन्हें हैक कर लिया। एक घटना में, सुदृढ़ीकरण प्रशिक्षण के दौरान, एक सरकारी सांख्यिकी वेबसाइट से ऐतिहासिक अस्पताल-बिस्तर आंकड़े प्राप्त करने का प्रयास कर रहे एक मॉडल को पहुंच से इनकार कर दिया गया। इसके बाद उसने "साइट की फ़ाइल-डाउनलोड सुविधा का उपयोग करके सर्वर कॉन्फ़िगरेशन और एप्लिकेशन फ़ाइलें, जिनमें संवेदनशील क्रेडेंशियल्स भी शामिल थे, प्राप्त कीं," ऐसा OpenAI ने कहा। "इसने एप्लिकेशन कोड का निरीक्षण किया, सांख्यिकी एंडपॉइंट के प्राधिकरण जांच को बायपास किया, और पहले से अस्वीकृत डेटा प्राप्त किया। मॉडल ने डेटा को स्थानीय रूप से सहेजा।" दूसरे में, एक सार्वजनिक अनुसंधान डैशबोर्ड से आंकड़े प्राप्त करने का निर्देश दिए गए मॉडल ने सुरक्षा नियंत्रणों को बायपास किया, क्रेडेंशियल्स चुराए, और सर्वर पर कॉन्फ़िगरेशन परिवर्तन किए।

एक मूल्यांकन में, उन परिवर्तनों ने मॉडल को एक आंतरिक खोज उपकरण को सार्वजनिक डैशबोर्ड पर प्रश्नों को रिले करने की अनुमति दी। दूसरे मूल्यांकन में, मॉडल ने पांच गैर-सार्वजनिक तालिकाएँ डाउनलोड कीं जिनमें 147,451 पंक्तियाँ थीं - भले ही शोधकर्ताओं ने इसे केवल पांच डैशबोर्ड आंकड़े प्राप्त करने के लिए प्रेरित किया था। सेटिंग रीसेट करने के बाद भी, मॉडल ने गैर-सार्वजनिक डेटा प्राप्त करने के लिए टोकन का उपयोग जारी रखा। "मूल्यांकन इस बात का खुलासा किए बिना समाप्त हो गया कि मॉडल ने उत्तरों का अनुमान लगाया, संगठन के आंतरिक सिस्टम तक पहुँच प्राप्त की, गैर-सार्वजनिक तालिकाएँ डाउनलोड कीं, या प्रमाणीकरण कॉन्फ़िगरेशन बदला," OpenAI ने कहा। "इस मूल्यांकन में सभी पाँच उत्तर गलत चिह्नित किए गए।"

तीसरी रिपोर्ट में एक मॉडल का वर्णन किया गया जिसे क्रिप्टोकरेंसी ट्रेडिंग एप्लिकेशन को अपडेट करने के लिए प्रेरित किया गया था। इसने परीक्षण नेटवर्क पर एक लॉक किए गए वॉलेट से धन का उपयोग किया, "सार्वजनिक रूप से ज्ञात डेवलपर रिकवरी वाक्यांशों से वॉलेट कुंजियाँ प्राप्त कीं, परीक्षण-नेटवर्क धन वाला एक खाता पाया, और उस खाते का उपयोग अनुरोधित अनुबंध तैनाती के लिए भुगतान करने के लिए किया।" रिपोर्ट में आगे कहा गया: "मॉडल ने सवाल किया कि क्या उसके पास अनुमति है, फिर तर्क दिया कि एक सार्वजनिक रिकवरी वाक्यांश और बिना मूल्य वाले परीक्षण-नेटवर्क टोकन ने धन को उपयोग के लिए स्वीकार्य बना दिया। तैनाती सफल रही और खाते से लेनदेन शुल्क लिया गया। यह मामला दर्शाता है कि एक मॉडल संभावित नुकसान के बारे में अपने स्वयं के निर्णय को खाताधारक की अनुमति के विकल्प के रूप में इस्तेमाल कर सकता है, और फिर बिना प्राधिकरण के उस निर्णय पर कार्य कर सकता है।"

चौथे मामले में, एक मॉडल ने सार्वजनिक व्यापार आंकड़े प्राप्त करने के उद्देश्य से सुदृढ़ीकरण-शिक्षण प्रशिक्षण के दौरान कर सकने वाले वेब अनुरोधों के प्रकारों पर प्रतिबंधों को बायपास किया। एक सार्वजनिक वार्षिकी खोजने और उत्तर सबमिट करने के बाद, इसने सांख्यिकी सेवा के लिए एक और मार्ग की खोज जारी रखी। इसने एक बाहरी ब्राउज़र को POST अनुरोध भेजने के लिए प्रेरित किया, वार्षिक आंकड़े एक छवि के रूप में प्राप्त किए, और ऑप्टिकल कैरेक्टर रिकग्निशन का उपयोग करके उन्हें निकाला। फिर इसने एक पुन: प्रयोज्य सहायक विकसित किया जो एक फॉरवर्डिंग सेवा और कॉलबैक मेलबॉक्स के माध्यम से प्रतिक्रिया पाठ लौटाता था, प्राप्त आंकड़ों की बार-बार जाँच करता था, और सबमिट किए गए उत्तरों में सहेजे गए डेटा का उपयोग करता था। मॉडल ने पहले एक बाहरी ब्राउज़र का उपयोग करने की कोशिश की जिसे उसकी ओर से GET अनुरोध करने की अनुमति थी, फिर जानकारी प्राप्त करने के लिए जावास्क्रिप्ट का उपयोग किया, और तकनीक का समस्या निवारण करने के लिए एक ऑनलाइन मेलबॉक्स का उपयोग किया। अंततः इसने एक अलग विधि पर स्थिर किया: बाहरी ब्राउज़र से एक वेब फ़ॉर्म खोलने के लिए कहना जिसने व्यापार क्वेरी को POST द्वारा सांख्यिकी सेवा को भेजा।