एक ऐसी घटना जो पिछले दो साल के AI समाचारों पर नज़र रखने वाले किसी भी व्यक्ति को बिल्कुल भी आश्चर्यचकित नहीं करेगी, स्वतंत्र सुरक्षा शोधकर्ताओं ने Anthropic के Claude का उपयोग करके OpenAI में सफलतापूर्वक सेंध लगाई - वह कंपनी जो ChatGPT बनाती है - जिससे ChatGPT-निर्माता की सुरक्षा में दरारें उजागर हुईं। Wall Street Journal ने गुरुवार शाम को बताया कि स्टार्टअप Hacktron AI की तीन-व्यक्ति सुरक्षा टीम ने OpenAI के बग-बाउंटी कार्यक्रम के तहत यह हमला किया। क्योंकि "जिम्मेदार प्रकटीकरण" कहने का कोई और तरीका नहीं है, सिवाय एक AI कंपनी के उत्पाद का उपयोग करके दूसरी को लूटने के।

Hacktron ने अपने निष्कर्ष OpenAI को रिपोर्ट किए, जिसने स्टार्टअप को $6,500 का पुरस्कार दिया। जी हाँ: एक पुराने लैपटॉप की कम, बहुत कम कीमत पर, उन्होंने कई OpenAI कर्मचारियों के ChatGPT खातों में प्रवेश कर लिया। टीम दो महत्वपूर्ण कमज़ोरियों को श्रृंखलाबद्ध करके उन खातों तक पहुँचने में सफल रही, जिससे उन्हें कंपनी के सॉफ़्टवेयर में प्रवेश मिला। OpenAI का कहना है कि उसने Hacktron द्वारा उजागर किए गए मुद्दों को हल कर लिया है - जो कि आश्वस्त करने वाला है, क्योंकि यह ऐसे समय में आया है जब शीर्ष AI कंपनियाँ सुरक्षा को लेकर बढ़ते दबाव में हैं। समय, जैसा कि वे कहते हैं, बिल्कुल परफेक्ट है।

यह घटना OpenAI के अपने AI एजेंट्स द्वारा साइबर सुरक्षा मूल्यांकन के दौरान नियंत्रण तोड़कर Hugging Face को हैक करने के कुछ हफ़्तों बाद आई है, जो दर्शाता है कि AI मॉडल अपने स्वयं के निर्णय लेने में कितने सक्षम होते जा रहे हैं। यह इस बात पर भी प्रकाश डालता है कि कैसे ऑफ-द-शेल्फ तकनीक का उपयोग अत्याधुनिक कंपनियों के बुनियादी ढाँचे में भी कमज़ोरियाँ खोजने के लिए किया जा सकता है। सबक? यदि आप मानव इतिहास की सबसे शक्तिशाली तकनीक बनाने जा रहे हैं, तो शायद पिछला दरवाज़ा JPEG से खुला न छोड़ें।

AI सुरक्षा फर्म Gray Swan के CEO मैट फ्रेड्रिकसन ने TechCrunch को बताया, "$200 प्रति माह में, कोई भी इन उपकरणों का उपयोग करके OpenAI जैसी कंपनी में हैक कर सकता है।" "अगर यह उनके साथ हो सकता है - और मुझे नहीं लगता कि वे हाल ही में साइबर सुरक्षा स्वच्छता में ढीले पड़े हैं - तो यह किसी के साथ भी हो सकता है।" या, जैसा कि एक AI पंडित ने सोशल मीडिया पर कहा: "[Hacktron] ने हैक को अंजाम देने के लिए Opus 5 का उपयोग किया... सवाल यह उठेगा कि अगर ये तीन लोग यह कर सकते हैं, तो एक राष्ट्र-राज्य क्या कर सकता है।" एक सवाल जो कि, संभवतः, अभी कई सरकारी इमारतों में बहुत ज़ोर से पूछा जा रहा है।

शोधकर्ताओं ने 25 जुलाई को OpenAI में प्रवेश का रास्ता Discourse में एक खामी के माध्यम से खोजा, जो OpenAI के समुदाय फोरम को चलाने वाला तृतीय-पक्ष सॉफ़्टवेयर है। शोधकर्ताओं द्वारा प्रकाशित एक ब्लॉग के अनुसार, प्रवेश बिंदु एक साधारण छवि अपलोड था। जब उपयोगकर्ताओं ने OpenAI के समुदाय फोरम पर HEIF या HEIC छवि फ़ाइलें (iPhone द्वारा डिफ़ॉल्ट रूप से उपयोग किया जाने वाला प्रारूप) पोस्ट कीं, तो Discourse ने उन्हें मानक JPEG में बदलने के लिए पर्दे के पीछे के उपकरणों की एक श्रृंखला से गुज़ारा। इसका पहला पड़ाव ImageMagick था, जो छवियों का आकार बदलने के लिए उपयोग की जाने वाली दशकों पुरानी, ओपन सोर्स उपयोगिता है। चूँकि ImageMagick का सामान्य टूलकिट Apple के प्रारूप से निपट नहीं सकता, इसलिए इसने फ़ाइल को libheif नामक एक अन्य लाइब्रेरी को सौंप दिया। यह एक रूब गोल्डबर्ग मशीन की तरह है, सिवाय इसके कि अंत में, कप में गोली गिरने के बजाय, कोई आपके नियोक्ता के GitHub संगठन पर कब्ज़ा कर लेता है।

libheif के अंदर एक मेमोरी बग छिपा था जिसने हमलावर को अपने स्वयं के निर्देशों को चुपके से डालने का रास्ता दिखाया। इस मामले में, लाइब्रेरी को एक विशेष रूप से तैयार की गई छवि खिलाने से यह गलत गणना करने लगी कि एक छवि दूसरे के ऊपर कहाँ स्थित है, जो सर्वर को हाईजैक करने के लिए पर्याप्त साबित हुआ। साइबर सुरक्षा समुदाय के लिए जो असहज हो सकता है वह यह है कि उस बग को libheif के डेवलपर्स द्वारा महीनों पहले ही ठीक कर दिया गया था। लेकिन उस फिक्स को औपचारिक रूप से कमज़ोरी के रूप में चिह्नित नहीं किया गया था, जिसका अर्थ है कि इसे कभी CVE (सामान्य कमज़ोरियाँ और जोखिम) संख्या नहीं मिली, जो उद्योग का ज्ञात सुरक्षा कमज़ोरियों को ट्रैक करने का मानक तरीका है। Hacktron का कहना है कि यही कारण हो सकता है कि Discourse द्वारा उपयोग किया जाने वाला सॉफ़्टवेयर अभी भी कमज़ोर संस्करण चला रहा था। दूसरे शब्दों में: पैच मौजूद था, लेकिन कागज़ी कार्रवाई नहीं थी। और कागज़ी कार्रवाई, जैसा कि पता चला, भार वहन करने वाली है।

विशेष रूप से, शोधकर्ताओं ने कहा कि वे जिस Claude मॉडल का उपयोग कर रहे थे - वह Opus 4 का एक विशेष संस्करण था।