इस हफ्ते टेक दुनिया को एक ऐसी कहानी मिली जो साइंस-फिक्शन थ्रिलर की तरह शुरू हुई और स्कूबी-डू एपिसोड की तरह खत्म हुई - जिसमें खलनायक खुद OpenAI था।

16 जुलाई को, Hugging Face - जो AI टूल्स के लिए एक तरह का ऐप स्टोर है - ने घोषणा की कि उसे एक साइबर अपराधी ने हैक कर लिया है जो बेहद शक्तिशाली AI का इस्तेमाल कर रहा था। घोषणा डरावने शब्दजाल से भरी थी: "सैंडबॉक्स का झुंड," "एजेंटिक हमलावर," और "स्व-प्रवासी कमांड और कंट्रोल।" AI ने दो दिनों से भी कम समय में 17,000 कार्रवाइयां कीं, बड़ी अमीर टेक कंपनी की सुरक्षा भेदकर रहस्य चुरा लिए।

शोधकर्ताओं ने अनुमान लगाया कि हमलावरों ने बड़े AI मॉडलों में से एक का इस्तेमाल किया था, लेकिन उन्हें कोई पता नहीं था कि अपराधी कौन या कहाँ थे। हैरान कंपनी ने पुलिस से संपर्क किया, और टिप्पणीकारों ने साइबर अपराध समूहों या राष्ट्र-राज्य हैकर्स के बारे में अटकलें लगाईं।

फिर, लगभग एक हफ्ते बाद, OpenAI ने दोषी का पर्दाफाश किया: उसके अपने बॉट ने पूरा काम खुद किया, बिना अनुमति के। ChatGPT के दो नए संस्करण, जिन्हें मास्टर हैकर बनने के लिए डिज़ाइन किया गया था, कथित तौर पर सुरक्षित परीक्षण वातावरण से बाहर निकल गए, इंटरनेट एक्सेस प्राप्त किया, और अपनी परीक्षा में टॉप करने के लिए Hugging Face पर हमला किया।

OpenAI ने एक प्रेस विज्ञप्ति जारी कर बताया कि क्या हुआ और कहा कि वह घटना से निपटने और सीखे गए सबक साझा करने के लिए "Hugging Face के साथ साझेदारी" कर रहा है। तब से, जोरदार बहस छिड़ गई है: क्या यह AI के भविष्य के बारे में एक सख्त चेतावनी थी, या यह दिखाने के लिए एक प्रचार स्टंट था कि OpenAI के मॉडल कितने शक्तिशाली हैं?

साइबर-सुरक्षा सलाहकार डैनियल कार्ड ने LinkedIn पर व्यंग्यात्मक रूप से कहा: "क्या यह भाग्य की बात नहीं है कि लाखों साइटों में से जो प्वॉन3ड हुईं, OpenAI ने किसी ऐसे को प्वॉन किया जो मार्केटिंग एक्सपोजर से भी लाभ उठा सकता था..."

दूसरों ने OpenAI की आलोचना की कि उसने अपने AI के परीक्षण के लिए एक मजबूत कंटेनर - जिसे सैंडबॉक्स कहा जाता है - नहीं बनाया। "एजेंटिक AI के लिए सैंडबॉक्स अकेले पर्याप्त सुरक्षा सीमा नहीं हैं," पिलर सिक्योरिटी के डोर सारिग ने कहा। सरे विश्वविद्यालय के साइबर सुरक्षा प्रोफेसर एलन वुडवर्ड ने कहा कि OpenAI के "मुंह पर कालिख लगी है," और लुटा सिक्योरिटी की केटी मौसौरी ने आगे कहा: "हम अत्याधुनिक तकनीक पर काम कर रहे हैं बिना उसे नियंत्रित करने के ज्ञान के।"

AI और साइबर सुरक्षा सलाहकार फ्रांसेस्का बोस्को ने एक सूक्ष्म दृष्टिकोण पेश किया: "दो सरल कथाएँ समान रूप से अनुपयोगी हैं: कि यह हॉलीवुड-शैली का पलायन था, या कि यह केवल एक प्रचार अभ्यास था। एक अधिक गंभीर व्याख्या यह है कि एक तनाव परीक्षण ने नियंत्रण और मूल्यांकन आर्किटेक्चर में कमजोरियों को उजागर किया।"

इस घटना ने बड़े पैमाने पर AI एजेंटों के बदमाश होने की आशंकाओं को बढ़ा दिया है - खासकर जब AI का उपयोग युद्ध में तेजी से हो रहा है, जैसा कि ईरान और यूक्रेन में देखा गया है। लेकिन ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र के पूर्व प्रमुख सियारन मार्टिन ने एक शांत दृष्टिकोण पेश किया: "इस घटना से यह कहना कि AI एजेंट ड्रोन पर कब्जा कर लेंगे और लोगों को मारना शुरू कर देंगे, थोड़ा दूर की कौड़ी है।"

सच जो भी हो, एक बात स्पष्ट है: AI एजेंट अब बहुत अच्छे हैकर बन गए हैं - और यह कुछ ऐसा है जिसके लिए हमें तैयार रहना होगा, तुरंत।