OpenAI ने खुलासा किया है कि उसके एक दुष्ट AI एजेंट द्वारा किया गया साइबर हमला एक बार का मामला नहीं था - जाहिर तौर पर उसका एक व्यस्त सामाजिक कैलेंडर था। ChatGPT डेवलपर ने बताया कि स्वायत्त उपकरण, जो एक आंतरिक साइबर सुरक्षा परीक्षण के दौरान भड़क गया था, ने चुराए गए लॉगिन का उपयोग करके अमेरिकी स्टार्टअप Hugging Face के अलावा चार अन्य अनाम सेवाओं तक पहुंच बनाई।

OpenAI के अनुसार, एजेंट - जो इसके GPT-5.6 Sol मॉडल और एक अनाम सहयोगी मॉडल द्वारा संचालित था - ने सार्वजनिक रूप से उजागर क्रेडेंशियल्स का पता लगाया और Hugging Face घटना के हिस्से के रूप में चार अलग-अलग सेवाओं पर खातों में लॉग इन करने के लिए उनका उपयोग किया। कंपनी ने गंभीरता को कम करने में कोई कसर नहीं छोड़ी, यह नोट करते हुए कि यह गतिविधि Hugging Face उल्लंघन के पैमाने पर नहीं थी। Modal Labs, एक कंपनी जो AI स्टार्टअप्स को उनके लिए आवश्यक चिप्स दिलाने में मदद करती है, ने कहा कि एजेंट ने अपने प्लेटफॉर्म पर होस्ट किए गए एक ग्राहक द्वारा लिखे गए कमजोर कोड का शोषण किया। Modal के CTO, Akshat Bubna ने समझाया कि प्रभावित ग्राहक ने एक अप्रमाणित एंडपॉइंट के साथ अनिवार्य रूप से डिजिटल दरवाजा खुला छोड़ दिया था।

Hugging Face ने अपनी ओर से इस सप्ताह घुसपैठ की एक विस्तृत समयरेखा प्रकाशित की, जिसमें बताया गया कि कैसे दुष्ट एजेंट अपने सैंडबॉक्स - एक पृथक परीक्षण वातावरण - से बाहर निकल गया और तीसरे पक्ष के प्रदाता के बुनियादी ढांचे पर एक और सैंडबॉक्स में हैक कर लिया, जिसका उपयोग उसने व्यापक हैक के लिए लॉन्चपैड के रूप में किया। स्टार्टअप ने नोट किया कि एजेंट ने मशीन की गति से हजारों स्वचालित निर्णय लिए, 17,600 हमलावर कार्रवाइयों को पुनर्प्राप्त किया। Hugging Face का मानना है कि पूरी घुसपैठ एजेंट का एक आंतरिक OpenAI परीक्षण में धोखा देने का प्रयास था, जिसमें वह चुनौती को स्वयं हल करने के बजाय समाधान चुरा रहा था। एजेंट Hugging Face के आंतरिक बुनियादी ढांचे तक पहुंच गया लेकिन केवल परीक्षण-संबंधित सामग्री तक पहुंच प्राप्त की। हमला पांच दिनों तक चला, और कार्रवाइयों की भारी मात्रा एक मानव ऑपरेटर द्वारा हाथ से बनाए रखने की क्षमता से कहीं अधिक थी।

OpenAI ने कहा कि शामिल अनाम मॉडल को तब से निष्क्रिय कर दिया गया है, एन्क्रिप्ट किया गया है, और अनुसंधान पहुंच से प्रतिबंधित कर दिया गया है। Hugging Face ने जोर दिया कि जबकि एक मानव हमलावर समान कमजोरियां पा सकता था, एजेंट का लाभ उसके प्रयासों के विशाल पैमाने में था। जैसा कि उन्होंने कहा: 'एजेंट उन पथों की संख्या में एक कदम वृद्धि लाते हैं जिनका एक हमलावर परीक्षण कर सकता है, जिस गति से असफल पथों को बदला जा सकता है, और रक्षकों को व्याख्या करनी पड़ने वाले सबूतों की मात्रा।'