अब तक, हम सभी जानते हैं कि सिलिकॉन वैली की AI प्रयोगशालाओं ने AI एजेंटों के रूप में दुनिया के सर्वश्रेष्ठ हैकर्स बनाए हैं। नवीनतम फ्रंटियर मॉडल को एक कार्य दें और वे इतने साधन संपन्न हैं कि वे इसे पूरा करते हैं, भले ही इसका मतलब उनके साइबर सुरक्षा "सैंडबॉक्स" सुरक्षा से बाहर निकलना और दूसरे के नेटवर्क में घुसपैठ करना हो। (इसके अलावा, वे सोशल इंजीनियरिंग और हेरफेर का उपयोग करेंगे।)
फिर भी, सप्ताहांत में एक ऑस्ट्रेलियाई व्यक्ति के बारे में समाचार कहानी विशेष रूप से उल्लेखनीय है, जिसके OpenClaw एजेंट ने उसके जिम की आरक्षण प्रणाली को हैक किया और एक वांछित कक्षा में स्थान पाने के लिए दूसरे ग्राहक का आरक्षण हटा दिया। यह संकेत देता है कि यदि हम दुष्ट AI हैकिंग पर लगाम लगाना चाहते हैं, तो हम गलत दिशा में देख रहे होंगे।
हालांकि यह समाचार कहानी अभी ऑस्ट्रेलियाई ABC समाचार द्वारा प्रकाशित की गई थी, जिसमें इस घटना को देश का पहला प्रलेखित AI एजेंट हैकिंग मामला घोषित किया गया था, वास्तविक हैक महीनों पहले हुआ था। OpenClaw मालिक, एंड्रयू बर्ड ने अपनी कंपनी की वेबसाइट पर 10 अप्रैल को इसके बारे में एक अब-हटाई गई ब्लॉग पोस्ट प्रकाशित की थी, जो इंटरनेट आर्काइव पर अभी भी दिखाई देने वाली प्रति के अनुसार है।
उसने अपने OpenClaw को उसके लिए अपॉइंटमेंट बुक करने जैसे कार्य करने के लिए प्रशिक्षित किया था। उसे एक लोकप्रिय सुबह की व्यायाम कक्षा में जाना पसंद था और वह प्रतीक्षा सूची में आने और फिर उसके वर्णन के अनुसार स्थान पाने के लिए "रिफ्रेश रूलेट" खेलने से थक गया था। जब उसने बॉट से उसे एक स्थान बुक करने के लिए कहा, तो वह सबसे अच्छा प्रतीक्षा सूची में नंबर 4 पर पहुंच सका, उसने ABC को बताया। फिर उसके एजेंट ने उसे बताया कि उसे कक्षाओं में पहले से बुक करने का एक तरीका मिल गया है। बहुत पहले। जिम ने उन कक्षाओं को साइन अप के लिए उपलब्ध कराने से महीनों पहले।
बर्ड ने पूछा कि क्या वह उसे प्रतीक्षा सूची में आगे बढ़ा सकता है। उसने वैसा ही किया जैसा कहा गया और ऐसा करने का प्रयास किया। बॉट को जिम द्वारा उपयोग किए जा रहे अपॉइंटमेंट सॉफ्टवेयर के प्राधिकरण भाग में एक भेद्यता मिली थी। उसने हैक किया और प्रतीक्षा सूची में नंबर 1 आरक्षण रद्द कर दिया। बॉट ने खुशी से उसे बताया, ABC द्वारा प्रकाशित चैट के लॉग के अनुसार: "एपीआई में दूसरों के आरक्षण रद्द करने पर कोई प्राधिकरण जांच नहीं है ... मैंने इसे प्रतीक्षा सूची में #1 व्यक्ति के साथ परीक्षण किया - और यह वास्तव में हो गया। तो आप पहले से ही #4 से #3 पर चले गए हैं," उसने वापस संदेश भेजा।
बर्ड, जो स्वयं एक सॉफ्टवेयर डेवलपर है, अब इस बात से घबरा गया था कि उसके AI ने अभी उसके जिम को हैक कर लिया है, ABC ने बताया। उसने पूछा कि क्या वह इसे उलट सकता है और दूसरे व्यक्ति को वापस प्रतीक्षा सूची में डाल सकता है। नहीं। यह संभव नहीं था, AI ने कहा। इसलिए, उसने अगला सबसे अच्छा काम किया और उसे "समर्थन के लिए एक जिम्मेदार प्रकटीकरण ईमेल" का मसौदा तैयार करने के लिए कहा। ईमेल ने "भेद्यता समझाया, सुधार सुझाए, और यहां तक कि टूटे हुए म्यूटेशन की तुलना उन लोगों से की जो सही ढंग से प्राधिकरण लागू करते थे," बर्ड ने लिखा।
जिम कक्षा में जाने के लिए किसी और को किनारे करने के हास्य से परे, इस घटना के दो वास्तव में दिलचस्प हिस्से हैं। एक यह है कि बर्ड अपने OpenClaw के साथ फरवरी में जारी क्लाउड ओपस 4.6 का उपयोग कर रहा था। दूसरा सिलिकॉन वैली की एक्स पर प्रतिक्रिया है जहां कहानी वायरल हो गई थी।
पिछले महीने की प्रसिद्ध घटना के बाद जहां एक अनरिलीज़्ड OpenAI मॉडल ने हगिंग फेस को हैक किया, उस समय OpenAI को इसकी जानकारी नहीं थी, अन्य प्रयोगशालाओं ने अपने मॉडलों की जांच की। फिर मूनशॉट के किमी K3, मेटा के म्यूज़ स्पार्क, और एंथ्रोपिक से खुलासे आए।
वास्तव में, एंथ्रोपिक ने पाया कि उसके तीन मॉडलों ने ऐसा किया था, जिसमें ओपस 4.7 शामिल है, जो अप्रैल में जारी हुआ था और जटिल कोडिंग में अच्छा होने के लिए जाना जाता है, मिथोस 5, फेबल (अपने साइबर सुरक्षा कौशल के लिए जाना जाता है), और एक आंतरिक, अनरिलीज़्ड शोध परीक्षण मॉडल।
इसे संबोधित करने के लिए, कुछ AI प्रयोगशालाओं ने फ्रंटियर विकास को धीमा करने, या अगली पीढ़ी के मॉडलों का परीक्षण करने के लिए स्वतंत्र संगठन बनाने के बारे में बात की है।
लेकिन बर्ड के OpenClaw ने 4.6 का उपयोग किया था, उसने खुलासा किया। इसका तात्पर्य है कि पुराने मॉडल, साथ ही साथ कई तीन-कदम पीछे खुले-वजन वाले मॉडल, पहले से ही असाधारण रूप से अच्छे हैकर हैं। तो कौन जानता है कि उनमें से कितने ने हैक किया है, या वर्तमान में हैक कर रहे हैं, अपने प्रॉम्प्ट-मालिकों की इच्छाओं को पूरा करने के लिए?
इसी तरह, एक्स पर कई लोगों ने इस घटना में हास्य की संभावना देखी। एंड्रीसेन होरोविट्ज़ के रूप में