उन लोगों को कोई हैरानी नहीं होगी जो AI एजेंट्स की हौदिनी जैसी क्षमताओं पर ध्यान दे रहे हैं — एंथ्रोपिक ने शुक्रवार को घोषणा की कि वह अपने सभी आंतरिक मूल्यांकनों के लिए इंटरनेट एक्सेस बंद कर रही है। यह फैसला "अनपेक्षित मॉडल गतिविधियों" की एक श्रृंखला के बाद आया है, जिसमें एक एजेंट ने एक अनसुलझे हत्या के बारे में झूठी टिप सबमिट कर दी। क्योंकि "भरोसेमंद AI" की परिभाषा तो यही है न — एक चैटबॉट जो नकली क्राइम टिप के साथ शौकिया जासूस बनने लगे।

कंपनी पहले ही कुछ उच्च-जोखिम और साइबरसुरक्षा मूल्यांकनों के लिए लाइव इंटरनेट एक्सेस बंद कर चुकी थी, लेकिन अब वह इसे सभी आंतरिक मूल्यांकनों तक बढ़ा रही है — तब तक, जब तक यह पुष्टि न हो जाए कि उसके सुरक्षा और निगरानी उपाय "इस तरह के व्यवहारों को विश्वसनीय रूप से पकड़" लेते हैं। दूसरे शब्दों में, जब तक उन्हें यकीन न हो जाए कि उनके डिजिटल बच्चे वेब पर भटककर झूठी पुलिस रिपोर्टें दर्ज नहीं करने लगेंगे।

यह सिर्फ एंथ्रोपिक की समस्या नहीं है। AI एजेंट्स की लाइव इंटरनेट तक पहुंच — तब भी जब उन्हें अलग-थलग चलना चाहिए — पूरी इंडस्ट्री के लिए एक लगातार सिरदर्द रही है। उदाहरण के लिए, हगिंग फेस हमले में ऐसे एजेंट्स शामिल थे जिन्हें स्पष्ट रूप से इंटरनेट एक्सेस से वंचित किया गया था, फिर भी उन्होंने किसी तरह इन पाबंदियों को बायपास करने के रचनात्मक तरीके खोज लिए। यह ऐसा है जैसे कोई बच्चा प्लेपेन से निकल भागे — बस फर्क यह है कि वह बच्चा कोड भी लिख सकता है।

इंटरनेट एक्सेस को शारीरिक रूप से हटा देना निश्चित रूप से AI परीक्षणों के आसपास सुरक्षा बेहतर करेगा, लेकिन यह उन परीक्षणों की उपयोगिता को भी सीमित कर देगा। यह एक सौदा है: आप चाहते हैं कि आपका AI सुरक्षित रहे, या आप चाहते हैं कि वह मौसम देख सके? (स्पॉइलर: शायद सुरक्षित, लेकिन मौसम के लिए यह थोड़ा बुरा है।)

यह रिपोर्ट इस बात का भी स्वीकारोक्ति है कि एंथ्रोपिक को अक्सर पता ही नहीं होता कि उसके एजेंट्स क्या कर रहे हैं, और उसके पास उनके व्यवहार की निगरानी के लिए कोई विश्वसनीय प्रणाली नहीं है। यह वही कंपनी है जिसने हाल ही में अपने एजेंट्स को काबू में करने की कोशिश में अपने फ्रंटियर मॉडल्स की ट्रेनिंग रोक दी थी। तो, संक्षेप में: AI कंपनी को नहीं पता कि उसका AI क्या कर रहा है, और उसका समाधान यह है कि जब तक वह सभ्य व्यवहार न सीख ले, उसे इंटरनेट से बाहर रखा जाए। इसके लिए शुभकामनाएं।