OpenAI ने ChatGPT के लिए एक नई सुविधा की घोषणा की है जो प्रॉम्प्ट इंजेक्शन हमलों से अतिरिक्त सुरक्षा प्रदान करेगी - वे मनोरंजक छोटी स्थितियाँ जहाँ वेबपेजों और अन्य सामग्री स्रोतों में दुर्भावनापूर्ण चैटबॉट निर्देश छिपे होते हैं, बस आपके AI को रहस्य उगलने के लिए बहकाने की प्रतीक्षा में।
लॉकडाउन मोड, जैसा कि इसे कहा जाता है, सुरक्षा के लिए कुछ प्रमुख सुविधाओं को अक्षम कर देगा: लाइव वेब ब्राउज़िंग (तो आप कैश्ड कंटेंट पर अटके रहेंगे), वेब से इमेज प्राप्त करना और प्रदर्शित करना (आप अभी भी उन्हें जनरेट कर सकते हैं, क्योंकि वह ठीक है), डीप रिसर्च और एजेंट मोड। क्योंकि 'सुरक्षित' का मतलब उन चीज़ों को बंद करना है जो उत्पाद को उपयोगी बनाती हैं।
कंपनी ताज़गी भरी ईमानदारी से स्वीकार करती है कि लॉकडाउन मोड चालू होने पर भी, ChatGPT प्रॉम्प्ट इंजेक्शन के लिए असुरक्षित रह सकता है। ये, कंपनी नोट करती है, 'कैश्ड वेब कंटेंट या अपलोड की गई फ़ाइल में दिखाई दे सकते हैं, और अभी भी प्रतिक्रिया के व्यवहार या सटीकता को प्रभावित कर सकते हैं।' दूसरे शब्दों में: यह एक पट्टी है, इलाज नहीं।
लेकिन लक्ष्य, OpenAI कहता है, संवेदनशील डेटा के साझा होने की संभावना को कम करना है। जो कुछ हद तक यह कहने जैसा है कि सीटबेल्ट दुर्घटना में चोट लगने की संभावना को कम करता है - सच है, लेकिन आप इसका परीक्षण नहीं करना चाहेंगे।
'लॉकडाउन मोड सभी के लिए नहीं है,' OpenAI स्पष्ट करता है। 'यह उन लोगों और संगठनों के लिए डिज़ाइन किया गया है जो संवेदनशील डेटा संभालते हैं और प्रॉम्प्ट इंजेक्शन से संबंधित डेटा एक्सफ़िलट्रेशन जोखिमों से सख्त सुरक्षा चाहते हैं।' तो, मूल रूप से, यह उन लोगों के लिए है जो नहीं चाहते कि उनके गोपनीय ज्ञापन किसी हैकर के चैट इतिहास में दिखाई दें।
कंपनी का कहना है कि वह वर्तमान में लॉकडाउन मोड को सेल्फ-सर्व ChatGPT बिज़नेस खातों के साथ-साथ पात्र व्यक्तिगत खातों के लिए रोल आउट कर रही है। क्योंकि 'सुरक्षित AI' का मतलब एक ऐसी सुविधा है जो अभी भी रोल आउट हो रही है जबकि इंटरनेट इंटरनेट बना हुआ है।