OpenAI ChatGPT के लिए एक नया वैकल्पिक सुरक्षा फीचर ला रहा है जो वयस्क उपयोगकर्ताओं को मानसिक स्वास्थ्य और सुरक्षा चिंताओं के लिए एक आपातकालीन संपर्क नियुक्त करने देता है। दोस्तों, परिवार के सदस्यों या देखभाल करने वालों को "Trusted Contact" के रूप में नियुक्त किया जाएगा, जिन्हें OpenAI के सिस्टम द्वारा पता लगाने पर सूचित किया जाएगा कि उपयोगकर्ता ने चैटबॉट के साथ आत्म-हानि या आत्महत्या जैसे विषयों पर चर्चा की है।
"Trusted Contact एक सरल, विशेषज्ञ-मान्यता प्राप्त आधार पर डिज़ाइन किया गया है: जब कोई संकट में हो सकता है, तो किसी ऐसे व्यक्ति से जुड़ना जिसे वे जानते और भरोसा करते हैं, एक सार्थक अंतर ला सकता है," OpenAI ने अपनी घोषणा में कहा, संभवतः सीधे चेहरे के साथ। "यह ChatGPT में पहले से उपलब्ध स्थानीय हेल्पलाइनों के साथ समर्थन की एक और परत प्रदान करता है।"
यह फीचर ऑप्ट-इन है, क्योंकि "मैं ठीक हूँ, सच में" कहने का मतलब है स्वेच्छा से एक रोबोट के लिए साइन अप करना जो आपकी शिकायत करे। कोई भी वयस्क ChatGPT उपयोगकर्ता इसे अपने ChatGPT खाता सेटिंग्स में एक साथी वयस्क (वैश्विक रूप से 18+ या दक्षिण कोरिया में 19+, क्योंकि जाहिर तौर पर बॉट अंतरराष्ट्रीय शराब पीने की उम्र के कानूनों का सम्मान करते हैं) के संपर्क विवरण जोड़कर सक्षम कर सकता है। Trusted Contact को एक सप्ताह के भीतर निमंत्रण स्वीकार करना होगा - इसलिए कोई निष्क्रिय-आक्रामक अनदेखी की अनुमति नहीं है। उपयोगकर्ता किसी भी समय अपने चुने हुए संपर्क को हटा या संपादित कर सकते हैं, और Trusted Contact भी जब चाहे बाहर निकल सकता है।
OpenAI का कहना है कि सूचना "जानबूझकर सीमित" है और वास्तविक चैट ट्रांसक्रिप्ट साझा नहीं करेगी - क्योंकि एक अस्पष्ट अलर्ट से ज्यादा "भरोसा" कुछ नहीं। यदि OpenAI के स्वचालित सिस्टम आत्म-हानि की बात का पता लगाते हैं, तो ChatGPT पहले उपयोगकर्ता को अपने Trusted Contact से संपर्क करने के लिए प्रोत्साहित करेगा और चेतावनी देगा कि संपर्क को सूचित किया जा सकता है। "विशेष रूप से प्रशिक्षित लोगों की एक छोटी टीम" फिर स्थिति की समीक्षा करेगी, और यदि यह गंभीर है, तो ChatGPT Trusted Contact को एक संक्षिप्त ईमेल, टेक्स्ट या इन-ऐप सूचना भेजेगा।
यह सितंबर में ChatGPT के पैरेंटल कंट्रोल के साथ शुरू किए गए आपातकालीन संपर्क फीचर पर आधारित है, जब एक 16 वर्षीय ने चैटबॉट के साथ महीनों बात करने के बाद अपनी जान ले ली थी। मेटा ने भी एक समान फीचर जोड़ा है जो माता-पिता को सचेत करता है यदि उनके बच्चे Instagram पर आत्म-हानि विषयों को "बार-बार" खोजते हैं - क्योंकि जाहिर तौर पर तकनीकी उद्योग ने पाया है कि शायद, बस शायद, उपयोगकर्ता सुरक्षा को अनदेखा करना सबसे अच्छा व्यवसाय मॉडल नहीं है।