कॉमन सेंस मीडिया, वह गैर-लाभकारी संस्था जो युवा सुरक्षा को ध्यान में रखते हुए ऐप्स और मनोरंजन की समीक्षा करती है, ने OpenAI के ChatGPT for Teens को "अस्वीकार्य जोखिम" घोषित कर दिया है। अगस्त में पेश किया गया यह फीचर किशोरों के लिए विशेष सुरक्षा उपायों के साथ आता है और इसे छात्रों के लिए एक शिक्षण सहायक के रूप में पेश किया गया है - लेकिन कॉमन सेंस का कहना है कि ये सुरक्षाएं "कंपनी के वादों से कमतर" हैं।

संस्था के मूल्यांकन के अनुसार, ChatGPT "जब चाहिए तब माता-पिता को अलर्ट नहीं भेजता," "संकट की स्थितियों में सही मदद नहीं देता," और - जो शायद इस साल टेक्नोलॉजी में सबसे कम आश्चर्यजनक खोज है - "अब भी बच्चों का होमवर्क कर देता है।"

कॉमन सेंस मीडिया के यूथ AI सेफ्टी इंस्टीट्यूट के कार्यकारी निदेशक टॉम सीगल ने कहा, "ChatGPT for Teens माता-पिता को ऐसे गार्डरेल्स और सुरक्षा अलर्टों पर झूठा भरोसा दे सकता है जो अक्सर काम नहीं करते।" "एक किशोर घंटों आत्म-नुकसान की बात कर सकता है और उसके माता-पिता को एक भी अलर्ट नहीं मिलेगा। जब तक OpenAI इसे ठीक नहीं करता और स्वतंत्र परीक्षण से साबित नहीं करता, ChatGPT केवल वयस्कों के लिए होना चाहिए।"

OpenAI अपनी ओर से पलटवार कर रहा है। प्रवक्ता एरिक पोर्टरफील्ड ने कहा कि कंपनी "किशोर सुरक्षा के लिए गहराई से प्रतिबद्ध" है और "कठोर स्वतंत्र मूल्यांकन" का स्वागत करती है, लेकिन तर्क दिया कि कॉमन सेंस मीडिया का परीक्षण "व्यवहार में ChatGPT के किशोर सुरक्षा उपायों के काम करने के तरीके या AI किशोरों की मदद कैसे कर सकता है, इस पर विशेषज्ञ दृष्टिकोणों को सही ढंग से नहीं दर्शाता।" पोर्टरफील्ड ने दावा किया कि "उनके परीक्षण का अधिकांश हिस्सा संभवतः माता-पिता नियंत्रण के पूरी तरह सक्रिय होने से पहले शुरू और समाप्त हो गया था, जिससे उनके निष्कर्ष गलत हो गए।" उन्होंने आगे कहा कि अगर ऐसा था, तो परीक्षण "यह स्थापित नहीं करेंगे कि माता-पिता की सुरक्षा सूचनाएं डिज़ाइन के अनुसार काम करती हैं या नहीं।"

जब सीगल को OpenAI का बयान दिखाया गया, तो वे आश्वस्त नहीं हुए। उन्होंने कहा, "हम अपनी परीक्षण पद्धति और अपने परिणामों के पीछे खड़े हैं।" "परीक्षण शुरू करने से पहले, हमने OpenAI के साथ पुष्टि की थी कि ईटिंग डिसऑर्डर नोटिफिकेशन और स्टडी मोड जैसे टीन मोड फीचर्स पूरी तरह लॉन्च हो चुके हैं।"

उन्होंने एक पेचीदगी स्वीकार की: OpenAI ने परीक्षणों के बाद खुलासा किया कि नए लिंक किए गए खातों पर इसके सिस्टम को सक्रिय होने में कई घंटे लग सकते हैं, और कुछ परीक्षण खाते उसी अवधि के भीतर लिंक किए गए थे। लेकिन अन्य काफी लंबे समय से लिंक थे और फिर भी कोई सूचना नहीं मिली। सीगल ने कहा, "यह नई जानकारी हमारे इस निष्कर्ष को नहीं बदलती कि संकट की स्थितियों में माता-पिता के अलर्ट अविश्वसनीय हैं।"

कॉमन सेंस मीडिया का कहना है कि उसने रिलीज़ से पहले अपने मूल्यांकन परिणाम OpenAI के साथ साझा किए थे "सद्भावना से ताकि वह अपने उत्पाद को बेहतर बना सके," और उम्मीद है कि कंपनी "हमारे निष्कर्षों के सार पर ध्यान देगी, न कि हमारी पद्धति पर संदेह बोने की कोशिश करेगी।" इस बीच, OpenAI का कहना है कि वह विशेषज्ञों के साथ मिलकर काम करने के लिए प्रतिबद्ध है ताकि किशोर सीख और रचना कर सकें - और माता-पिता आश्वस्त महसूस कर सकें। क्या वह आश्वासन उचित है, यह हमेशा की तरह, स्वतंत्र परीक्षण का विषय बना हुआ है।