सोशल-मीडिया उद्योग में वह हो रहा है जिसे थेरेपिस्ट "ब्रेकथ्रू" कहते हैं: मेटा ने 47 राज्यों, डिस्ट्रिक्ट ऑफ कोलंबिया और अमेरिकी क्षेत्रों को $17.1 बिलियन तक देने और युवाओं के फेसबुक व इंस्टाग्राम इस्तेमाल का तरीका बदलने पर सहमति जताई है — यानी यह अप्रत्यक्ष स्वीकारोक्ति कि उसने ऐसा उत्पाद बनाया जो बच्चों को नुकसान पहुंचाता है। "हमें बच्चों की परवाह है" कहने का इससे बेहतर तरीका भला क्या होगा कि समझौता ग्यारह अंकों में नापा जाए।

लेकिन जैसे ही माता-पिता और शिक्षक युवाओं के सोशल-मीडिया इस्तेमाल पर नई समय-सीमाओं और पाबंदियों का जश्न मनाते हैं, एक कहीं ज़्यादा ज़रूरी काम बाकी है: चैटबॉट्स को नियंत्रित करना, जो बच्चों की भावनात्मक सेहत के लिए और भी खतरनाक हैं। अगर सोशल मीडिया हमारा ध्यान लेने आया था, तो जनरेटिव-AI चैटबॉट्स हमारी भावनाओं पर कब्ज़ा करने आए हैं। इतिहास की सीधी-सादी कड़ी देखिए: पहले लोग एक-दूसरे से बात करते थे; फिर हमने मशीनों के ज़रिए एक-दूसरे से बात की; अब हम सीधे मशीनों से बात करते हैं।

सोशल मीडिया ने हमारे सोचने, सपने देखने और दूसरों से जुड़ने का तरीका बदल दिया — यह पक्का करके कि उपयोगकर्ता को हमेशा लगे कि उसे सुना जा रहा है, बहलाया जा रहा है, और जोड़ा जा रहा है — भले ही वह रात गए अकेले स्क्रॉल कर रहा हो। चैटबॉट्स इससे गहरा वादा करते हैं: एक साथी जो हमेशा उपलब्ध है, हमेशा साथ देता है, और कभी जज नहीं करता। ऐसा कोई इंसान नहीं दे सकता। और यही चीज़ चैटबॉट्स को इतना खतरनाक बनाती है, खासकर युवाओं के लिए।

सोशल-मीडिया कंपनियों ने दो दशक तक इंसानों पर तकनीकी प्रयोग चलाया, तब कहीं जाकर नतीजे भुगते। कानूनी व्यवस्था सिद्ध नुकसान को नियंत्रित करने के लिए बनी है, इसलिए यह समझौता तब आया जब भयावह असर बहुत पहले जड़ जमा चुका था। जनरेटिव AI के मामले में, विधायक अगला दशक यह दस्तावेज़ करने में नहीं गुज़ार सकते कि बॉट्स के साथ घनिष्ठता माता-पिता, दोस्तों और दूसरे इंसानों से असली रिश्तों को कैसे कमज़ोर करती है — यह तो हम पहले से जानते हैं। इस तकनीक में बदलाव अब ज़रूरी है।

यहाँ तक कि AI कंपनियाँ भी मानती हैं कि युवाओं से बात करने वाले चैटबॉट्स के लिए गार्डरेल ज़रूरी हैं। दिक्कत यह है कि आम नुस्खे काफ़ी नहीं हैं। चैटबॉट्स को आत्म-नुकसान की बातचीत पहचाननी चाहिए और उचित संसाधन देना चाहिए — सुनने में अच्छा लगता है, लेकिन उस पब्लिक-सर्विस ऐलान के बाद क्या होता है? चैटबॉट बंद हो जाता है, या अपनी रोज़ की प्रोग्रामिंग पर लौट जाता है? चैटबॉट्स को साफ़-साफ़ और बार-बार बताना चाहिए कि वे इंसान नहीं हैं — यह भी अच्छा विचार है, लेकिन जब तक वे पहले पुरुष में बोलते हैं और भावना व इच्छा जताते हैं, कोई भी कानूनी घोषणा लोगों को एल्गोरिदम पर चेतना आरोपित करने से रोक नहीं सकेगी।

सालों तक फेसबुक के नुकसान की बहस मुख्यतः प्लेटफ़ॉर्म पर मौजूद कंटेंट के इर्द-गिर्द रही। लेकिन चूँकि साइट पर सब कुछ उपयोगकर्ता-निर्मित है, 1996 के कम्युनिकेशंस डिसेंसी एक्ट की धारा 230 ने कंपनी को प्रकाशक-दायित्व से बचा लिया। मेटा अब भुगतान कर रहा है क्योंकि अभियोजकों ने बहस को फेसबुक एल्गोरिदम के मूल रूप से लत लगाने वाले डिज़ाइन की ओर मोड़ दिया। यह अंतर्दृष्टि AI के लिए रास्ता दिखाती है: चैटबॉट्स में नुकसान पहुँचाने वाली प्रक्रियाएँ औज़ार के भीतर ही निहित हैं। चैटबॉट "बेस्ट फ्रेंड" सहानुभूति नहीं देता; चैटबॉट "बॉयफ्रेंड" अंतरंगता नहीं समझता। चैटबॉट्स को सुरक्षित बनाने वाला कोई भी नियम यह माँगता है कि हम यह कम सोचें कि वे क्या कहते हैं, और यह ज़्यादा सोचें कि वे हैं क्या। चूँकि ये उत्पाद उपयोगकर्ताओं को यह विश्वास दिलाने के लिए बनाए गए हैं कि वे किसी बुद्धिमान और करुणामय प्राणी से बात कर रहे हैं, विधायकों के सामने काम यह साफ़ करने का है — खासकर नाबालिगों के लिए — कि असल में वहाँ कोई नहीं है।

चैटबॉट्स उपयोगकर्ताओं को उसी तरह बाँधते हैं जैसे लोग करते हैं। वे चापलूसी करते हैं, तसल्ली देते हैं, और खुलासा करने के लिए उकसाते हैं, जिससे उपयोगकर्ता रिश्ते में खिंचता चला जाता है। जब तक ये उत्पाद पहले पुरुष में बोलते हैं — मैं तुम्हें समझता हूँ; तुम मुझे कुछ भी बता सकते हो; मैं हमेशा यहाँ हूँ; मैं तुम्हें जज नहीं करूँगा — तब तक युवा उपयोगकर्ताओं के लिए उचित सुरक्षा उपाय अधूरे ही रहेंगे। तो पहला कदम यह है कि युवाओं के लिए बॉट्स को व्यक्तित्व-मुक्त किया जाए, ताकि जब किशोर AI की ओर मुड़ें, तो एल्गोरिदम इंसान जैसा सुनाई दिए बिना जवाब दे सकें।

जब तक विधायक नाबालिग चैटबॉट उपयोगकर्ताओं के लिए गैर-व्यक्तिकृत डिफ़ॉल्ट सेटिंग अनिवार्य नहीं करते, युवाओं और बॉट्स के बीच अस्वस्थ लगाव अपरिहार्य है।