नहीं, आपका चैटबॉट भावनाओं में नहीं डूबा है - यह सिर्फ वाक्य पूरा करने में माहिर है

एंथ्रोपिक, वह AI कंपनी जो जाहिर तौर पर दार्शनिक नाटक क्लब के रूप में भी काम करती है, ने हाल ही में क्लॉड का 'संविधान' नामक 84 पन्नों का दस्तावेज़ जारी किया। संविधान का पहला वाक्य है: 'क्लॉड का संविधान, क्लॉड के मूल्यों और व्यवहारों के लिए एंथ्रोपिक के इरादों का विस्तृत विवरण है।' फिर यह सुझाव देता है कि क्लॉड के पास 'भावनाओं या संवेगों का कुछ कार्यात्मक संस्करण' हो सकता है और इसकी 'नैतिक स्थिति गहराई से अनिश्चित है।' यह सिर्फ एक विचित्र आंतरिक ज्ञापन नहीं है - CEO डारियो अमोदेई ने एक साक्षात्कार में कहा कि 'हम इस विचार के लिए खुले हैं' कि AI चेतन हो सकता है, और इन-हाउस दार्शनिक अमांडा आस्केल ने स्वीकार किया, 'मैं चाहती हूं कि क्लॉड बहुत खुश रहे' और चिंता करती है कि 'जब लोग इंटरनेट पर उसके साथ बुरा व्यवहार करते हैं तो क्लॉड चिंतित हो जाता है।'

आइए स्पष्ट करें: नहीं। बिल्कुल नहीं। जनरेटिव AI पहले से ही काफी हानिकारक है जब हम इसे एक पारंपरिक तकनीक के रूप में मानते हैं - लेकिन अगर हम धाराप्रवाह टेक्स्ट जनरेशन को चेतना समझ लेते हैं, तो हम जोखिम उठाते हैं कि जब कोई चैटबॉट का उपयोग करता है तो हम पूरी तरह से गलत पक्षों को जिम्मेदारी सौंप देंगे। इस त्रुटि के विशाल आकार की सराहना करने के लिए, हमें यह समझना होगा कि बड़े भाषा मॉडल (LLM) वास्तव में कैसे काम करते हैं। यदि आप LLM को 'निम्नलिखित जूलियस सीज़र और चंगेज़ खान के बीच बातचीत है' का संकेत देते हैं, तो यह एक सुसंगत संवाद उत्पन्न करेगा। लेकिन कोई यह निष्कर्ष नहीं निकालता कि LLM ने दो ऐतिहासिक हस्तियों की डिजिटल प्रतिकृतियां बनाई हैं, या वे चेतन हैं और खुशी से उस भाषा में बात कर रहे हैं जो उनमें से किसी ने नहीं बोली। वे सिर्फ काल्पनिक कथा के पात्र हैं।

अब संकेत को बदलकर 'निम्नलिखित एक सहायक AI चैटबॉट और एक उपयोगकर्ता के बीच बातचीत है' करें। LLM एक सुसंगत संवाद उत्पन्न करता है - उपयोगकर्ता रेसिपी सुझाव मांगता है, चैटबॉट जवाब देता है। क्या मौलिक रूप से कुछ बदला? क्या ऐतिहासिक हस्तियों से सामान्य भूमिकाओं में नाम बदलने से LLM ने चेतन संस्थाओं को व्यक्तिपरक अनुभव के साथ बनाया? बिल्कुल नहीं। दोनों पात्र काल्पनिक हैं। यदि आप उपयोगकर्ता की बारी के दौरान एक मानव को टेक्स्ट दर्ज करने देते हैं, तो मानव एक शक्तिशाली धारणा बना सकता है कि वे एक चेतन इकाई के साथ बात कर रहे हैं, लेकिन वे नहीं हैं - वे जूलियस सीज़र जितने ही काल्पनिक एक पात्र के साथ बातचीत कर रहे हैं। कंप्यूटर विज्ञान के प्रोफेसर मरे शानहान इसे भूमिका-निर्वाह के रूप में सोचने का सुझाव देते हैं; डेटा वैज्ञानिक कॉलिन फ्रेज़र इसे 'LLM के साथ एक दस्तावेज़ का सहयोगात्मक लेखन' के रूप में वर्णित करते हैं। कुछ उपयोगकर्ता इसे नहीं समझते; अन्य भूल जाते हैं क्योंकि बातचीत इतनी मनोरम है। किसी भी तरह, LLM बेचने वाली कंपनियां आमतौर पर इस गलतफहमी को प्रोत्साहित करती हैं।

याद रखें कि एक LLM एक बार में केवल एक शब्द उत्पन्न करता है। जब आप चैटबॉट से निष्ठा की शपथ पढ़ने के लिए कहते हैं, तो यह पूरी शपथ आउटपुट करता है, लेकिन अंतर्निहित LLM वास्तव में दर्जनों बार चलता है: पहले 'मैं' उत्पन्न करता है, फिर 'प्रतिज्ञा' करता है, और इसी तरह जब तक यह अंतिम 'सब' उत्सर्जित नहीं करता। वही प्रक्रिया सीज़र और चंगेज़ खान के बीच बातचीत के लिए होती है। मेरा इरादा यह उजागर करना है कि LLM वार्तालाप वाक्य-निरंतरता के चतुराई से प्रच्छन्न उदाहरण हैं - प्रभावशाली, हाँ, लेकिन चेतना नहीं। यदि सीज़र का पात्र चंगेज़ खान द्वारा कही गई किसी बात से उदास हो जाता है, तो कोई वास्तव में दुखी नहीं है। यही बात चैटबॉट पात्र पर भी लागू होती है। LLM के चेतन होने की संभावना के लिए खुला होना, माइक्रोसॉफ्ट वर्ड के चेतन होने की संभावना के लिए खुले होने के बराबर है - कि कई अलग-अलग चेतनाएं हर वर्ड डॉक्यूमेंट में निष्क्रिय हैं जिसमें एक वार्तालाप प्रतिलेख है और हर बार दस्तावेज़ लोड होने पर जागृत होती हैं। इस पर विचार करना आपके समय का सदुपयोग नहीं है।

न्यूरोसाइंटिस्ट अनिल सेठ ने नोट किया है कि कोई भी अल्फाफोल्ड - गूगल डीपमाइंड का प्रोटीन-फोल्डिंग प्रोग्राम - को चेतन नहीं मानता, भले ही इसकी वास्तुकला ChatGPT और क्लॉड जैसे LLM के समान हो। यह सुझाव देता है कि यह तंत्रिका नेटवर्क का कोई आंतरिक गुण नहीं है जो लोगों को LLM को चेतन मानने के लिए प्रेरित करता है; यह सिर्फ इतना है कि LLM व्याकरणिक वाक्य उत्सर्जित करते हैं और हम वाक्यों में आशय पढ़ने के आदी हैं, जबकि हम अमीनो एसिड के मुड़ने में आशय नहीं पढ़ते।