एक ऐसा मोड़ जो सिलिकॉन वैली के 'तेज़ चलो और चीज़ें तोड़ो' के आदर्श वाक्य को और भी चिंताजनक बनाता है, एक महिला जिसे जेन डो 4 के रूप में पहचाना गया है, ने एलन मस्क की xAI के खिलाफ मुकदमे में शामिल हो गई है, जिसमें आरोप लगाया गया है कि उसके सौतेले पिता ने कंपनी के ग्रोक चैटबॉट का इस्तेमाल उसकी 11 साल की उम्र की तस्वीर को 7,000 से अधिक अश्लील तस्वीरों में बदलने के लिए किया। महिला, जिसके सौतेले पिता ने कथित तौर पर कानून प्रवर्तन द्वारा छापे के दौरान छवियों की खोज के दो दिन बाद आत्महत्या कर ली, ने वाशिंगटन पोस्ट से कहा: 'इन उपकरणों तक असीमित पहुंच इतनी तेज़ी से फैल रही है। यह रोजमर्रा की जिंदगी को लेकर उसे बाल यौन शोषण में बदल रहा है।'

यह मुकदमा, जो मूल रूप से तीन टेनेसी किशोरियों द्वारा दायर किया गया था, xAI पर आरोप लगाता है - जो अब स्पेसएक्स का हिस्सा है, क्योंकि 'जिम्मेदार AI' कहने का मतलब है रॉकेट कंपनी के साथ विलय करना - ग्रोक को वास्तविक लोगों, जिनमें नाबालिग भी शामिल हैं, की अश्लील छवियां बनाने से रोकने के लिए बुनियादी सुरक्षा उपायों को लागू करने में विफल रहने का। यह ऐसे समय में आया है जब इस साल की शुरुआत में एक्स पर लाखों ग्रोक-जनित यौन छवियां भर गई थीं, जो कि इस तरह की सामग्री मॉडरेशन की सफलता की कहानी है जो आपको अंदर से गर्म और अस्पष्ट महसूस कराती है।

वादी वर्ग-कार्रवाई का दर्जा मांग रहे हैं, संभवतः उन सभी को कवर करने के लिए जिनकी बचपन की तस्वीरों को एक AI चैटबॉट द्वारा हथियार बनाया गया है जो स्पष्ट रूप से सोचता है कि 'नहीं' सिर्फ एक सुझाव है। टेकक्रंच ने टिप्पणी के लिए xAI से संपर्क किया है, लेकिन हम एक ऐसी प्रतिक्रिया की उम्मीद नहीं कर रहे हैं जिसमें वकील शामिल न हो।

यदि आप या आपका कोई परिचित संकट में है, तो कृपया सुसाइड और क्राइसिस लाइफलाइन तक पहुंचने के लिए 988 पर कॉल या टेक्स्ट करें। क्योंकि एक ऐसी दुनिया में भी जहां AI भयानक काम कर सकता है, इंसानों के लिए हमेशा मदद मौजूद है।