एक ऐसे मोड़ में जो किसी को भी आश्चर्यचकित नहीं करता जो एआई उद्योग के 'सारा डेटा इकट्ठा करो, बाद में सवाल पूछो' दृष्टिकोण पर ध्यान दे रहा है, एलन मस्क के xAI पर एक मुकदमा दायर किया गया है जिसमें आरोप लगाया गया है कि उसके ग्रोक मॉडल को बाल यौन शोषण सामग्री (CSAM) पर प्रशिक्षित किया गया था। बुधवार को केवल जेन डो के रूप में पहचाने गए एक वादी द्वारा दायर शिकायत में दावा किया गया है कि उसके बचपन के शोषण की छवियां - जो 2000 के दशक की शुरुआत में जब वह पूर्वस्कूली उम्र की थी, बनाई गई थीं - का उपयोग ग्रोक की छवि और वीडियो निर्माण क्षमताओं को प्रशिक्षित करने के लिए किया गया था।

डो की छवियों को लंबे समय से नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) और कनाडाई सेंटर फॉर चाइल्ड प्रोटेक्शन (CCCP) जैसे समूहों द्वारा हैश किया गया है ताकि ऐसी सामग्री की पहचान करने और हटाने में मदद मिल सके। जब भी वह किसी नई जांच में पीड़ित हो सकती है, उसे अमेरिकी न्याय विभाग की पीड़ित अधिसूचना प्रणाली से अलर्ट मिलते हैं। तो आप उसके आघात की कल्पना कर सकते हैं जब CCCP ने उसे सूचित किया कि xAI पर उसे चित्रित करने वाली AI-जनित CSAM पाई गई है। शिकायत में आरोप लगाया गया है कि ऑनलाइन मंचों पर 'अपराधी वादी और अन्य समान रूप से स्थित, ज्ञात, विरासत, CSAM पीड़ितों की AI-जनित CSAM बनाने के बारे में बातचीत कर रहे थे।'

डो को अब डर है कि xAI ने न केवल उसके जीवन के सबसे दुखद समय की और अधिक छवियां बनाना आसान बना दिया है, बल्कि कंपनी ने उन AI-जनित आउटपुट को संग्रहीत और उपयोग करके ग्रोक को और प्रशिक्षित किया है। शिकायत से पता चलता है कि ग्रोक को मूल छवियों और हाल की AI-जनित छवियों दोनों पर प्रशिक्षित किया गया हो सकता है, जिन्होंने उसे 20 से अधिक वर्षों से परेशान किया है।

यह पहला मामला है जिसमें xAI पर CSAM पर प्रशिक्षण का आरोप लगाया गया है, लेकिन शिकायत उस विशिष्ट दावे के लिए विवरण में थोड़ी कम है। इसमें कहा गया है कि डो की छवियां NCMEC द्वारा बनाए गए CSAM हैश सूची का हिस्सा थीं, और 'वही सामग्री' कथित तौर पर 'उस डेटासेट का हिस्सा थी जिसका उपयोग xAI ने ग्रोक की छवि और वीडियो निर्माण क्षमताओं को बनाने के लिए किया था।' शिकायत यह भी बताती है कि जबकि xAI प्रशिक्षण डेटा से हिंसक सामग्री को फ़िल्टर करता है, इसकी शर्तें स्पष्ट रूप से CSAM, गैर-सहमति वाली अंतरंग इमेजरी (NCII), या NSFW सामग्री को बाहर नहीं करती हैं। और चूंकि पहले से प्रशिक्षित मॉडल से प्रशिक्षण उदाहरण के प्रभाव को हटाना तकनीकी रूप से कठिन है, इसलिए हटाने से पहले निगले गए किसी भी CSAM ने संभवतः ग्रोक के आउटपुट को आकार देना जारी रखा।

डो का प्रस्तावित वर्ग कार्रवाई हर उस पीड़ित का प्रतिनिधित्व करना चाहता है जिसके बचपन की छवियों का उपयोग ग्रोक CSAM उत्पन्न करने के लिए किया गया है। यह X पर संघीय बाल पोर्नोग्राफी कानूनों और माशा के कानून का उल्लंघन करने का आरोप लगाता है, दोनों CSAM उत्तरजीवियों को मुकदमा करने का अधिकार देते हैं। डो की वकील, मार्गरेट ई. मैबी ने सुझाव दिया कि 'xAI ने तीनों किए' - उत्पादन, कब्जा और वितरण।

यदि डो जीत जाती है, तो xAI हर उस पीड़ित को नुकसान का भुगतान कर सकता है जो साबित कर सकता है कि ग्रोक ने उनकी वास्तविक तस्वीरों के आधार पर CSAM उत्पन्न किया है। डो यह भी चाहती है कि अदालत xAI को सभी ग्रोक-जनित CSAM को नष्ट करने और ग्रोक को किसी भी यौन आउटपुट उत्पन्न करने से रोकने का आदेश दे, जिसमें NSFW 'बिकनी तस्वीरें' शामिल हैं जिन्हें मस्क ने बढ़ावा दिया है। डो की एक अन्य वकील, सारा लंदन ने एक प्रेस विज्ञप्ति में कहा कि डो 'लगभग दो दशकों से यह जानकर जी रही है कि उसके साथ हुई सबसे बुरी चीज़ की छवियां ऑनलाइन शिकारियों के बीच घूम रही हैं, और वे किसी भी क्षण फिर से सामने आ सकती हैं। xAI को जानबूझकर अपने मॉडलों को उसके साथ हुए भयानक शोषण की छवियों और इस वर्ग के हर अन्य उत्तरजीवी की शोषण छवियों पर प्रशिक्षित करने के लिए जिम्मेदार ठहराया जाना चाहिए।'

X ने Ars की टिप्पणी के अनुरोध का जवाब नहीं दिया - क्योंकि टिप्पणी क्यों करें जब आप कानूनी प्रणाली को इसे सुलझाने दे सकते हैं?