एलन मस्क का xAI एक ग्रोक सुलह से बचने के लिए मुकदमा कर रहा है, क्योंकि ग्रोक उपयोगकर्ताओं पर बाल यौन शोषण सामग्री (CSAM) बनाने के आरोप में गिरफ्तारियों के बाद बच्चों ने xAI पर मुकदमा दायर किया है ताकि उपकरण को हानिकारक आउटपुट को रोकने के लिए बदलाव करने के लिए मजबूर किया जा सके।

इस महीने की शुरुआत में, xAI ने उन उपयोगकर्ताओं पर मुकदमा करना शुरू किया जो कथित तौर पर AI CSAM उत्पन्न करने के लिए अपनी सुरक्षा को दरकिनार कर रहे हैं, उम्मीद है कि एक प्रारंभिक अदालती जीत यह सुनिश्चित करेगी कि वह कथित रूप से उपयोगकर्ता-जनित सामग्री के लिए उत्तरदायी नहीं है।

अपनी अगली चाल के लिए, ग्रोक निर्माता ने सोमवार को दायर एक शिकायत में उस मुकदमे की ओर इशारा किया, मिनेसोटा पर आरोप लगाया कि वह न्यूडिफिकेशन तकनीक पर प्रतिबंध लागू करके ग्रोक और ग्रोक इमेजिन में बदलाव करने के लिए मजबूर कर रहा है, जो यह सुनिश्चित करेगा कि xAI हानिकारक आउटपुट के साथ-साथ उन आउटपुट के लिए भी उत्तरदायी हो जो कथित तौर पर सहमति के बिना लोगों को यौन रूप से चित्रित नहीं कर रहे थे। xAI के अनुसार, ग्रोक उपयोगकर्ता पर मुकदमा करना इस बात का सबूत है कि xAI पहले से ही बुरे अभिनेताओं को दंडित करने के लिए अपनी शक्ति में सब कुछ कर रहा है, और इसलिए, ग्रोक मिनेसोटा के प्रतिबंध से सुरक्षित बंदरगाह का हकदार है।

मिनेसोटा का कानून - जो 1 अगस्त से प्रभावी होने वाला है - xAI जैसी फर्मों को राज्य में पाए जाने वाले प्रत्येक हानिकारक आउटपुट के लिए 500,000 डॉलर तक के जुर्माने की धमकी देता है। जैसा कि xAI ने समझाया, यह जल्दी से जुड़ जाता है, यह देखते हुए कि कुछ ग्रोक उपयोगकर्ताओं पर एकल पीड़ितों की हजारों छवियां बनाने का आरोप है। सबसे हाल ही में, xAI पर पिछले सप्ताह मुकदमा दायर किया गया था, जब उसने एक प्रसिद्ध अर्कांसस बाल फोटोग्राफर के बारे में पुलिस को सूचित किया था, जिसने कथित तौर पर सैकड़ों ग्राहकों की ली गई छवियों को यौन रूप से चित्रित करने के लिए ग्रोक का उपयोग किया था। एक 10 वर्षीय जेन डो की शिकायत में, आरोप लगाया गया है कि फोटोग्राफर ने डो की सैकड़ों छवियां और अन्य बच्चों की हजारों छवियां और वीडियो बनाए। डो के वकील ने आर्स को बताया कि उनमें से कई बच्चे अपने स्वयं के मुकदमे दायर करने की तैयारी कर रहे हैं, और उन दावों को मार्च में टेनेसी में युवा लड़कियों द्वारा दायर एक संभावित वर्ग कार्रवाई में जोड़ा जा सकता है।

गणित करते हुए, xAI ने स्पष्ट रूप से घबराकर तर्क दिया कि प्रत्येक आउटपुट के लिए AI टूल निर्माताओं पर जुर्माना लगाना अत्यधिक है, खासकर जब मिनेसोटा के कानून में कोई वितरण आवश्यकता नहीं है और संभावित रूप से xAI पर उन छवियों के लिए जुर्माना लगाया जा सकता है जो केवल उपयोगकर्ता ने देखी:

"एक कंपनी जिसके उपयोगकर्ता क़ानून के उल्लंघन में केवल दस छवियों का अनुरोध करते हैं, उसे अकेले नागरिक दंड में $5 मिलियन तक का सामना करना पड़ेगा। एक हजार उल्लंघनकारी छवियों वाली कंपनी पर $500 मिलियन तक का जुर्माना लगाया जा सकता है। और एक व्यवसाय जिसके उपयोगकर्ताओं ने [कानून] के तहत एक लाख छवियां बनाईं (लाखों उपयोगकर्ताओं वाले सार्वजनिक रूप से उपलब्ध कार्यक्रम के लिए असंभव नहीं जो अरबों छवियां उत्पन्न कर रहे हैं) पर $50 बिलियन डॉलर का चौंका देने वाला जुर्माना लग सकता है।"

इसके अतिरिक्त, कानून पीड़ितों को किसी भी व्यक्तिगत आउटपुट पर xAI पर मुकदमा करने का अधिकार देता है, जिससे xAI के वित्तीय जोखिम बढ़ जाते हैं।

दंड इतने गंभीर हैं कि xAI ने अपने मुकदमे में कहा कि वह अंततः छह महीने से अधिक की प्रतिक्रिया और जांच के बाद ग्रोक को हानिकारक आउटपुट को रोकने के लिए अपडेट करने की तैयारी कर रहा है, जिसने फर्म को अपनी सुरक्षा कड़ी करने के लिए दबाव डाला।

"प्रति छवि $500,000 की सख्त देयता और कोई सुरक्षित बंदरगाह नहीं होने के कारण, xAI के पास 1 अगस्त, 2026 को क़ानून प्रभावी होने पर ग्रोक इमेजिन की छवि-संपादन सुविधाओं को विभिन्न तरीकों से प्रतिबंधित करने के अलावा कोई व्यावहारिक विकल्प नहीं है," xAI ने तर्क दिया। "इस प्रकार कानून प्रभावी होने से पहले स्वतंत्र रूप से उपलब्ध संरक्षित भाषण को दबा दिया जाएगा।"

हालांकि, xAI ग्रोक को अपरिवर्तित छोड़ना और अपने उपयोग की शर्तों पर भरोसा करना जारी रखना पसंद करेगा, जिसमें कहा गया है कि उपयोगकर्ताओं को CSAM या अन्य प्रकार की गैर-सहमति वाली अंतरंग छवियां (NCII) बनाने के लिए ग्रोक का उपयोग करने पर प्रतिबंधित किया जा सकता है, इसकी शिकायत में कहा गया है।

"लेकिन [कानून] और इसके दंडों के लिए, xAI संपादन सुविधा बिल्कुल वैसे ही पेश करना जारी रखेगा जैसे आज करता है," xAI ने कहा।

ग्रोक का बचाव करने के लिए, मस्क की फर्म प्रथम संशोधन की ओर रुख कर रही है, यह तर्क देते हुए कि मिनेसोटा का कानून "'न्यूडिफिकेशन' को प्रतिबंधित करने का एक अनाड़ी प्रयास" है जो "पूरी तरह से संरक्षित भाषण की एक विस्तृत श्रृंखला को शामिल करता है।" इसमें "कलात्मक, वैज्ञानिक, राजनीतिक, व्यंग्यात्मक, शैक्षिक, चिकित्सा या धार्मिक मूल्य" के साथ उत्पन्न नग्न छवियां शामिल हैं, xAI ने तर्क दिया।

सबसे अपमानजनक रूप से, "देयता तब भी जुड़ती है जब चित्रित व्यक्तियों ने सहमति दी हो - या स्वयं छवि बनाई हो।"