कनाडा में एक सामूहिक गोलीबारी में मारे गए या घायल हुए पीड़ितों के सात परिवारों ने कैलिफोर्निया की एक अदालत में OpenAI और उसके CEO सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया है, जिसमें उन पर आरोप लगाया गया है कि उन्होंने शूटर के ChatGPT के साथ परेशान करने वाली बातचीत को नजरअंदाज किया।

फरवरी में, जब 18 वर्षीय जेसी वैन रूटसेलार ने ब्रिटिश कोलंबिया के टम्बलर रिज में एक माध्यमिक विद्यालय में गोलीबारी की, तो आठ लोग मारे गए, जिनमें छह बच्चे शामिल थे। मीडिया रिपोर्टों से पता चला है कि वैन रूटसेलार की ChatGPT गतिविधि को OpenAI की सुरक्षा टीम ने हमले से महीनों पहले बंदूक हिंसा के संदर्भों के लिए फ्लैग किया था, लेकिन कंपनी ने स्थानीय पुलिस को सूचित नहीं किया।

पिछले हफ्ते, ऑल्टमैन ने पीड़ितों के परिवारों से माफी मांगी। "मुझे बहुत खेद है कि हमने कानून प्रवर्तन को सूचित नहीं किया," ऑल्टमैन ने स्थानीय समाचार आउटलेट टम्बलर रिजलाइंस द्वारा प्रकाशित एक खुले पत्र में लिखा। "हालांकि मैं जानता हूं कि शब्द कभी पर्याप्त नहीं हो सकते, मेरा मानना है कि आपके समुदाय को हुए नुकसान और अपूरणीय क्षति को पहचानने के लिए माफी आवश्यक है।"

मुकदमों के जवाब में एक बयान में, OpenAI के प्रवक्ता ने कहा कि कंपनी की "हिंसा करने में सहायता के लिए हमारे उपकरणों के उपयोग के प्रति शून्य-सहिष्णुता नीति" है और उसने "पहले ही अपनी सुरक्षा को मजबूत कर लिया है", जिसमें "संभावित हिंसा के खतरों" का बेहतर मूल्यांकन और एस्केलेशन शामिल है। कंपनी ने मंगलवार को एक ब्लॉग भी प्रकाशित किया जिसमें बताया गया कि OpenAI उन उपयोगकर्ताओं को कैसे जवाब देता है जो ChatGPT पर संभावित खतरनाक व्यवहार प्रदर्शित करते हैं।

नए कानूनी कार्रवाई बुधवार को अमेरिका और कनाडा की एक संयुक्त कानूनी टीम द्वारा कैलिफोर्निया की एक अदालत में दायर की गई। यह एक पिछले मुकदमे की जगह लेगी जो एक बचे हुए पीड़ित, 12 वर्षीय माया गेबाला के परिवार द्वारा कनाडाई अदालत में दायर किया गया था, जिसे स्वेच्छा से वापस लिया जा रहा है। गेबाला को सिर, गर्दन और गाल में तीन गोलियां लगने के बाद अस्पताल में भर्ती कराया गया है।

नए मुकदमों में परिवारों और समुदाय के सदस्यों का प्रतिनिधित्व करने वाले वकील जे एडेलसन ने कहा कि वह शूटिंग से संबंधित OpenAI के खिलाफ दो दर्जन से अधिक कानूनी कार्रवाई दायर करने की उम्मीद करते हैं। उन्होंने कहा कि वह प्रत्येक मामले में जूरी द्वारा मुकदमे का अनुरोध करेंगे। "हम जूरी के सामने मामला पेश करने में बहुत सहज महसूस करते हैं," उन्होंने बीबीसी को बताया। गेबाला के मामले के लिए, वकील $1 बिलियन (£740 मिलियन) से अधिक के हर्जाने की मांग करेंगे, एडेलसन ने कहा कि उन्हें उम्मीद है कि जूरी "ऐतिहासिक राशि प्रदान करेगी"।

मुकदमों में OpenAI और उसके वरिष्ठ नेतृत्व, जिसमें ऑल्टमैन भी शामिल हैं, पर लापरवाही और टम्बलर रिज सामूहिक गोलीबारी में सहायता और उकसाने का आरोप लगाया गया है, क्योंकि वे हमले से पहले संदिग्ध की ChatGPT गतिविधियों के बारे में कानून प्रवर्तन को सूचित करने में विफल रहे। गेबाला और उसके परिवार का नाम लेने वाले एक मुकदमे में आरोप लगाया गया है कि OpenAI को ChatGPT के साथ बातचीत के माध्यम से शूटर के हमले को अंजाम देने के इरादे की "वास्तविक जानकारी" थी, जहां शूटर ने "बंदूक हिंसा से जुड़े परिदृश्यों" का वर्णन किया।

एडेलसन ने कहा कि बातचीत को OpenAI में 12 सदस्यीय सुरक्षा टीम द्वारा फ्लैग किया गया था, जिसने सिफारिश की कि संदिग्ध को रॉयल कैनेडियन माउंटेड पुलिस (RCMP) को रिपोर्ट किया जाए। हालांकि, मुकदमे में आरोप लगाया गया है कि OpenAI के कार्यकारी नेतृत्व ने उस निर्णय को वीटो कर दिया। इसमें आगे आरोप लगाया गया है कि OpenAI के वरिष्ठ नेतृत्व ने $850 बिलियन (£630 बिलियन) कंपनी के मूल्यांकन और प्रतिष्ठा की रक्षा के लिए पुलिस को सूचित नहीं करने का निर्णय लिया। "उन्होंने गणित किया और फैसला किया कि टम्बलर रिज के बच्चों की सुरक्षा एक स्वीकार्य जोखिम था," मुकदमे में कहा गया है।

इसमें यह भी आरोप लगाया गया है कि OpenAI ने परेशान करने वाली गतिविधि के फ्लैग होने के बाद संदिग्ध को प्लेटफॉर्म से प्रतिबंधित किए जाने के बारे में झूठ बोला, यह तर्क देते हुए कि कंपनी उपयोगकर्ताओं के लिए नए खाते बनाना आसान बनाती है। मुकदमे में कहा गया है कि संदिग्ध ने उसी नाम से एक और खाता बनाया और "हमले की योजना बनाने के लिए ChatGPT का उपयोग जारी रखा"। बीबीसी को दिए एक बयान में, OpenAI ने इसका खंडन किया और कहा कि वह प्रतिबंधित उपयोगकर्ताओं से अपनी सेवाओं तक पहुंच रद्द कर देता है, जिसमें उनके खाते को अक्षम करना और उन्हें नए खाते खोलने से रोकने के लिए कदम उठाना शामिल हो सकता है।

संदिग्ध की 10 फरवरी के हमले में खुद को गोली मारने से मौत हो गई। एडेलसन ने बीबीसी को बताया कि उन्होंने OpenAI से संदिग्ध के चैट लॉग का अनुरोध किया था लेकिन उन्हें पहुंच से वंचित कर दिया गया, हालांकि उनका मानना है कि