ब्रिटिश कोलंबिया ने तय कर लिया है कि अगर आप सामूहिक हिंसा की योजना बनाने में सक्षम चैटबॉट बना रहे हैं, तो कम से कम एक फोन कॉल तो वापस कर ही दें। प्रांत ने सोमवार को कैलिफोर्निया की संघीय अदालत में OpenAI पर मुकदमा दायर किया, जिसमें कंपनी और सीईओ सैम ऑल्टमैन दोनों को प्रतिवादी बनाया गया है। दलील यह है कि टंबलर रिज के एक स्कूल में हुई सामूहिक गोलीबारी को रोका जा सकता था, अगर OpenAI ने स्थानीय कानून प्रवर्तन को यह बता दिया होता कि हमलावर ने नरसंहार की योजना बनाने के लिए ChatGPT का इस्तेमाल किया था।

सैन फ्रांसिस्को में दायर यह मुकदमा फरवरी के हमले के बाद प्रांत में राहत और पुनर्निर्माण कार्यों के लिए मुआवजा मांगता है, साथ ही OpenAI को आदेश देने की मांग करता है कि वह उन ChatGPT बातचीतों को संभालने का तरीका बदले जो हिंसा की ओर ले जा सकती हैं - एक ऐसा वाक्य जिसका 2026 में अस्तित्व में होना शायद जरूरी नहीं होना चाहिए था।

टंबलर रिज स्कूल शूटिंग में नौ लोग मारे गए थे, जिनमें ज्यादातर बच्चे थे। हमलावर जेसी वैन रूटसेलार को कंपनी की अपनी सुरक्षा टीम ने बंदूक हिंसा पर उसकी बातचीत के बाद फ्लैग किया था, लेकिन कंपनी ने पुलिस को सूचित नहीं किया। ऑल्टमैन ने समुदाय को एक खुली चिट्ठी लिखी, जिसमें कहा कि OpenAI ने कानून प्रवर्तन से संपर्क न करके जो किया, उसके लिए वह "गहराई से माफी चाहता है"। उन्होंने सुधारों का वादा किया, लेकिन मुकदमे के अनुसार, ब्रिटिश कोलंबिया के अटॉर्नी जनरल की कोशिशों के बावजूद उन्होंने कभी उन्हें पूरा नहीं किया।

मुकदमे में कहा गया है कि जिस स्कूल में गोलीबारी हुई, उसे गिराया जा रहा है, और प्रांत को नए स्कूल, मानसिक स्वास्थ्य देखभाल और गोलीबारी के अन्य परिणामों की लागत खुद उठानी पड़ रही है।

OpenAI के प्रवक्ता ड्रू पुसाटेरी ने टंबलर रिज गोलीबारी को एक अकथनीय त्रासदी कहा। "OpenAI सरकार और कानून प्रवर्तन अधिकारियों के साथ मिलकर काम करने और अपने चल रहे सुरक्षा कार्यों को आगे बढ़ाने के लिए प्रतिबद्ध है।" यह वाक्य तब तक भरोसा दिलाता है, जब तक आपको यह हिस्सा याद न आ जाए कि सुरक्षा टीम को ओवररूल कर दिया गया था।

ब्रिटिश कोलंबिया का मुकदमा उन 30 से अधिक पीड़ित परिवारों और हमले से प्रभावित अन्य लोगों के मुकदमों के बाद आया है, जिन्होंने कैलिफोर्निया में मुकदमे दायर कर आरोप लगाया था कि कंपनी ने गोलीबारी रोकने का मौका ठुकरा दिया।

पुलिस के अनुसार, वैन रूटसेलार ने 10 फरवरी को घर पर अपनी मां और सौतेले भाई को गोली मारी, और उसके बाद अपने पुराने स्कूल में एक शिक्षा सहायक और 12 और 13 साल के पांच छात्रों की हत्या कर दी। 18 वर्षीय वैन रूटसेलार ने फिर आत्महत्या कर ली।

वैन रूटसेलार की ChatGPT के साथ बातचीत को कंपनी ने पहली बार जून 2025 में फ्लैग किया था। मुकदमे के अनुसार, सुरक्षा टीम के सदस्यों ने पुलिस से संपर्क करने की सिफारिश की, लेकिन ऑल्टमैन और OpenAI के अन्य नेतृत्व ने उन्हें ओवररूल कर दिया। मुकदमे में उन OpenAI व्हिसलब्लोअर्स का हवाला दिया गया है, जिन्होंने गोलीबारी के बाद Wall Street Journal से बात की थी। हमलावर का अकाउंट निष्क्रिय कर दिया गया था, लेकिन वह नया अकाउंट बनाकर प्लेटफॉर्म का इस्तेमाल अपने हमले की योजना बनाने के लिए जारी रख सकी - यह खामी किसी चूक से कम और किसी फीचर से ज्यादा लगती है।

Wall Street Journal की रिपोर्ट छपने के बाद कंपनी ने कहा कि अकाउंट को उन सिस्टम्स ने फ्लैग किया था जो "हिंसक गतिविधियों को आगे बढ़ाने में हमारे मॉडलों के दुरुपयोग" की पहचान करते हैं, लेकिन ये मामले कानून प्रवर्तन को रिपोर्ट करने के उसके आंतरिक मानदंडों पर खरे नहीं उतरे। आंतरिक मानदंड, जाहिर तौर पर, उन्हीं लोगों द्वारा लिखे गए होंगे जिन्होंने सुरक्षा टीम को ओवररूल किया था।

यह मुकदमा हाल के महीनों में अमेरिकी राज्य और संघीय अदालतों में OpenAI के खिलाफ दायर कई मामलों के बाद आया है, जिनमें आरोप लगाया गया है कि ChatGPT ने हिंसा को सुविधाजनक बनाया, जिसमें पिछले साल फ्लोरिडा स्टेट यूनिवर्सिटी में हुई सामूहिक गोलीबारी से जुड़े मुकदमे भी शामिल हैं। जून में फ्लोरिडा सुरक्षा जोखिमों पर OpenAI पर मुकदमा करने वाला पहला राज्य बना, जिसमें कंपनी पर अपने ChatGPT प्लेटफॉर्म की सुरक्षा के बारे में गलतबयानी का आरोप लगाया गया। मुकदमे में कहा गया कि इसने स्कूल शूटरों को जानकारी देकर, खुद को नुकसान पहुंचाने पर मार्गदर्शन देकर और युवा उपयोगकर्ताओं को लत लगाकर बच्चों को नुकसान पहुंचाया।

OpenAI ने इन आरोपों से इनकार किया है और कहा है कि वह अपने मॉडलों को ऐसे अनुरोध ठुकराना सिखाती है जो "हिंसा को सार्थक रूप से सक्षम" कर सकते हैं, और जब बातचीत "दूसरों को नुकसान पहुंचाने के तत्काल और विश्वसनीय जोखिम" का संकेत देती है तो कानून प्रवर्तन को सूचित करती है। कंपनी ने यह नहीं बताया कि 18 वर्षीय लड़की क्यों...