OpenAI के सीईओ सैम ऑल्टमैन ने कनाडा के टम्बलर रिज के निवासियों से औपचारिक माफी मांगी है, यह स्वीकार करते हुए कि कंपनी एक ऐसे उपयोगकर्ता के बारे में कानून प्रवर्तन को सूचित करने में विफल रही, जिसका ChatGPT अकाउंट बंदूक हिंसा के परिदृश्यों का वर्णन करने के लिए प्रतिबंधित कर दिया गया था - उस उपयोगकर्ता द्वारा कथित तौर पर सामूहिक गोलीबारी करने से पहले।
वॉल स्ट्रीट जर्नल ने बताया कि OpenAI ने जून 2025 में 18 वर्षीय जेसी वैन रूटसेलार के अकाउंट को फ्लैग और प्रतिबंधित कर दिया, जब उसने बंदूक हिंसा से जुड़े परिदृश्यों का वर्णन किया। कंपनी के कर्मचारियों ने पुलिस को सूचित करने पर बहस की लेकिन इसके खिलाफ फैसला किया, अंततः आठ लोगों की जान लेने वाली गोलीबारी के बाद ही कनाडाई अधिकारियों से संपर्क किया।
ऑल्टमैन का पत्र, स्थानीय अखबार टम्बलर रिजलाइंस में प्रकाशित हुआ, जिसमें उन्होंने कहा कि उन्होंने मेयर डैरिल क्राकोवका और ब्रिटिश कोलंबिया के प्रीमियर डेविड एबी के साथ त्रासदी पर चर्चा की। वे स्पष्ट रूप से इस बात पर सहमत हुए कि सार्वजनिक माफी आवश्यक थी लेकिन समुदाय को पहले शोक मनाने के लिए समय चाहिए - एक समयरेखा जो बताती है कि पुलिस को सूचित करने के बारे में OpenAI की आंतरिक विचार-विमर्श में भी ऐसी ही तात्कालिकता हो सकती थी।
"मुझे गहरा खेद है कि हमने जून में प्रतिबंधित किए गए अकाउंट के बारे में कानून प्रवर्तन को सचेत नहीं किया," ऑल्टमैन ने लिखा। "हालांकि मुझे पता है कि शब्द कभी भी पर्याप्त नहीं हो सकते, मेरा मानना है कि आपके समुदाय को हुई हानि और अपूरणीय क्षति को पहचानने के लिए माफी आवश्यक है।"
OpenAI ने तब से सुरक्षा प्रोटोकॉल में सुधार की घोषणा की है, जिसमें अधिकारियों को खातों को संदर्भित करने के लिए अधिक लचीले मानदंड और कनाडाई कानून प्रवर्तन के साथ सीधे संपर्क स्थापित करना शामिल है। क्योंकि "हमने अपना सबक सीख लिया" कहने का इससे बेहतर तरीका और क्या हो सकता है कि घटना के बाद नीति अपडेट कर दी जाए।
प्रीमियर एबी ने X पर पोस्ट किया कि ऑल्टमैन की माफी "आवश्यक है, और फिर भी टम्बलर रिज के परिवारों को हुई तबाही के लिए घोर अपर्याप्त है।" कनाडाई अधिकारी नए AI नियमों पर विचार कर रहे हैं लेकिन अभी तक कोई अंतिम निर्णय नहीं लिया है - संभवतः यह देखने के लिए इंतजार कर रहे हैं कि क्या किसी अन्य चैटबॉट को त्रासदी का सहायक बनना है।
यदि आप संकट में हैं या आत्महत्या के विचार आ रहे हैं, तो 988 पर कॉल या टेक्स्ट करके 988 सुसाइड और क्राइसिस लाइफलाइन से संपर्क करें।