Kanada'da bir toplu katliamda ölen veya yaralanan yedi kurbanın ailesi, OpenAI ve CEO'su Sam Altman'ı Kaliforniya mahkemesinde dava ederek, şirketin saldırganın ChatGPT ile rahatsız edici etkileşimlerini görmezden geldiğini iddia etti.
Şubat ayında, 18 yaşındaki Jessie Van Rootselaar, Britanya Kolumbiyası'ndaki Tumbler Ridge'de bir ortaokula ateş açtığında sekiz kişi, aralarında altı çocuk da dahil, öldü. Medya raporları, Van Rootselaar'ın ChatGPT aktivitesinin saldırıdan aylar önce OpenAI'nin güvenlik ekibi tarafından silahlı şiddet referansları nedeniyle işaretlendiğini, ancak şirketin yerel polisi uyarmadığını ortaya koydu.
Geçen hafta Altman, kurbanların ailelerinden özür diledi. "Kolluk kuvvetlerini uyarmadığımız için derin üzüntü duyuyorum," diye yazdı Altman, yerel haber kuruluşu Tumbler RidgeLines tarafından yayınlanan açık mektubunda. "Kelimelerin asla yeterli olamayacağını bilsem de, toplumunuzun yaşadığı zararı ve telafisi mümkün olmayan kaybı kabul etmek için bir özrün gerekli olduğuna inanıyorum."
Davaya yanıt olarak bir OpenAI sözcüsü, şirketin "araçlarımızı şiddet işlemeye yardımcı olmak için kullanmaya karşı sıfır tolerans politikası" olduğunu ve "potansiyel şiddet tehditlerinin" daha iyi değerlendirilmesi ve yükseltilmesi dahil olmak üzere "önlemlerini zaten güçlendirdiğini" söyledi. Şirket ayrıca Salı günü OpenAI'nin ChatGPT'de potansiyel olarak tehlikeli davranış sergileyen kullanıcılara nasıl yanıt verdiğini özetleyen bir blog yayınladı.
Yeni yasal işlemler Çarşamba günü ABD ve Kanada'dan ortak bir hukuk ekibi tarafından Kaliforniya mahkemesinde açıldı. Bu, daha önce bir Kanada mahkemesinde hayatta kalan bir kurban olan 12 yaşındaki Maya Gebala'nın ailesi tarafından açılan ve gönüllü olarak geri çekilen önceki davanın yerini alacak. Gebala, başına, boynuna ve yanağına üç kez vurulduktan sonra hala hastanede.
Yeni davalarda aileleri ve toplum üyelerini temsil eden avukat Jay Edelson, OpenAI'ye karşı saldırıyla ilgili iki düzineden fazla yasal işlem açmayı beklediğini söyledi. Her davada jüri tarafından yargılanma talep edeceğini ekledi. "Bir jüri önünde dava açma konusunda kendimizi çok rahat hissediyoruz," dedi BBC'ye. Gebala'nın davası için avukatlar 1 milyar doların üzerinde tazminat talep edecek ve Edelson jürinin "tarihi miktarlara" hükmetmesini beklediğini söyledi.
Davalar, OpenAI ve Altman dahil üst düzey yönetimini, saldırıdan önce şüphelinin ChatGPT faaliyetleri konusunda kolluk kuvvetlerini uyarmayarak Tumbler Ridge toplu katliamını ihmal ve yardım ve yataklık etmekle suçluyor. Gebala ve ailesini adlandıran bir dava, OpenAI'nin "fiilen bilgi sahibi olduğunu" iddia ediyor; şüphelinin ChatGPT ile yaptığı konuşmalarda "silahlı şiddet içeren senaryolar" tanımladığı ve bu konuşmaların saldırıyı gerçekleştirme niyetini ortaya koyduğu belirtiliyor.
Edelson, konuşmaların OpenAI'deki 12 kişilik bir güvenlik ekibi tarafından işaretlendiğini ve ekibin şüphelinin Kanada Kraliyet Atlı Polisi'ne (RCMP) bildirilmesini önerdiğini söyledi. Ancak davaya göre, OpenAI'deki yürütme liderliği bu kararı veto etti. Dava ayrıca, OpenAI'nin üst düzey yönetiminin, 850 milyar dolarlık şirketin değerlemesini ve itibarını korumak için polisi uyarmama kararı aldığını iddia ediyor. "Hesabı yaptılar ve Tumbler Ridge çocuklarının güvenliğinin kabul edilebilir bir risk olduğuna karar verdiler," ifadesi yer alıyor davada.
Ayrıca dava, OpenAI'nin şüphelinin rahatsız edici aktivite işaretlendikten sonra platformdan yasaklandığı konusunda yalan söylediğini, şirketin kullanıcıların yeni hesap açmasını kolaylaştırdığını iddia ediyor. Davaya göre şüpheli aynı adla başka bir hesap açtı ve "saldırıyı planlamak için ChatGPT'yi kullanmaya devam etti". BBC'ye yaptığı açıklamada OpenAI bunu reddetti ve yasaklı kullanıcıların hizmetlere erişimini iptal ettiğini, hesaplarını devre dışı bırakmak ve yeni hesap açmalarını engellemek için adımlar atmak dahil, söyledi.
Şüpheli, 10 Şubat'taki saldırıda kendi kendine ateş ettiği silahla öldü. Edelson, BBC'ye OpenAI'den şüphelinin sohbet kayıtlarını talep ettiğini ancak erişimin reddedildiğini söyledi, ancak kayıtların olduğuna inanıyor.