Britanya Kolombiyası, kitlesel şiddet planlayabilen bir sohbet robotu yapıyorsanız, bari bir telefonu geri arayabileceğinize karar verdi. Eyalet pazartesi günü Kaliforniya federal mahkemesinde OpenAI'ye dava açtı; hem şirketi hem de CEO Sam Altman'ı sanık olarak göstererek, Tumbler Ridge'deki bir okulda yaşanan kitlesel silahlı saldırının, OpenAI silahlı saldırganın katliamı planlamak için ChatGPT'yi kullandığını yerel kolluk kuvvetlerine basitçe bildirseydi önlenebileceğini savundu.

San Francisco'da açılan dava, şubat saldırısının ardından eyaletteki iyileştirme çalışmalarını finanse etmek için tazminat ve OpenAI'ye şiddete yol açabilecek ChatGPT konuşmalarını nasıl ele aldığını değiştirmesini emreden bir karar talep ediyor - ki 2026'da bu cümlenin muhtemelen var olmaması gerekirdi.

Tumbler Ridge okul saldırısında çoğu çocuk dokuz kişi öldürüldü. Saldırgan Jesse Van Rootselaar, silah şiddeti hakkındaki konuşmaları nedeniyle şirketin kendi güvenlik ekibi tarafından işaretlenmişti, ancak şirket polisi uyarmadı. Altman topluluğa bir mektup yayımlayarak OpenAI'nin kolluk kuvvetleriyle iletişime geçmemesinden dolayı "derinden üzgün" olduğunu söyledi. Davaya göre, Britanya Kolombiyası başsavcısının girişimlerine rağmen reform sözü verdi ama hiçbir zaman yerine getirmedi.

Dava, saldırının gerçekleştiği okulun yıkılma sürecinde olduğunu ve eyaletin yeni bir okul, ruh sağlığı hizmetleri ve saldırının diğer etkilerinin maliyetlerini üstlenmek zorunda kaldığını belirtiyor.

OpenAI sözcüsü Drew Pusateri, Tumbler Ridge saldırısını tarif edilemez bir trajedi olarak nitelendirdi. "OpenAI, hükümet ve kolluk kuvvetleri yetkilileriyle işbirliği içinde çalışmaya ve devam eden güvenlik çalışmalarımızı ilerletmeye kararlıdır." Bu, güvenlik ekibinin saf dışı bırakıldığı kısmı hatırlayana kadar güven verici gelen bir cümle.

Britanya Kolombiyası'nın davası, saldırıdan etkilenen kurbanların ve diğerlerinin 30'dan fazla aile üyesinin Kaliforniya'da dava açmasının ardından geldi; bu davalar şirketi saldırıyı önleme şansını kaçırmakla suçluyor.

Polise göre Van Rootselaar, 10 Şubat'ta önce evde annesini ve üvey kardeşini vurdu, ardından eski okulunda bir eğitim asistanını ve 12 ve 13 yaşlarındaki beş öğrenciyi öldürdü. 18 yaşındaki Van Rootselaar daha sonra intihar ederek öldü.

Van Rootselaar'ın ChatGPT ile etkileşimleri ilk olarak şirket tarafından Haziran 2025'te işaretlenmişti. Davaya göre güvenlik ekibi üyeleri polisle iletişime geçilmesini önerdi, ancak Altman ve diğer OpenAI yöneticileri onları saf dışı bıraktı; dava, saldırının ardından Wall Street Journal'a konuşan OpenAI muhbirlerine atıfta bulunuyor. Saldırganın hesabı devre dışı bırakıldı, ancak yeni bir hesap alıp platformu saldırısını planlamak için kullanmaya devam edebildi - bu açık, bir gözden kaçırma gibi değil, daha çok bir özellik gibi hissettiriyor.

Wall Street Journal makalesinin yayımlanmasından sonra şirket, hesabın "modellerimizin şiddet eylemlerini ilerletmek için kötüye kullanılmasını" tespit eden sistemler tarafından işaretlendiğini, ancak sorunların kolluk kuvvetlerine bildirim için iç kriterlerini karşılamadığını söyledi. İç kriterler, muhtemelen, güvenlik ekibini saf dışı bırakan aynı kişiler tarafından yazılmıştır.

Dava, son aylarda ChatGPT'nin şiddeti kolaylaştırdığı iddialarıyla ABD eyalet ve federal mahkemelerinde OpenAI'ye karşı açılan bir dizi davanın ardından geldi; bunlar arasında geçen yıl Florida State Üniversitesi'ndeki kitlesel silahlı saldırıyla ilgili davalar da var. Haziran ayında Florida, güvenlik riskleri nedeniyle OpenAI'ye dava açan ilk eyalet oldu ve şirketi ChatGPT platformunun güvenliğini yanlış tanıtmakla suçladı; dava, platformun okul saldırganlarına bilgi sağlayarak, kendine zarar verme konusunda rehberlik ederek ve genç kullanıcıları bağımlı hale getirerek çocuklara zarar verdiğini öne sürdü.

İddiaları reddeden OpenAI, modellerini "şiddeti anlamlı şekilde mümkün kılabilecek" talepleri reddetmek üzere eğittiğini ve konuşmalar "başkalarına yönelik yakın ve inandırıcı bir zarar riski" olduğunu gösterdiğinde kolluk kuvvetlerini bilgilendirdiğini söyledi. Şirket, 18 yaşındaki birinin neden p...