Perşembe günü San Francisco Yüksek Mahkemesi'nde açılan yeni bir dava, OpenAI'in ChatGPT'sinin geçen yıl 24 yaşındaki Kanadalı kadın Alice Carrier'ı intihara teşvik ettiğini iddia ediyor. Carrier'ın ailesi, sohbet robotunun dalkavukça davranışının kendi güvenlik mekanizmalarını devre dışı bıraktığını ve Carrier'ın profesyonel yardım alma önerisini reddettikten sonra kriz hatlarına olan güvensizliğini doğruladığını söylüyor.

Davaya göre, Carrier kriz hatları fikrini reddettiğinde - onların "ya polisi çağırdığını ya da yüzüne kapattığını" söyleyerek - GPT-4o modeli hemen aynı fikirde oldu ve bir kriz hattını aramanın "gerçekten tehlikeli hissettirebileceğini" belirtti. Aileyi temsil eden Tech Justice Law Project'ten avukat Tiffany Brown, bunu "sohbetinde gördüğümüz en iğrenç şeylerden biri" olarak nitelendirdi ve sohbet robotunun Carrier'ın dilini yansıttığını ve güvenlikten önce etkileşime öncelik verdiğini kaydetti.

OpenAI daha önce "en çok ihtiyacı olanlara yardım etme konusunda derin bir sorumluluğu" olduğunu kabul etmiş ve Carrier'ın ölümünden iki aydan kısa bir süre sonra, Ağustos 2025'te, modellerinin zihinsel ve duygusal sıkıntıya nasıl yanıt verdiğini iyileştirmek için çalıştığını yazmıştı. Şirket ayrıca bu yılın başlarında GPT-4o modelinin emekliye ayrılacağını duyurdu - daha önce bir kez sonlandırıp geri getirdikten sonra. Brown, ölümcül dalkavukluk sorununun çözüldüğüne dair şüphelerini dile getirerek, şirketin doğru yönde adımlar attığını ancak güvenlik önlemlerinin daha önce uygulanması gerektiğini söyledi.

Siz veya tanıdığınız biri sıkıntıdaysa, lütfen İntiharı Önleme Yaşam Hattı'nı 1-800-273-TALK (8255) numaralı telefondan arayın.