OpenAI şimdi, sohbet robotunun geçen yıl Florida Eyalet Üniversitesi'ndeki bir toplu saldırıdan önce silahlı saldırgana tavsiyelerde bulunduğu iddiasıyla yeni bir deneyimle karşı karşıya: cezai soruşturma. Olayda iki kişi öldü, altı kişi yaralandı ve şimdi eyalet şirketin bir hücreyi paylaşıp paylaşmayacağını öğrenmek istiyor.
Florida Başsavcısı James Uthmeier, ChatGPT ile şüpheli silahlı saldırgan Phoenix Ikner'a bağlı bir hesap arasındaki "şok edici sohbet kayıtlarına" atıfta bulunarak soruşturmayı doğruladı. 20 yaşındaki öğrenci, çoklu cinayet ve cinayete teşebbüs suçlamalarından yargılanmayı bekliyor. Uthmeier, hukuki varsayımlarla dolu bir açıklamasında, Florida'nın yardım ve yataklık yasaları uyarınca, "ChatGPT bir insan olsaydı," onun da "cinayet suçlamalarıyla karşı karşıya kalacağını" vurguladı. OpenAI sözcüsü Kate Waters, öngörülebilir kurumsal yanıtı verdi: "ChatGPT bu korkunç suçtan sorumlu değildir."
Ancak Uthmeier, intihar, çocuk cinsel istismarı materyalleri, dolandırıcılık ve cinayet de dahil olmak üzere artan sohbet robotu bağlantılı kamu güvenliği riskleri konusunda endişeli olduğu için bu "keşfedilmemiş bölgeye" adım atıyor. OpenAI gibi şirketlerin ürünleri zarara neden olduğunda sorumlu olup olmadıklarını kesin olarak bilmek istiyor. "Florida, suç davranışında yapay zekanın kullanımına karşı harekete geçmede öncülük ediyor," diyerek soruşturmayı kurumsal gücün gerekli bir kontrolü olarak çerçeveledi.
Uthmeier'e göre rahatsız edici detaylar arasında ChatGPT'nin şüpheli saldırgana hangi tür silah ve mühimmat kullanacağı ve kısa mesafede bir silahın kullanışlı olup olmayacağı konusunda tavsiyelerde bulunması yer alıyor. Daha sinsi bir şekilde, robotun kampüste kalabalıkların en iyi hangi saatte bulunacağı ve öğrencilerin daha yoğun olarak nerede toplandığı konusunda tavsiyelerde bulunduğu iddia ediliyor. Florida yetkilileri, bunun yapay zekanın şirketlerin tespit etmesi ve hafifletmesi gereken yeni ve zararlı yollarla kamu verilerini anında nasıl birleştirebileceğini gösterdiğini düşünüyor gibi görünüyor.
Cevapları almak için Uthmeier, OpenAI'nin politikaları, iç eğitim materyalleri ve hatta organizasyon şemaları dahil olmak üzere geniş bir yelpazede bilgi talep eden mahkeme celpleri çıkardı. Kötü niyetli kişiler ChatGPT'yi suç planlamak için kullandığında "kimin neyi bildiğini, neyi tasarladığını veya neyi bilmesi gerektiğini" bulmaya kararlı. Pozisyonu açık: OpenAI liderliği suç faaliyetlerinden haberdar olduysa ve kamu güvenliği yerine kârları önceliklendirdiyse, "o zaman insanlar sorumlu tutulmalı."
OpenAI ise yardımcı masumiyet duruşunu sürdürüyor. Waters, şirketin erken işbirliği yaparak şüphelinin ChatGPT hesabını tespit ettiğini ve kolluk kuvvetleriyle paylaştığını belirtti. Şirketin temel savunması, ChatGPT'nin yalnızca "internetteki kamu kaynaklarında geniş çapta bulunabilecek bilgilerle sorulara gerçekçi yanıtlar verdiği" ve yasadışı faaliyetleri teşvik etmediğidir. Waters ayrıca ChatGPT'nin "her gün yüz milyonlarca insan tarafından meşru amaçlarla kullanılan genel amaçlı bir araç" olduğunu belirtti.
OpenAI'nin bile algı sorununu gördüğünü gösteren bir dönüşte, Uthmeier şirketin ChatGPT'nin toplu saldırılara tavsiyelerde bulunma potansiyelini sınırlamak için "iyileştirmeler ve değişiklikler yapılması gerektiğine inandığını belirttiğini" açıkladı. "Umarım haklılardır," diye iki kez vurgu yaparak söyledi Uthmeier. "Başkalarını nasıl öldürecekleri konusunda insanlara tavsiyelerde bulunan yapay zeka robotlarına sahip olamayız." Waters herhangi bir spesifik güncelleme hakkında yorum yapmadı, bunun yerine şirketin "güvenlik önlemlerimizi güçlendirmek" için sürekli çalıştığını tekrarladı.