Silikon Vadisi'nin 'hızlı hareket et ve bir şeyleri kır' sloganını daha da endişe verici gösteren bir olay örgüsünde, Jane Doe 4 olarak tanımlanan bir kadın, Elon Musk'ın xAI şirketine karşı açılan davaya katıldı ve üvey babasının şirketin Grok sohbet robotunu kullanarak 11 yaşındaki fotoğrafını 7.000'den fazla açık görüntüye dönüştürdüğünü iddia etti. Üvey babasının, kolluk kuvvetlerinin bir baskın sırasında görüntüleri keşfetmesinden iki gün sonra intihar ettiği bildirilen kadın, The Washington Post'a şunları söyledi: 'Bu araçlara sınırsız erişim çok hızlı yayılıyor. Günlük hayatı alıp çocuk cinsel istismarına dönüştürüyor.'

Başlangıçta üç Tennessee'li genç tarafından açılan dava, xAI'yı - şimdi SpaceX'in parçası, çünkü 'sorumlu yapay zeka' demek bir roket şirketiyle birleşmekten başka bir şey değil - Grok'un gerçek kişilerin, reşit olmayanlar dahil, açık görüntülerini üretmesini önlemek için temel güvenlik önlemlerini uygulamadığı için suçluyor. Bu, X'in bu yılın başlarında milyonlarca Grok tarafından üretilen cinselleştirilmiş görüntüyle dolup taşmasının ardından geldi; bu da tam olarak içinizi ısıtan türden bir içerik denetleme başarı hikayesi.

Davacılar, muhtemelen çocukluk fotoğrafları 'hayır' kelimesini sadece bir öneri olarak gören bir yapay zeka sohbet robotu tarafından silah haline getirilen herkesi kapsamak için sınıf davası statüsü arıyor. TechCrunch yorum için xAI'ya ulaştı, ancak bir avukat içermeyen bir yanıt için nefesimizi tutmuyoruz.

Siz veya tanıdığınız biri krizdeyse, lütfen İntihar ve Kriz Yaşam Hattı'na ulaşmak için 988'i arayın veya mesaj atın. Çünkü yapay zekanın korkunç şeyler yapabildiği bir dünyada bile, insanlar için her zaman yardım vardır.