Yapay zeka endüstrisinin 'önce tüm verileri topla, sonra soru sor' yaklaşımını takip eden hiç kimseyi şaşırtmayan bir olay örgüsünde, Elon Musk'ın xAI şirketi, Grok modellerinin çocuk cinsel istismar materyalleri (CSAM) ile eğitildiği iddiasıyla dava edildi. Çarşamba günü yalnızca Jane Doe olarak tanımlanan bir davacı tarafından açılan şikayet, okul öncesi çağda olduğu 2000'li yılların başında çekilen çocukluk istismar görüntülerinin Grok'un görüntü ve video üretme yeteneklerini eğitmek için kullanıldığını iddia ediyor.

Doe'nun görüntüleri uzun süredir Kayıp ve İstismara Uğramış Çocuklar Ulusal Merkezi (NCMEC) ve Kanada Çocuk Koruma Merkezi (CCCP) gibi kuruluşlar tarafından bu tür içerikleri tespit etmek ve kaldırmak için hash'leniyor. Doe, ABD Adalet Bakanlığı Mağdur Bildirim Sistemi'nden yeni bir soruşturmada mağdur olabileceği her seferinde bildirim alıyor. Bu yüzden CCCP'nin kendisine xAI'da kendisini tasvir eden yapay zeka üretimi CSAM bulunduğunu bildirdiğinde şokunu hayal edebilirsiniz. Şikayet, çevrimiçi forumlarda 'suçluların Davacı ve diğer benzer durumdaki bilinen, eski CSAM mağdurlarının yapay zeka ile üretilmiş CSAM'ını oluşturmaktan bahsettiklerini' iddia ediyor.

Doe artık xAI'nin yalnızca hayatının en sıkıntılı dönemine ait daha fazla görüntü oluşturmayı kolaylaştırmakla kalmayıp, aynı zamanda bu yapay zeka üretimi çıktıları depolayıp Grok'u daha da eğitmek için kullandığından korkuyor. Şikayet, Grok'un hem 20 yılı aşkın süredir ona musallat olan orijinal görüntülerle hem de son yapay zeka üretimi olanlarla eğitilmiş olabileceğini öne sürüyor.

Bu, xAI'yi CSAM ile eğitmekle suçlayan ilk dava, ancak şikayet bu spesifik iddia için biraz ayrıntıdan yoksun. Doe'nun görüntülerinin NCMEC tarafından tutulan bir CSAM Hash Listesi'nin parçası olduğunu ve 'aynı materyalin' iddiaya göre 'xAI'nin Grok'un görüntü ve video üretme yeteneklerini oluşturmak için kullandığı veri setinin parçası olduğunu' belirtiyor. Şikayet ayrıca xAI'nin eğitim verilerinden şiddet içeren içerikleri filtrelese de, şartlarının CSAM, rıza dışı mahrem görüntüler (NCII) veya NSFW materyalleri açıkça hariç tutmadığına dikkat çekiyor. Ve eğitimli bir modelden bir eğitim örneğinin etkisini kaldırmak teknik olarak zor olduğundan, kaldırma işleminden önce alınan herhangi bir CSAM muhtemelen Grok'un çıktılarını şekillendirmeye devam etti.

Doe'nun önerdiği toplu dava, çocukluk görüntüleri Grok CSAM üretmek için kullanılan her mağduru temsil etmeyi amaçlıyor. X'i federal çocuk pornografisi yasalarını ve Masha Yasası'nı ihlal etmekle suçluyor; her ikisi de CSAM mağdurlarına dava açma hakkı veriyor. Doe'nun avukatı Margaret E. Mabie, 'xAI üçünü de yaptı' - üretim, bulundurma ve dağıtım - önerisinde bulundu.

Doe kazanırsa, xAI, Grok'un gerçek fotoğraflarına dayalı olarak CSAM ürettiğini kanıtlayabilen her mağdura tazminat ödemek zorunda kalabilir. Doe ayrıca mahkemeden xAI'ye tüm Grok kaynaklı CSAM'ı imha etmesini ve Grok'un Musk'ın tanıttığı NSFW 'bikini fotoğrafları' dahil her türlü cinselleştirilmiş çıktı üretmesini engellemesini emretmesini istiyor. Doe'nun avukatlarından Sarah London bir basın açıklamasında, Doe'nun 'neredeyse yirmi yıldır hayatının en kötü anının görüntülerinin çevrimiçi olarak avcılar arasında dolaştığını ve her an yeniden ortaya çıkabileceğini bilerek yaşadığını' söyledi. 'xAI, modellerini bilerek maruz kaldığı korkunç istismarın görüntüleri ve bu sınıftaki diğer tüm mağdurların istismar görüntüleriyle eğittiği için sorumlu tutulmalıdır.'

X, Ars'ın yorum talebine yanıt vermedi - çünkü neden yorum yapasınız ki, yasal sistem halletsin?