Într-o întorsătură de situație care nu surprinde pe nimeni care a urmărit abordarea 'adună toate datele, pune întrebări mai târziu' a industriei AI, xAI a lui Elon Musk a fost lovită de un proces care susține că modelele sale Grok au fost antrenate pe materiale cu abuz sexual asupra copiilor (CSAM). Plângerea, depusă miercuri de o reclamantă identificată doar ca Jane Doe, susține că imaginile cu abuzul din copilăria ei - surprinse la începutul anilor 2000, când avea vârstă preșcolară - au fost folosite pentru a antrena capacitățile de generare de imagini și video ale lui Grok.

Imaginile lui Doe au fost mult timp indexate de grupuri precum Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC) și Centrul Canadian pentru Protecția Copilului (CCCP) pentru a ajuta la identificarea și eliminarea unui astfel de conținut. Ea primește alerte de la Sistemul de Notificare a Victimelor al Departamentului de Justiție al SUA ori de câte ori ar putea fi victimă într-o nouă investigație. Deci vă puteți imagina șocul ei când CCCP a notificat-o că CSAM generat de AI înfățișând-o a fost găsit pe xAI. Plângerea susține că forumurile online prezentau 'infractori discutând despre crearea de CSAM generat de AI al Reclamantei și al altor victime cunoscute, legate de trecut, ale CSAM.'

Doe se teme acum că xAI nu numai că a facilitat crearea mai multor imagini din cea mai tulburătoare perioadă a vieții ei, dar și că compania a stocat și a folosit acele rezultate generate de AI pentru a antrena în continuare Grok. Plângerea sugerează că Grok ar fi putut fi antrenat atât pe imaginile originale care au bântuit-o de peste 20 de ani, cât și pe cele generate recent de AI.

Acesta este primul caz care acuză xAI de antrenare pe CSAM, dar plângerea este puțin săracă în detalii pentru această afirmație specifică. Se menționează că imaginile lui Doe făceau parte dintr-o Listă Hash CSAM întreținută de NCMEC, și 'același material' ar fi 'fost parte din setul de date pe care xAI l-a folosit pentru a construi capacitățile de generare de imagini și video ale lui Grok.' Plângerea subliniază, de asemenea, că, deși xAI filtrează conținutul violent din datele de antrenare, termenii săi nu exclud în mod explicit CSAM, imagini intime neconsensuale (NCII) sau material NSFW. Și, deoarece eliminarea influenței unui exemplu de antrenament dintr-un model deja antrenat este dificilă din punct de vedere tehnic, orice CSAM ingerat înainte de eliminare probabil a continuat să modeleze rezultatele lui Grok.

Acțiunea colectivă propusă de Doe urmărește să reprezinte fiecare victimă ale cărei imagini din copilărie au fost folosite pentru a genera CSAM Grok. Acuză X de încălcarea legilor federale privind pornografia infantilă și a Legii Masha, ambele oferind supraviețuitorilor CSAM dreptul de a da în judecată. Avocata lui Doe, Margaret E. Mabie, a sugerat că 'xAI a făcut toate cele trei' - producție, posesie și distribuție.

Dacă Doe câștigă, xAI ar putea datora daune fiecărei victime care poate dovedi că Grok a generat CSAM pe baza fotografiilor lor reale. Doe dorește, de asemenea, ca instanța să ordone xAI să distrugă tot CSAM generat de Grok și să blocheze Grok să genereze orice rezultate sexualizate, inclusiv 'poze în bikini' NSFW pe care Musk le-a promovat. Sarah London, o altă avocată a lui Doe, a declarat într-un comunicat de presă că Doe 'a trăit aproape două decenii știind că imaginile cu cel mai rău lucru care i s-a întâmplat vreodată circulă printre prădători online și că pot reapărea în orice moment. xAI trebuie trasă la răspundere pentru că și-a antrenat în mod conștient modelele pe imagini ale abuzului oribil pe care l-a suferit și pe imaginile de abuz ale fiecărui alt supraviețuitor din această clasă.'

X nu a răspuns solicitării Ars de comentarii - pentru că de ce să comentezi când poți doar să lași sistemul juridic să rezolve?