W zwrocie akcji, który nie zaskakuje nikogo, kto śledził podejście branży AI do 'zbieraj wszystkie dane, pytaj później', xAI Elona Muska zostało pozwane, oskarżone o to, że jego modele Grok były trenowane na materiałach przedstawiających wykorzystywanie seksualne dzieci (CSAM). Skarga, złożona w środę przez powódkę identyfikowaną tylko jako Jane Doe, twierdzi, że jej dziecięce zdjęcia przedstawiające wykorzystywanie – zrobione na początku XXI wieku, gdy była w wieku przedszkolnym – zostały użyte do trenowania możliwości generowania obrazów i wideo przez Groka.

Zdjęcia Doe od dawna są hashowane przez grupy takie jak National Center for Missing and Exploited Children (NCMEC) i Canadian Centre for Child Protection (CCCP), aby pomóc w identyfikacji i usuwaniu takich treści. Otrzymuje ona powiadomienia z amerykańskiego Departamentu Sprawiedliwości (Victim Notification System), gdy tylko może być ofiarą w nowym śledztwie. Można sobie wyobrazić jej szok, gdy CCCP poinformowało ją, że na xAI znaleziono generowane przez AI CSAM przedstawiające ją. Skarga twierdzi, że fora internetowe zawierały 'rozmowy przestępców o tworzeniu generowanych przez AI CSAM przedstawiających powódkę i inne podobnie sytuowane, znane, dawne ofiary CSAM'.

Doe obawia się teraz, że xAI nie tylko ułatwiło tworzenie kolejnych obrazów z najgorszego okresu jej życia, ale także, że firma przechowywała i wykorzystywała te generowane przez AI wyniki do dalszego trenowania Groka. Skarga sugeruje, że Grok mógł być trenowany zarówno na oryginalnych zdjęciach, które prześladują ją od ponad 20 lat, jak i na niedawno wygenerowanych przez AI.

To pierwszy przypadek oskarżający xAI o trenowanie na CSAM, ale skarga jest dość uboga w szczegóły dotyczące tego konkretnego zarzutu. Zauważa, że zdjęcia Doe były częścią listy hashów CSAM prowadzonej przez NCMEC, i 'ten sam materiał' rzekomo 'był częścią zestawu danych, którego xAI użyło do zbudowania możliwości generowania obrazów i wideo przez Groka'. Skarga wskazuje również, że chociaż xAI filtruje brutalne treści z danych treningowych, jego warunki nie wykluczają wprost CSAM, niekonsensualnych intymnych obrazów (NCII) ani materiałów NSFW. A ponieważ technicznie trudno jest usunąć wpływ przykładu treningowego z już wytrenowanego modelu, każde CSAM wchłonięte przed usunięciem prawdopodobnie nadal kształtowało wyniki Groka.

Proponowany pozew zbiorowy Doe ma reprezentować każdą ofiarę, której dziecięce zdjęcia zostały użyte do wygenerowania CSAM przez Groka. Oskarża X o naruszenie federalnych przepisów dotyczących pornografii dziecięcej oraz ustawy Masha's Law, które dają ocalałym z CSAM prawo do pozwania. Prawniczka Doe, Margaret E. Mabie, zasugerowała, że 'xAI zrobiło wszystkie trzy' – produkcję, posiadanie i dystrybucję.

Jeśli Doe wygra, xAI może być zobowiązane do wypłaty odszkodowań każdej ofierze, która udowodni, że Grok wygenerował CSAM na podstawie jej prawdziwych zdjęć. Doe chce również, aby sąd nakazał xAI zniszczenie wszystkich wygenerowanych przez Groka CSAM i zablokowanie Grokowi generowania jakichkolwiek seksualizowanych wyników, w tym promowanych przez Muska NSFW 'zdjęć w bikini'. Sarah London, kolejna z prawniczek Doe, powiedziała w komunikacie prasowym, że Doe 'żyje od prawie dwóch dekad, wiedząc, że obrazy najgorszej rzeczy, jaka jej się przytrafiła, krążą wśród drapieżników w internecie i mogą wypłynąć w każdej chwili. xAI musi ponieść odpowiedzialność za świadome trenowanie swoich modeli na obrazach okropnego wykorzystywania, którego doświadczyła, oraz na obrazach wykorzystywania każdej innej ocalałej w tej klasie'.

X nie odpowiedziało na prośbę Ars o komentarz – bo po co komentować, skoro można po prostu pozwolić systemowi prawnemu to rozwiązać?