In einer Wendung, die niemanden überrascht, der die 'sammle alle Daten, frag später' Herangehensweise der KI-Branche verfolgt hat, ist Elon Musks xAI mit einer Klage konfrontiert, die behauptet, dass seine Grok-Modelle mit Material über sexuellen Kindesmissbrauch (CSAM) trainiert wurden. Die Beschwerde, eingereicht am Mittwoch von einer Klägerin, die nur als Jane Doe identifiziert wird, behauptet, dass ihre Kindheitsmissbrauchsbilder – aufgenommen in den frühen 2000er Jahren, als sie im Vorschulalter war – verwendet wurden, um Groks Bild- und Videogenerierungsfähigkeiten zu trainieren.
Does Bilder sind seit langem von Gruppen wie dem National Center for Missing and Exploited Children (NCMEC) und dem Canadian Centre for Child Protection (CCCP) gehasht worden, um solche Inhalte zu identifizieren und zu entfernen. Sie erhält Benachrichtigungen vom US-Justizministerium über das Opferbenachrichtigungssystem, wann immer sie möglicherweise Opfer einer neuen Untersuchung ist. Man kann sich also ihre Überraschung vorstellen, als das CCCP sie benachrichtigte, dass KI-generierte CSAM, die sie darstellt, auf xAI gefunden worden war. Die Beschwerde behauptet, dass Online-Foren 'Täter, die darüber plauderten, KI-generierte CSAM der Klägerin und anderer ähnlich gelagerter, bekannter, langjähriger Opfer von CSAM zu erstellen', aufwiesen.
Doe befürchtet nun, dass xAI nicht nur die Erstellung weiterer Bilder der schrecklichsten Zeit ihres Lebens erleichtert hat, sondern auch, dass das Unternehmen diese KI-generierten Ausgaben gespeichert und verwendet hat, um Grok weiter zu trainieren. Die Beschwerde deutet an, dass Grok sowohl mit den Originalbildern, die sie seit über 20 Jahren verfolgen, als auch mit den kürzlich KI-generierten Bildern trainiert worden sein könnte.
Dies ist der erste Fall, der xAI beschuldigt, mit CSAM trainiert zu haben, aber die Beschwerde ist in Bezug auf diese spezifische Behauptung etwas dünn. Sie stellt fest, dass Does Bilder Teil einer CSAM-Hash-Liste waren, die vom NCMEC gepflegt wird, und dass 'dasselbe Material' angeblich 'Teil des Datensatzes war, den xAI verwendete, um Groks Bild- und Videogenerierungsfähigkeiten aufzubauen.' Die Beschwerde weist auch darauf hin, dass xAI zwar gewalttätige Inhalte aus Trainingsdaten herausfiltert, seine Bedingungen jedoch CSAM, nicht einvernehmliche intime Bilder (NCII) oder NSFW-Material nicht explizit ausschließen. Und da es technisch schwierig ist, den Einfluss eines Trainingsbeispiels aus einem bereits trainierten Modell zu entfernen, hat jegliches CSAM, das vor der Entfernung aufgenommen wurde, wahrscheinlich weiterhin Groks Ausgaben geprägt.
Does vorgeschlagene Sammelklage zielt darauf ab, jedes Opfer zu vertreten, dessen Kindheitsbilder verwendet wurden, um Grok-CSAM zu generieren. Sie beschuldigt X, gegen Bundesgesetze gegen Kinderpornografie und Masha's Law zu verstoßen, die beide Überlebenden von CSAM ein Klagerecht geben. Does Anwältin, Margaret E. Mabie, deutete an, dass 'xAI alle drei Dinge getan hat' – Produktion, Besitz und Verbreitung.
Wenn Doe gewinnt, könnte xAI jedem Opfer Schadensersatz schulden, das beweisen kann, dass Grok CSAM basierend auf ihren echten Fotos generiert hat. Doe möchte auch, dass das Gericht xAI anordnet, alle von Grok generierten CSAM zu vernichten und Grok daran zu hindern, sexualisierte Ausgaben zu generieren, einschließlich der NSFW-'Bikini-Bilder', die Musk beworben hat. Sarah London, eine weitere Anwältin von Doe, sagte in einer Pressemitteilung, dass Doe 'fast zwei Jahrzehnte lang gewusst hat, dass Bilder des Schlimmsten, was ihr je passiert ist, online unter Pädophilen kursieren und dass sie jederzeit wieder auftauchen können. xAI muss zur Verantwortung gezogen werden, weil es wissentlich seine Modelle mit Bildern des schrecklichen Missbrauchs, den sie erlitten hat, und mit den Missbrauchsbildern jedes anderen Überlebenden in dieser Klasse trainiert hat.'
X hat nicht auf Arses Anfrage um einen Kommentar reagiert – denn warum kommentieren, wenn man das Rechtssystem einfach die Sache regeln lassen kann?