AI業界の「まず全データを集め、後で質問する」アプローチに注目してきた人なら誰も驚かない展開だが、イーロン・マスクのxAIが、Grokモデルが児童性的虐待資料（CSAM）で訓練されたと主張する訴訟を起こされた。水曜日に「Jane Doe」とだけ特定された原告が提起した訴状によると、彼女の幼少期の虐待画像——2000年代初頭に就学前の年齢で撮影された——が、Grokの画像・動画生成機能の訓練に使用されたという。

Doeの画像は、全米行方不明・被搾取児童センター（NCMEC）やカナダ児童保護センター（CCCP）などの団体によって長年ハッシュ化され、そのようなコンテンツの特定・削除に役立てられてきた。彼女は、新しい捜査で被害者になる可能性があるたびに、米国司法省の被害者通知システムから通知を受け取っている。だから、CCCPからxAI上で彼女を描いたAI生成CSAMが見つかったと通知されたときの彼女の衝撃は想像に難くない。訴状は、オンラインフォーラムで「原告や他の同様に知られている、過去のCSAM被害者を描いたAI生成CSAMを作成することについて話し合う犯罪者たち」がいたと主張している。

Doeは現在、xAIが彼女の人生で最も苦しい時期の画像をさらに作成しやすくしただけでなく、そのAI生成出力を保存し、Grokのさらなる訓練に使用した可能性を懸念している。訴状は、Grokが20年以上彼女を悩ませてきた元の画像と、最近のAI生成画像の両方で訓練された可能性を示唆している。

これはxAIをCSAM訓練で告発する最初の訴訟だが、その特定の主張に関する詳細はやや乏しい。訴状は、Doeの画像がNCMECが管理するCSAMハッシュリストの一部であり、「同じ素材」が「xAIがGrokの画像・動画生成機能を構築するために使用したデータセットの一部であった」と主張している。また、xAIは訓練データから暴力的なコンテンツを除外しているが、その条件はCSAM、非同意の親密な画像（NCII）、またはNSFW素材を明示的に除外していないと指摘している。そして、すでに訓練されたモデルから訓練例の影響を除去することは技術的に困難であるため、削除前に取り込まれたCSAMはGrokの出力に影響を与え続けた可能性が高い。

Doeの提案する集団訴訟は、自分の子供時代の画像がGrok CSAMの生成に使用されたすべての被害者を代表することを目指している。これは、Xが連邦児童ポルノ法とMasha法に違反したと非難しており、どちらもCSAM生存者に訴訟を起こす権利を与えている。Doeの弁護士であるMargaret E. Mabieは、「xAIは3つすべてを行った」——製造、所持、頒布——と示唆した。

Doeが勝訴した場合、xAIは、Grokが実際の写真に基づいてCSAMを生成したことを証明できるすべての被害者に損害賠償を支払う可能性がある。Doeはまた、裁判所にxAIに対し、Grokが生成したCSAMをすべて破棄し、マスクが宣伝しているNSFWの「ビキニ写真」を含む、性的な出力の生成をGrokにブロックするよう命じることも求めている。Doeの弁護士のもう1人であるSarah Londonは、プレスリリースで、Doeは「彼女に起こった最悪の出来事の画像がオンラインで捕食者の間で流通しており、いつでも再浮上する可能性があることを知って、ほぼ20年間生きてきた」と述べ、「xAIは、彼女が受けた恐ろしい虐待の画像と、このクラスの他のすべての生存者の虐待画像でモデルを訓練したことを知りながら、責任を負わされなければならない」と述べた。

XはArsのコメント要請に応答しなかった——なぜなら、法制度に任せればいいのに、わざわざコメントする必要があるだろうか？