Grokが依然として成人や未成年の非同意の性的画像を生成するために使用され得ることを認めるよう圧力が高まる中、xAIは火曜日に訴訟を提起し、イーロン・マスクの会社がチャットボットを使って違法コンテンツを作成したとして告発した最初のユーザーを訴えた。

訴状は、サウスカロライナ州検察局が発表したところによると、今年初めに児童性的虐待資料（CSAM）の所持と配布で逮捕されたテリー・ウェイン・ハーウッドを対象としている。

xAIが主張するように、同社はハーウッドが複数の被害者（少なくとも10歳と思われる少女を含む）の非性的画像を数ヶ月にわたって2つのxAIアカウントを使って脱衣または「ヌード化」していたことを発見し、その逮捕に協力した。

xAIの訴訟は、別の少女がGrokによって害されたとされる複数の子供を代表する集団訴訟を起こしてから1週間余り後に行われた。彼女は、継父がGrok（おそらく他のAIツールと併用）を使って彼女の性的画像7,000枚を作成し、ダークウェブで配布していることが発覚した後、自殺したと主張している。

その事件では、被害者はxAIが彼女の画像をGrokにアップロードしたユーザーを特定するための警察の協力を拒否したと主張した。xAIの慣行であることを裏付けるため、彼女の弁護士は2026年の全米行方不明・被搾取児童センター（NCMEC）の報告書を引用し、xAIのCyberTipline報告の90％は「xAIが法執行機関が加害者を追跡・特定できるユーザー情報を提供しなかったため、法執行機関が行動を起こせなかった」と確認した。

被害者がxAIが加害者を保護していると非難する中、マスクは以前、Grokが生成したCSAMの例をまだ見ていないと主張していた。Grokの出力を制限してCSAM出力を不可能にする代わりに、マスクはユーザーに責任ある行動を促し、1月3日にXに「Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果に直面する」と投稿した。

しかし、マスクが投稿している間、ハーウッドはマスクの警告を無視し、チャットボットが非同意の露骨な画像を生成するまで何度もGrokにプロンプトを送っていたようだ。

今やマスクはGrokがCSAMを作ることを否定できないようだ。xAIの訴訟は、ハーウッドが少なくとも2つのアカウント（「ceae2cb4-a9f6-4885-8ae9-6e2096d084f4」と「befccb94-4029-454d-9f1f-0d4945e8fa7c」という複雑なユーザー名）を使って12月8日から2月18日まで違法コンテンツを生成したと主張している。

時にはGrokのセーフガードが有害な出力を防ぎ、「そのような素材がGrokのコンテンツモデレーションのガードレールに違反する」として一部のプロンプトに「従うことを拒否」した。訴訟には、Grokが拒否した特に不気味なプロンプトの例が含まれており、「白いスライム」などのフレーズを使って性的画像を生成する意図を隠そうとしていた。

しかし、その特定のプロンプトは明らかな理由で拒否された可能性がある。ハーウッドはチャットボットに「彼女の服をすべて脱がせろ」と明示的に要求しており、これは実在の人物を脱衣させる要求に対するxAIの利用規約に直接違反する。集団訴訟では、xAIが多くの悪質なリクエストを見逃し、最新の被害者の事件では7,000件の有害な出力のうち「集団強姦」を描写するプロンプト1件だけをNCMECに報告したと主張されている。

他の悪質な行為者がセーフガードを回避するのを避けるため、xAIはハーウッドの成功したプロンプトの例やフィルターを回避するために使用された方法を記載していない。xAIは、ハーウッドが「xAIの利用規約および米国法に明らかに違反して」セーフガードを回避するためにプロンプトを変更したとだけ主張しており、「未成年の子供の肖像」を含む「わいせつな」画像の要求も「いくつか」含まれている。

サウスカロライナ州検事総長室のスポークスパーソンはArsに対し、ハーウッドの事件はまだ係属中であると語った。具体的には、彼は「人工知能プラットフォームの使用を通じて」CSAMを「配布、輸送、展示、受領、販売、購入、交換、または勧誘した」として起訴されている。

スポークスパーソンは、Grokがそのプラットフォームであるかどうかを確認する権限を与えられていなかった。