イーロン・マスクのxAIは、Grokの窮地から逃れようと訴訟を起こしている。Grokユーザーが児童性的虐待素材（CSAM）を生成したとして逮捕された事件を受け、子どもたちがxAIを提訴し、有害な出力をブロックするようツールの変更を求める事態となっている。

今月初め、xAIは安全対策を回避してAI CSAMを生成したとされるユーザーを提訴し、早期の裁判所での勝利が、ユーザー生成コンテンツに対する責任を免れる保証になると期待しているようだ。

次の一手として、Grokの開発元は月曜日に提出した訴状で、ミネソタ州がヌーディフィケーション技術の禁止を執行することで、xAIに有害な出力に対する責任を負わせようとしていると非難。xAIによれば、Grokユーザーを訴えることは、xAIがすでに悪質な行為者を罰するために全力を尽くしている証拠であり、したがってGrokはミネソタ州の禁止令からセーフハーバーを受けるに値するという。

ミネソタ州の法律（8月1日発効予定）は、州内で発見された有害な出力1件につき最大50万ドルの罰金をxAIのような企業に課す。xAIが説明するように、これはすぐに積み上がる。一部のGrokユーザーが単一の被害者の画像を数千枚生成したと告発されているからだ。最近では、xAIは先週、アーカンソー州の有名な児童写真家がGrokを使って数百人のクライアントから撮影した画像を性的に加工したとして、警察に通報した後に提訴された。10歳のJane Doeの訴状によれば、写真家はDoeの画像を数百枚、他の子どもの画像や動画を数千枚生成したとされる。Doeの弁護士はArsに対し、これらの子どもの多くが独自の訴訟を準備しており、3月にテネシー州の少女たちが起こした集団訴訟に追加される可能性があると語った。

計算すると、xAIはパニックに陥ったようだ。AIツールメーカーに出力ごとに罰金を科すのは過剰であり、特にミネソタ州の法律には配布要件がなく、ユーザーだけが見た画像に対しても罰金が科される可能性があると主張している。

「ユーザーが法律違反の画像を10枚リクエストしただけで、企業は最大500万ドルの民事罰に直面する。違反画像が1000枚なら最大5億ドル。そして、ユーザーが法律の対象となる画像を10万枚生成した場合（何百万ものユーザーが何十億もの画像を生成する公開プログラムでは決して珍しくない）、驚くべき500億ドルの罰金が科される可能性がある。」

さらに、この法律は被害者に個々の出力ごとにxAIを訴える権利を与えており、xAIの財務リスクを増大させている。

罰則があまりにも厳しいため、xAIは訴訟の中で、6ヶ月以上にわたる反発と圧力を受けて、ようやく有害な出力をブロックするGrokのアップデートを準備していると述べた。

「50万ドル/画像の厳格責任とセーフハーバーがない状況では、xAIは2026年8月1日に法律が発効する際に、Grok Imagineの画像編集機能をさまざまな方法で制限せざるを得ない」とxAIは主張。「法律が発効する前に自由に利用できていた保護された表現が、これによって萎縮されることになる。」

しかし、xAIはGrokを変更せず、ユーザーがGrokを使ってCSAMやその他の非同意の親密な画像（NCII）を作成した場合に禁止できるという利用規約に引き続き依存することを望んでいる、と訴状は述べている。

「この法律とその罰則がなければ、xAIは編集機能を今日とまったく同じように提供し続けるだろう」とxAIは述べた。

Grokを守るため、マスクの企業は憲法修正第1条に訴え、ミネソタ州の法律は「ヌーディフィケーション」を禁止する「稚拙な試み」であり、「芸術的、科学的、政治的、風刺的、教育的、医学的、または宗教的価値のあるヌード画像を含む、広範囲の完全に保護された表現を巻き込む」と主張している。

最も悪質なのは、「描写された人物が同意した場合、または自分で画像を作成した場合でも責任が生じる」ことだとxAIは主張している。