シリコンバレーの「速く動いて物を壊せ」というモットーがさらに恐ろしく見える展開で、Jane Doe 4と特定された女性が、イーロン・マスク氏のxAIに対する訴訟に加わり、継父が同社のチャットボットGrokを使って、彼女が11歳の時の写真を7000枚以上のわいせつ画像に変えたと主張している。継父は、法執行機関が家宅捜索で画像を発見した2日後に自殺したと報じられており、女性はワシントン・ポスト紙にこう語った。「これらのツールへの無制限なアクセスは急速に広がっています。日常生活を児童性的虐待に変えています。」

この訴訟は、もともとテネシー州の10代の若者3人によって提起されたもので、xAI（現在はSpaceXの一部。ロケット会社との合併ほど「責任あるAI」を体現するものはない）が、Grokが実在の人物（未成年者を含む）のわいせつ画像を生成するのを防ぐための基本的な安全対策を講じなかったと非難している。これは、今年初めにXがGrokで生成された何百万もの性的画像で溢れかえった後に起こったことであり、まさに心が温かくなるようなコンテンツモデレーションの成功例だ。

原告らは集団訴訟の認定を求めており、おそらく「ノー」は単なる提案に過ぎないと思っているAIチャットボットによって、子供時代の写真が武器にされたすべての人々をカバーするためだろう。TechCrunchはxAIにコメントを求めたが、弁護士が関与しない返答は期待していない。

もしあなたや知り合いが危機に瀕しているなら、自殺・危機対応ライフラインに電話またはテキストで988まで連絡してください。AIが恐ろしいことをできる世界でも、人間には常に助けがあるからだ。