在一个对任何关注AI行业“先收集所有数据，再问问题”做法的人来说都不足为奇的剧情转折中，埃隆·马斯克的xAI被起诉，指控其Grok模型使用了儿童性虐待材料（CSAM）进行训练。周三，一位仅以Jane Doe身份出现的原告提起的诉讼称，她童年时期的虐待图像——拍摄于2000年代初，当时她还在学龄前——被用于训练Grok的图像和视频生成能力。

Doe的图像长期以来一直被国家失踪与受剥削儿童中心（NCMEC）和加拿大儿童保护中心（CCCP）等组织哈希化，以帮助识别和删除此类内容。每当她可能成为新调查的受害者时，她会收到美国司法部受害者通知系统的警报。所以，当她收到CCCP通知，称在xAI上发现了描绘她的AI生成的CSAM时，可以想象她的震惊。诉讼称，在线论坛上有“罪犯在聊天中讨论创建AI生成的CSAM，涉及原告及其他类似的已知的、遗留的CSAM受害者”。

Doe现在担心xAI不仅让制作更多她生命中最痛苦时期的图像变得更容易，而且公司还存储并使用了这些AI生成的输出，进一步训练Grok。诉讼暗示，Grok可能既使用了困扰她超过20年的原始图像，也使用了最近AI生成的图像进行训练。

这是第一起指控xAI使用CSAM训练的案件，但诉讼对这一具体指控的细节略显不足。它指出，Doe的图像是NCMEC维护的CSAM哈希列表的一部分，而“同样的材料”据称“是xAI用于构建Grok图像和视频生成能力的数据集的一部分”。诉讼还指出，虽然xAI从训练数据中过滤了暴力内容，但其条款并未明确排除CSAM、非自愿亲密图像（NCII）或NSFW材料。而且，由于从已训练模型中移除训练示例的影响在技术上很困难，任何在下架前摄入的CSAM都可能继续影响Grok的输出。

Doe提出的集体诉讼旨在代表每一位童年图像被用于生成Grok CSAM的受害者。它指控X公司违反了联邦儿童色情法和Masha's Law，这两项法律都赋予CSAM幸存者起诉的权利。Doe的律师Margaret E. Mabie表示，“xAI做了三件事”——制作、持有和分发。

如果Doe胜诉，xAI可能需要对每一位能证明Grok基于其真实照片生成CSAM的受害者进行赔偿。Doe还要求法院命令xAI销毁所有Grok生成的CSAM，并阻止Grok生成任何性化输出，包括马斯克推广的NSFW“比基尼照片”。Doe的另一位律师Sarah London在新闻稿中表示，Doe“近二十年来一直生活在知道她最糟糕事情的图像在网络上传播于罪犯之间，并且随时可能再次出现的阴影中。xAI必须为其明知故犯地使用她遭受的可怕虐待图像以及本集体中其他幸存者的虐待图像训练模型而负责。”

X公司未回应Ars的置评请求——因为当你可以让法律系统来解决时，为什么要评论呢？