面对越来越大的压力，要求承认Grok仍可用于生成未经同意的成人和儿童色情图片，xAI周二提起诉讼，起诉了埃隆·马斯克公司指控使用其聊天机器人创建非法内容的首位用户。

南卡罗来纳州检察官办公室宣布，该投诉针对特里·韦恩·哈伍德，他今年早些时候因持有和分发儿童性虐待材料（CSAM）被捕。

据xAI指控，该公司在发现哈伍德数月来使用两个xAI账户对多名受害者（包括一名看似年仅10岁的女孩）的非色情图片进行“脱衣”或“裸体化”处理后，协助了此次逮捕。

xAI的诉讼发生在一周多前，另一名年轻女孩加入了一项拟议的集体诉讼，代表多名据称受Grok伤害的儿童。她声称，继父在发现使用Grok（可能结合其他AI工具）创建了她7000张色情图片并在暗网分发后自杀。

在该案中，受害者指控xAI拒绝帮助警方识别将她的图片上传到Grok的用户。为支持xAI惯常做法的说法，她的律师引用了2026年国家失踪与受虐儿童中心（NCMEC）的报告，确认xAI的90%网络举报“因xAI拒绝提供允许执法部门追踪和定位犯罪者的用户信息而无法采取行动”。

在受害者指控xAI庇护犯罪者的同时，马斯克此前坚称未见过任何Grok生成的CSAM示例。他没有限制Grok输出使CSAM无法生成，而是警告用户负责任地行事，于1月3日在X上发帖称“任何使用Grok制作非法内容的人将面临与上传非法内容相同的后果”。

然而，在马斯克发帖的同时，哈伍德据称无视马斯克的警告，反复提示Grok直到聊天机器人生成可能的未经同意的露骨图片。

现在马斯克似乎无法否认Grok制造CSAM。xAI的诉讼称，哈伍德使用至少两个用户名复杂的账户——“ceae2cb4-a9f6-4885-8ae9-6e2096d084f4”和“befccb94-4029-454d-9f1f-0d4945e8fa7c”——从12月8日到2月18日生成非法内容。

有时Grok的安全措施确实阻止了有害输出，“拒绝遵循”某些提示，“理由是此类材料违反了Grok的内容审核护栏”。诉讼包含一个特别令人毛骨悚然的提示示例，Grok拒绝了该提示，使用“白色粘液”等短语掩盖生成色情图片的意图。

不过，该特定提示被拒绝可能有一个明显原因。哈伍德明确要求聊天机器人“脱掉她所有衣服”，这直接违反了xAI用户条款中关于不得要求对真人进行脱衣的规定。在拟议的集体诉讼中，据称xAI忽略了许多不良请求，在最近受害者的案件中，仅向NCMEC报告了7000个有害输出中的一个“轮奸”提示。

为避免其他不良行为者绕过安全措施，xAI未包含哈伍德成功提示的示例或描述绕过过滤器的方法。xAI仅指控哈伍德修改提示以绕过安全措施，“明显违反xAI服务条款和美国法律”，包括“一些”涉及“未成年人肖像”的“淫秽”图片请求。

南卡罗来纳州总检察长办公室的一位发言人告诉Ars，哈伍德的案件仍在审理中。具体来说，他被指控“分发、运输、展示、接收、销售、购买、交换或索取通过使用人工智能平台”的CSAM。

该发言人未被授权确认Grok是否为该平台。