埃隆·马斯克的xAI正试图通过诉讼摆脱Grok的麻烦，因为Grok用户因制作儿童性虐待材料（CSAM）被捕，引发了儿童起诉xAI要求修改工具以阻止有害输出的诉讼。

本月早些时候，xAI开始起诉涉嫌绕过其安全措施生成AI CSAM的用户，似乎希望早期胜诉能保证其对所谓用户生成内容不承担责任。

作为下一步行动，Grok制造商在周一提交的投诉中引用了那起诉讼，指控明尼苏达州试图通过执行禁止“脱衣”技术的法律来强制修改Grok和Grok Imagine，这将使xAI对有害输出以及据称未经同意将人物色情化的输出负责。根据xAI的说法，起诉Grok用户证明xAI已经在尽一切努力惩罚不良行为者，因此Grok应免受明尼苏达州禁令的“安全港”保护。

明尼苏达州的法律——将于8月1日生效——威胁要对在该州发现的每一件有害输出处以最高50万美元的罚款。正如xAI解释的那样，考虑到一些Grok用户被指控制作了数千张针对单一受害者的图片，罚款会迅速累积。最近，xAI上周被起诉，此前它向警方举报了一位著名的阿肯色州儿童摄影师，该摄影师涉嫌使用Grok将拍摄的数百名客户的照片色情化。在一份10岁Jane Doe的投诉中，据称该摄影师制作了数百张Doe的图片，以及数千张其他孩子的图片和视频。Doe的律师告诉Ars，许多孩子正准备提起自己的诉讼，这些索赔可能会被添加到3月份田纳西州年轻女孩提起的潜在集体诉讼中。

算下来，xAI似乎慌了，辩称对AI工具制造商的每项输出进行罚款是过度的，特别是明尼苏达州的法律没有分发要求，可能对只有用户看到的图片罚款xAI：

“一个用户仅请求十张违反法规图片的公司将面临高达500万美元的民事罚款。一个拥有千张违规图片的公司可能被罚款5亿美元。而一个用户创建了10万张覆盖[法律]图片的企业（对于拥有数百万用户生成数十亿图片的公开程序来说并非不可能）可能欠下惊人的500亿美元。”

此外，该法律赋予受害者就任何单个输出起诉xAI的权利，这增加了xAI的财务风险。

xAI在诉讼中表示，这些处罚如此严厉，以至于它终于准备更新Grok以阻止有害输出，此前六个多月来一直面临批评和调查，迫使其加强安全措施。

“面对每张图片50万美元的严格责任且没有安全港，xAI别无选择，只能在2026年8月1日法律生效时以各种方式限制Grok Imagine的图像编辑功能，”xAI辩称。“法律生效前自由可用的受保护言论将因此受到压制。”

然而，xAI更愿意保持Grok不变，并继续依赖其使用条款，规定用户可能因使用Grok制作CSAM或其他类型的未经同意的私密图像（NCII）而被封禁，其投诉称。

“要不是[该法律]及其处罚，xAI会像今天一样继续提供编辑功能，”xAI说。

为了捍卫Grok，马斯克的公司求助于第一修正案，认为明尼苏达州的法律是“禁止‘脱衣’的笨拙尝试”，它“涵盖了广泛的完全受保护的言论”。这包括具有“艺术、科学、政治、讽刺、教育、医疗或宗教价值”的裸体图像，xAI辩称。

最令人震惊的是，“即使被描绘的人同意——或自己创建了图像，责任也会产生。”