일론 머스크의 xAI가 그록(Grok)의 위기에서 벗어나기 위해 소송을 제기하고 있다. 그록 사용자들이 아동 성적 학대 자료(CSAM)를 생성한 혐의로 체포되면서, 피해 아동들이 xAI를 상대로 소송을 제기해 유해 출력물을 차단하도록 도구를 변경하라고 요구하고 있다.

이달 초, xAI는 자사의 안전장치를 우회해 AI CSAM을 생성한 사용자들을 고소하기 시작했다. 조기 승소를 통해 사용자 생성 콘텐츠에 대해 책임을 지지 않는다는 점을 확보하려는 의도로 보인다.

다음 행보로, 그록 제작사는 월요일 제기한 소장에서 미네소타주를 겨냥했다. 미네소타주가 누디피케이션 기술 금지를 강제해 xAI가 유해 출력물에 대해 책임을 지도록 하고, 동의 없이 성적 대상화하지 않은 출력물까지 책임을 지도록 한다는 주장이다. xAI에 따르면, 그록 사용자를 고소한 것은 xAI가 이미 불량 행위자를 처벌하기 위해 모든 조치를 취하고 있다는 증거이며, 따라서 그록은 미네소타주의 금지로부터 안전한 피난처를 받을 자격이 있다고 한다.

미네소타주의 법률은 8월 1일 발효 예정이며, 주 내에서 발견된 유해 출력물 하나당 최대 50만 달러의 벌금을 xAI 같은 기업에 부과한다. xAI가 설명했듯이, 일부 그록 사용자가 단일 피해자의 이미지를 수천 장 생성한 혐의를 받는 상황에서 이 벌금은 빠르게 누적된다. 가장 최근에는, xAI가 지난주 아칸소의 유명 아동 사진작가가 그록을 사용해 수백 명의 고객 사진을 성적 대상화했다고 경찰에 신고한 후 소송을 당했다. 10세 제인 도의 소장에 따르면, 그 사진작가는 도의 이미지 수백 장과 다른 아이들의 이미지 및 비디오 수천 장을 생성했다고 한다. 도의 변호사는 Ars에 많은 아이들이 자신들의 소송을 준비 중이며, 이 청구들은 3월 테네시에서 어린 소녀들이 제기한 잠재적 집단 소송에 추가될 수 있다고 말했다.

계산을 해보니, xAI는 당황한 듯하다. AI 도구 제작자에게 출력물 하나당 벌금을 부과하는 것은 과도하며, 특히 미네소타주의 법률에는 배포 요건이 없어 사용자만 본 이미지에 대해서도 xAI가 벌금을 물 수 있다고 주장한다:

"사용자가 법을 위반하는 이미지를 단 10장만 요청해도 회사는 최대 500만 달러의 민사 처벌에 직면합니다. 위반 이미지가 1,000장인 회사는 최대 5억 달러의 벌금을 물 수 있습니다. 그리고 (수백만 사용자가 수십억 장의 이미지를 생성하는 공개 프로그램에서 전혀 드문 일이 아닌) 법이 적용되는 이미지를 10만 장 생성한 기업은 무려 500억 달러를 부담할 수 있습니다."

게다가, 이 법률은 피해자에게 개별 출력물에 대해 xAI를 고소할 권리를 부여해 xAI의 재정적 위험을 증가시킨다.

xAI는 소장에서 벌금이 너무 가혹해, 6개월 넘게 역풍과 조사 압박을 받은 후에야 마침내 유해 출력물을 차단하도록 그록을 업데이트할 준비를 하고 있다고 밝혔다.

"이미지당 50만 달러의 무과실 책임과 안전 피난처 없이, xAI는 2026년 8월 1일 법률 발효 시 그록 이매진의 이미지 편집 기능을 여러 방식으로 제한할 수밖에 없습니다," xAI는 주장했다. "법률 발효 전에 자유롭게 이용 가능했던 보호받는 표현이 이로 인해 위축될 것입니다."

그러나 xAI는 그록을 변경하지 않고, 사용자가 CSAM이나 기타 비동의 친밀 이미지(NCII)를 생성하는 데 그록을 사용하면 차단될 수 있다는 이용약관에 계속 의존하는 것을 선호한다고 소장은 밝혔다.

"하지만 [이 법률]과 그 벌금이 없다면, xAI는 편집 기능을 지금과 똑같이 계속 제공할 것입니다," xAI는 말했다.

그록을 방어하기 위해 머스크의 회사는 수정헌법 제1조를 활용하고 있다. 미네소타주의 법률은 '누디피케이션'을 금지하려는 '서투른 시도'로, '완전히 보호받는 광범위한 표현을 포함한다'고 주장한다. 여기에는 '예술적, 과학적, 정치적, 풍자적, 교육적, 의학적 또는 종교적 가치'가 있는 누드 이미지 생성도 포함된다고 xAI는 주장했다.

가장 심각한 점은, '묘사된 사람이 동의했거나 이미지를 직접 생성했더라도 책임이 발생한다'는 것이다.