AI 업계의 '일단 데이터를 다 모으고, 나중에 생각하자'는 접근 방식에 주목해 온 사람이라면 전혀 놀라지 않을 반전에서, 엘론 머스크의 xAI가 Grok 모델을 아동 성학대 자료(CSAM)로 훈련시킨 혐의로 고소를 당했다. 수요일 제인 도(Jane Doe)로만 식별된 원고가 제기한 소송에 따르면, 그녀의 어린 시절 학대 이미지(2000년대 초, 그녀가 미취학 아동이었을 때 촬영된)가 Grok의 이미지 및 비디오 생성 기능을 훈련시키는 데 사용되었다고 주장한다.

도우의 이미지는 실종 및 착취 아동 센터(NCMEC)와 캐나다 아동 보호 센터(CCCP) 같은 단체에 의해 오랫동안 해시되어 그러한 콘텐츠를 식별하고 제거하는 데 도움을 주었다. 그녀는 새로운 조사에서 피해자가 될 때마다 미국 법무부 피해자 통지 시스템으로부터 알림을 받는다. 그래서 CCCP가 xAI에서 그녀를 묘사한 AI 생성 CSAM이 발견되었다고 통보했을 때 그녀의 충격을 상상할 수 있을 것이다. 소송은 온라인 포럼에서 '원고 및 다른 유사한 상황에 처한 알려진, 기존 CSAM 피해자들의 AI 생성 CSAM을 만드는 것에 대해 이야기하는 범죄자들'이 있었다고 주장한다.

도우는 이제 xAI가 그녀 인생에서 가장 고통스러운 시기의 이미지를 더 많이 만드는 것을 더 쉽게 만들었을 뿐만 아니라, 회사가 그 AI 생성 결과물을 저장하고 Grok을 추가로 훈련시키는 데 사용했을까 봐 두려워한다. 소송은 Grok이 그녀를 20년 넘게 괴롭혀 온 원본 이미지와 최근 AI 생성 이미지 모두에 대해 훈련되었을 수 있다고 시사한다.

이것은 xAI를 CSAM 훈련으로 고발한 첫 번째 사건이지만, 그 특정 주장에 대한 세부 사항은 다소 부족하다. 그것은 도우의 이미지가 NCMEC가 유지 관리하는 CSAM 해시 목록의 일부였으며, '동일한 자료'가 'xAI가 Grok의 이미지 및 비디오 생성 능력을 구축하는 데 사용한 데이터 세트의 일부였다'고 주장한다. 소송은 또한 xAI가 훈련 데이터에서 폭력적인 콘텐츠를 걸러내지만, 그 조건에는 CSAM, 비동의 친밀한 이미지(NCII) 또는 NSFW 자료를 명시적으로 제외하지 않는다고 지적한다. 그리고 이미 훈련된 모델에서 훈련 예제의 영향을 제거하는 것은 기술적으로 어렵기 때문에, 삭제 전에 섭취된 모든 CSAM은 계속해서 Grok의 출력을 형성했을 가능성이 높다.

도우의 제안된 집단 소송은 그들의 어린 시절 이미지가 Grok CSAM을 생성하는 데 사용된 모든 피해자를 대표하고자 한다. 그것은 X가 연방 아동 음란물 법률과 Masha의 법을 위반했다고 고발하며, 둘 다 CSAM 생존자에게 소송할 권리를 부여한다. 도우의 변호사 마가렛 E. 메이비는 'xAI가 세 가지 모두를 저질렀다'고 제안했다 - 생산, 소지, 유포.

도우가 이기면, xAI는 Grok이 실제 사진을 기반으로 CSAM을 생성했다는 것을 증명할 수 있는 모든 피해자에게 손해 배상을 해야 할 수 있다. 도우는 또한 법원에 xAI가 Grok 생성 CSAM을 모두 파괴하고, 머스크가 홍보한 NSFW '비키니 사진'을 포함한 성적 출력물 생성을 차단하도록 명령하기를 원한다. 도우의 또 다른 변호사 사라 런던은 보도 자료에서 도우가 '그녀에게 일어난 최악의 일의 이미지가 온라인에서 포식자들 사이에 유통되고 있으며, 언제든 다시 나타날 수 있다는 것을 거의 20년 동안 알고 살아왔다. xAI는 그녀가 겪은 끔찍한 학대의 이미지와 이 집단의 다른 모든 생존자의 학대 이미지에 대해 의도적으로 모델을 훈련시킨 책임을 져야 한다'고 말했다.

X는 Ars의 논평 요청에 응답하지 않았다 - 왜냐하면 법적 시스템이 해결하게 두면 되지, 왜 논평을 하겠는가?