실리콘밸리의 '빠르게 움직이고 물건을 부수라'는 모토가 더욱 우려스러워 보이게 만드는 반전에서, 제인 도 4로 식별된 한 여성이 엘론 머스크의 xAI를 상대로 한 소송에 합류했다. 그녀는 계부가 회사의 그록 챗봇을 사용하여 그녀가 11살 때 찍은 사진을 7,000장 이상의 음란 이미지로 변환했다고 주장한다. 계부는 법 집행 기관이 급습 중 이미지를 발견한 지 이틀 후 자살로 사망한 것으로 알려졌으며, 그녀는 워싱턴 포스트에 말했다: "이러한 도구에 대한 무제한적인 접근이 너무 빠르게 확산되고 있습니다. 일상적인 삶을 아동 성학대로 바꾸고 있습니다."

이 소송은 원래 테네시주 십대 3명이 제기한 것으로, xAI(이제 스페이스X의 일부 - 로켓 회사와 합병하는 것이 '책임 있는 AI'를 의미한다면 말이죠)가 실제 인물(미성년자 포함)의 음란 이미지를 생성하는 것을 방지하기 위한 기본적인 안전장치를 구현하지 않았다고 비난한다. 이는 올해 초 X에 그록이 생성한 수백만 개의 성적 이미지가 넘쳐난 이후에 나온 것으로, 이는 따뜻하고 포근한 느낌을 주는 콘텐츠 조정 성공 사례입니다.

원고들은 집단 소송 지위를 요구하고 있으며, 아마도 '아니오'는 단지 제안일 뿐이라고 생각하는 AI 챗봇에 의해 어린 시절 사진이 무기화된 모든 사람을 포함하려는 것으로 보입니다. TechCrunch는 논평을 위해 xAI에 연락했지만, 변호사가 개입되지 않은 답변을 기대하지는 않습니다.

만약 당신이나 아는 사람이 위기에 처해 있다면, 자살 및 위기 핫라인에 연락하려면 988로 전화하거나 문자를 보내십시오. AI가 끔찍한 일을 할 수 있는 세상에서도 인간을 위한 도움은 항상 있기 때문입니다.