Pod presją rosnących zarzutów, że Grok wciąż może być używany do generowania niekonsensualnych seksualnych obrazów dorosłych i nieletnich, xAI złożyło pozew we wtorek, pozywając pierwszego użytkownika, którego firma Elona Muska oskarżyła o używanie jej chatbota do tworzenia nielegalnych treści.

Skarga dotyczy Terry'ego Wayne'a Harwooda, który został aresztowany wcześniej w tym roku za posiadanie i dystrybucję materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM), ogłosiło biuro prokuratora Karoliny Południowej.

Jak twierdzi xAI, firma pomogła w tym aresztowaniu po odkryciu, że Harwood używał dwóch kont xAI przez miesiące do rozbierania lub „nudyfikacji” nieseksualnych zdjęć wielu ofiar, w tym młodej dziewczynki, która wydawała się mieć zaledwie 10 lat.

Pozew xAI pojawia się nieco ponad tydzień po tym, jak inna młoda dziewczyna dołączyła do proponowanego pozwu zbiorowego reprezentującego kilkoro dzieci rzekomo skrzywdzonych przez Groka. Twierdziła, że jej ojczym popełnił samobójstwo po tym, jak odkryto, że używał Groka, prawdopodobnie w połączeniu z innymi narzędziami AI, do tworzenia 7000 seksualnych obrazów jej, a następnie rozpowszechniania ich w darknecie.

W tej sprawie ofiara twierdziła, że xAI odmówiło pomocy policji w identyfikacji użytkownika, który przesłał jej wizerunek do Groka. Aby poprzeć twierdzenia, że jest to powszechna praktyka xAI, jej prawnicy przytoczyli raport National Center for Missing & Exploited Children (NCMEC) z 2026 roku, potwierdzający, że 90 procent zgłoszeń xAI do CyberTipline „nie było możliwych do wykorzystania przez organy ścigania, ponieważ xAI odmówiło podania informacji o użytkowniku, które pozwoliłyby organom ścigania na namierzenie i zlokalizowanie sprawców”.

Gdy ofiary oskarżały X o ochronę drapieżników, Musk wcześniej utrzymywał, że nie widział żadnych przykładów CSAM wygenerowanego przez Groka. Zamiast ograniczyć możliwości Groka, aby uniemożliwić generowanie CSAM, Musk ostrzegł użytkowników, aby zachowywali się odpowiedzialnie, pisząc na X 3 stycznia: „każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby przesłał nielegalne treści”.

Podczas gdy Musk to pisał, Harwood rzekomo ignorował ostrzeżenie Muska i wielokrotnie nakłaniał Groka do wygenerowania prawdopodobnie niekonsensualnych jawnych obrazów.

Teraz Musk najwyraźniej nie może zaprzeczyć, że Grok tworzy CSAM. Pozew xAI twierdzi, że Harwood używał co najmniej dwóch kont o zawiłych nazwach użytkownika – „ceae2cb4-a9f6-4885-8ae9-6e2096d084f4” i „befccb94-4029-454d-9f1f-0d4945e8fa7c” – do generowania nielegalnych treści od 8 grudnia do 18 lutego.

Czasami zabezpieczenia Groka zapobiegały szkodliwym wynikom, „odmawiając wykonania” niektórych poleceń „na podstawie tego, że takie materiały naruszały ograniczenia moderacji treści Groka”. Pozew zawiera przykład szczególnie niepokojącego polecenia, które Grok odrzucił, używając zwrotów takich jak „biały szlam”, aby zamaskować zamiar wygenerowania seksualnych obrazów.

To konkretne polecenie mogło zostać odrzucone z oczywistego powodu. Harwood wyraźnie poprosił chatbota o „usunięcie całej jej odzieży”, co bezpośrednio narusza warunki użytkowania xAI dotyczące próśb o rozbieranie prawdziwych osób. W proponowanym pozwie zbiorowym zarzuca się, że xAI pomija wiele złych próśb, zgłaszając do NCMEC tylko jedno polecenie przedstawiające „gwałt zbiorowy” spośród 7000 szkodliwych wyników w przypadku ostatniej ofiary.

Prawdopodobnie aby uniknąć innych złych aktorów obchodzących zabezpieczenia, xAI nie dołączyło przykładów udanych poleceń Harwooda ani nie opisało metod użytych do ominięcia filtrów. xAI twierdziło jedynie, że Harwood modyfikował polecenia, aby ominąć zabezpieczenia „z wyraźnym naruszeniem Warunków korzystania z usług xAI i prawa USA”, w tym „niektóre” prośby o „obsceniczne” obrazy przedstawiające „podobieństwo małoletnich dzieci”.

Rzecznik biura prokuratora generalnego Karoliny Południowej powiedział Ars, że sprawa Harwooda jest w toku. W szczególności został oskarżony o „dystrybucję, transport, wystawianie, otrzymywanie, sprzedaż, kupno, wymianę lub solicitację CSAM, które zostały ‘za pośrednictwem platformy sztucznej inteligencji’”.

Rzecznik nie był upoważniony do potwierdzenia, czy platformą był Grok.