Confruntată cu presiuni tot mai mari să recunoască faptul că Grok poate fi încă folosit pentru a genera imagini sexualizate neconsensuale ale adulților și minorilor, xAI a intentat marți un proces, dând în judecată primul utilizator pe care firma lui Elon Musk l-a acuzat că a folosit chatbot-ul său pentru a crea conținut ilegal.

Plângerea îl vizează pe Terry Wayne Harwood, care a fost arestat la începutul acestui an pentru posesie și distribuire de materiale de abuz sexual asupra copiilor (CSAM), a anunțat biroul procurorului din Carolina de Sud.

După cum a afirmat xAI, compania a asistat la acea arestare după ce a descoperit că Harwood folosise două conturi xAI luni de zile pentru a dezbrăca sau „nudifica” imagini non-sexuale ale mai multor victime, inclusiv o fată tânără care părea să aibă doar 10 ani.

Procesul xAI vine la puțin peste o săptămână după ce o altă fată tânără s-a alăturat unui proces colectiv propus reprezentând mai mulți copii presupus vătămați de Grok. Ea a susținut că tatăl ei vitreg s-a sinucis după ce a fost descoperit că folosea Grok, posibil împreună cu alte instrumente AI, pentru a crea 7.000 de imagini sexualizate ale ei și apoi le-a distribuit pe dark web.

În acest caz, victima a susținut că xAI a refuzat să ajute poliția să identifice utilizatorul care a încărcat imaginea ei pe Grok. Pentru a susține afirmațiile că este o practică obișnuită a xAI, avocații ei au citat un raport din 2026 al Centrului Național pentru Copii Dispăruți și Exploatați (NCMEC) care confirmă că 90% din rapoartele CyberTipline ale xAI „nu erau acționabile de către autorități, deoarece xAI a refuzat să includă informații despre utilizator care ar permite autorităților să urmărească și să localizeze infractorii.”

În timp ce victimele acuzau X că protejează prădătorii, Musk susținuse anterior că nu văzuse niciun exemplu de CSAM generat de Grok. În loc să restricționeze ieșirile Grok pentru a face imposibilă generarea de CSAM, Musk a avertizat utilizatorii să se comporte responsabil, postând pe X pe 3 ianuarie că „oricine folosește Grok pentru a face conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal.”

În timp ce Musk posta, însă, Harwood ignora probabil avertismentul lui Musk și îl îndemna pe Grok de câte ori era nevoie pentru a face chatbot-ul să genereze imagini explicite probabil neconsensuale.

Acum Musk nu mai poate nega că Grok produce CSAM. Procesul xAI a susținut că Harwood a folosit cel puțin două conturi cu nume de utilizator complicate – „ceae2cb4-a9f6-4885-8ae9-6e2096d084f4” și „befccb94-4029-454d-9f1f-0d4945e8fa7c” – pentru a genera conținut ilegal între 8 decembrie și 18 februarie.

Uneori, măsurile de siguranță Grok au prevenit rezultate dăunătoare, „refuzând să urmeze” unele dintre solicitări „pe motiv că un astfel de material încălca gardurile de moderare a conținutului Grok.” Procesul include un exemplu de solicitare deosebit de înfiorătoare pe care Grok a respins-o, folosind fraze precum „slime alb” pentru a masca intenția de a genera imagini sexualizate.

Acea solicitare particulară poate fi fost respinsă dintr-un motiv evident, totuși. Harwood a cerut explicit chatbot-ului să „îndepărteze toate hainele ei,” ceea ce încalcă direct termenii de utilizare xAI împotriva cererilor de a dezbrăca persoane reale. În procesul colectiv propus, se susține că xAI trece cu vederea o mulțime de cereri rele, raportând doar către NCMEC o singură solicitare de a descrie „viol în grup” din 7.000 de rezultate dăunătoare în cazul celei mai recente victime.

Probabil pentru a evita ca alți actori rău intenționați să ocolească măsurile de siguranță, xAI nu a inclus exemple de solicitări reușite ale lui Harwood sau metode folosite pentru a ocoli filtrele. xAI a susținut doar că Harwood a modificat solicitările pentru a ocoli măsurile de siguranță „în încălcare clară a Termenilor de Serviciu xAI și a legii SUA,” inclusiv „unele” cereri pentru imagini „obscene” care implică „asemănarea copiilor minori.”

Un purtător de cuvânt al biroului procurorului general din Carolina de Sud a declarat pentru Ars că cazul lui Harwood este încă în curs. Mai exact, el a fost acuzat de „distribuirea, transportarea, expunerea, primirea, vânzarea, cumpărarea, schimbul sau solicitarea de CSAM care a fost ‘prin utilizarea unei platforme de inteligență artificială.’”

Purtătorul de cuvânt nu a fost autorizat să verifice dacă Grok a fost platforma u