xAI, compania lui Elon Musk, încearcă să scape de o problemă Grok dând în judecată statul Minnesota, pe măsură ce arestările utilizatorilor Grok acuzați de crearea de materiale cu abuz sexual asupra copiilor (CSAM) au declanșat procese din partea copiilor care cer modificări ale instrumentului pentru a bloca rezultatele dăunătoare.

La începutul acestei luni, xAI a început să dea în judecată utilizatorii care ar fi ocolit măsurile de siguranță pentru a genera CSAM cu AI, sperând aparent că o victorie timpurie în instanță va garanta că nu este răspunzătoare pentru conținutul presupus generat de utilizatori.

Următoarea mișcare a producătorului Grok a fost să se refere la acel proces într-o plângere depusă luni, acuzând Minnesota că încearcă să forțeze modificări ale Grok și Grok Imagine prin aplicarea unei interdicții asupra tehnologiei de nudificare care ar garanta că xAI este răspunzătoare pentru rezultatele dăunătoare, precum și pentru rezultatele care nu ar fi sexualizat persoane fără consimțământ. Potrivit xAI, darea în judecată a unui utilizator Grok este dovada că xAI face deja tot ce poate pentru a pedepsi actorii rău intenționați și, prin urmare, Grok merită un port sigur față de interdicția din Minnesota.

Legea Minnesota - care urmează să intre în vigoare pe 1 august - amenință companii precum xAI cu amenzi de până la 500.000$ pentru fiecare rezultat dăunător descoperit în stat. După cum explică xAI, asta se adună rapid, având în vedere că unii utilizatori Grok sunt acuzați că au făcut mii de imagini ale unor singure victime. Cel mai recent, xAI a fost dată în judecată săptămâna trecută după ce a alertat poliția cu privire la un cunoscut fotograf de copii din Arkansas care ar fi folosit Grok pentru a sexualiza imagini pe care le-a făcut sutelor de clienți. Într-o plângere a unei Jane Doe de 10 ani, se susține că fotograful a făcut sute de imagini ale lui Doe și mii de imagini și videoclipuri ale altor copii. Avocatul lui Doe a spus pentru Ars că mulți dintre acei copii se pregătesc să depună propriile procese, iar aceste cereri ar putea fi adăugate la un potențial proces colectiv depus în martie de fete tinere din Tennessee.

Făcând calculul, xAI s-a panicat aparent, susținând că amendarea producătorilor de instrumente AI pentru fiecare rezultat este excesivă, mai ales că legea Minnesota nu are nicio cerință de distribuție și amendează potențial xAI pentru imagini pe care doar utilizatorul le-a văzut:

„O companie ai cărei utilizatori solicită doar zece imagini care încalcă legea s-ar confrunta cu o expunere de până la 5 milioane de dolari numai în amenzi civile. O companie cu o mie de imagini care încalcă legea ar putea fi amendată cu până la 500 de milioane de dolari. Iar o afacere ai cărei utilizatori au creat o sută de mii de imagini acoperite de [lege] (deloc improbabil pentru un program disponibil public cu milioane de utilizatori care generează miliarde de imagini) ar putea datora o sumă uluitoare de 50 de miliarde de dolari.”

În plus, legea oferă victimelor dreptul de a da în judecată xAI pentru orice rezultat individual, ceea ce crește riscurile financiare ale xAI.

Amendamentele sunt atât de severe, încât xAI a spus în procesul său că se pregătește în sfârșit să actualizeze Grok pentru a bloca rezultatele dăunătoare după mai mult de șase luni de reacții negative și investigații care au presat compania să își strângă măsurile de siguranță.

„Confruntată cu răspunderea strictă de 500.000$ per imagine și fără port sigur, xAI nu are altă alegere practică decât să restricționeze caracteristicile de editare a imaginilor Grok Imagine în diverse moduri când legea intră în vigoare pe 1 august 2026”, a susținut xAI. „Discursul protejat liber disponibil înainte ca legea să intre în vigoare va fi astfel înghețat.”

Cu toate acestea, xAI ar prefera să lase Grok neschimbat și să continue să se bazeze pe termenii săi de utilizare care stipulează că utilizatorii pot fi interziși pentru folosirea Grok pentru a face CSAM sau alte tipuri de imagini intime fără consimțământ (NCII), se arată în plângerea sa.

„Dar pentru [lege] și amenzile sale, xAI ar continua să ofere caracteristica de editare exact așa cum o face astăzi”, a spus xAI.

Pentru a apăra Grok, firma lui Musk apelează la Primul Amendament, susținând că legea Minnesota este o „încercare stângace de a interzice ‘nudificarea’” care „include o gamă largă de discursuri complet protejate.” Aceasta include imagini nud generate cu „valoare artistică, științifică, politică, satirică, educațională, medicală sau religioasă”, a susținut xAI.

Cel mai grav, „răspunderea se aplică chiar dacă persoanele reprezentate au consimțit - sau au creat imaginea ele însele.”