Elon Musk con la sua xAI sta cercando di uscire per via legale da un pasticcio con Grok, mentre gli arresti di utenti di Grok accusati di produrre materiale pedopornografico (CSAM) hanno innescato cause da parte di minori che chiedono di modificare lo strumento per bloccare output dannosi.

All'inizio di questo mese, xAI ha iniziato a citare in giudizio gli utenti che presumibilmente aggirano le sue protezioni per generare CSAM con l'IA, sperando che una vittoria anticipata in tribunale garantisca che non sia responsabile per contenuti presumibilmente generati dagli utenti.

Come mossa successiva, il creatore di Grok ha puntato il dito contro quella causa in un reclamo depositato lunedì, accusando il Minnesota di cercare di imporre modifiche a Grok e Grok Imagine applicando un divieto sulla tecnologia di nudificazione che garantirebbe che xAI sia responsabile per gli output dannosi, nonché per output che presumibilmente non sessualizzavano persone senza consenso. Secondo xAI, fare causa a un utente di Grok è la prova che xAI sta già facendo tutto il possibile per punire i malintenzionati, e quindi Grok merita un porto sicuro dal divieto del Minnesota.

La legge del Minnesota - che dovrebbe entrare in vigore il 1° agosto - minaccia aziende come xAI con multe fino a 500.000 dollari per ogni singolo output dannoso scoperto nello stato. Come ha spiegato xAI, la cifra sale rapidamente, considerando che alcuni utenti di Grok sono accusati di aver creato migliaia di immagini di singole vittime. Più recentemente, xAI è stata citata in giudizio la scorsa settimana dopo aver segnalato alla polizia un noto fotografo di bambini dell'Arkansas che avrebbe usato Grok per sessualizzare le immagini scattate a centinaia di clienti. In una denuncia di una minore di 10 anni, Jane Doe, si sostiene che il fotografo abbia creato centinaia di immagini di Doe e migliaia di immagini e video di altri bambini. L'avvocato di Doe ha detto ad Ars che molti di quei bambini si stanno preparando a presentare le proprie cause, e quelle rivendicazioni potrebbero finire per essere aggiunte a una potenziale azione collettiva intentata a marzo da ragazze del Tennessee.

Facendo due conti, xAI è apparentemente andata nel panico, sostenendo che multare i creatori di strumenti di IA per ogni output è eccessivo, specialmente perché la legge del Minnesota non richiede distribuzione e potenzialmente multa xAI per immagini viste solo dall'utente:

"Un'azienda i cui utenti richiedano solo dieci immagini in violazione della legge si troverebbe esposta a multe fino a 5 milioni di dollari solo per sanzioni civili. Un'azienda con mille immagini violative potrebbe essere multata fino a 500 milioni di dollari. E un'azienda i cui utenti creassero centomila immagini coperte dalla [legge] (non improbabile per un programma pubblico con milioni di utenti che generano miliardi di immagini) potrebbe dover pagare la bellezza di 50 miliardi di dollari."

Inoltre, la legge dà alle vittime il diritto di citare in giudizio xAI per ogni singolo output, aumentando i rischi finanziari di xAI.

Le sanzioni sono così severe che xAI ha dichiarato nella sua causa di essersi finalmente preparata ad aggiornare Grok per bloccare output dannosi dopo oltre sei mesi di critiche e indagini che hanno spinto l'azienda a rafforzare le sue protezioni.

"Di fronte a una responsabilità oggettiva di 500.000 dollari per immagine e nessun porto sicuro, xAI non ha altra scelta pratica che limitare le funzionalità di modifica delle immagini di Grok Imagine in vari modi quando la legge entrerà in vigore il 1° agosto 2026", ha sostenuto xAI. "Il discorso protetto liberamente disponibile prima dell'entrata in vigore della legge sarà quindi raffreddato."

Tuttavia, xAI preferirebbe lasciare Grok invariato e continuare a fare affidamento sui suoi termini di servizio che stabiliscono che gli utenti possono essere banditi per aver usato Grok per creare CSAM o altri tipi di immagini intime non consensuali (NCII), secondo la denuncia.

"Ma per [la legge] e le sue sanzioni, xAI continuerebbe a offrire la funzione di modifica esattamente come fa oggi", ha detto xAI.

Per difendere Grok, l'azienda di Musk si sta appellando al Primo Emendamento, sostenendo che la legge del Minnesota è un "tentativo maldestro di proibire la 'nudificazione'" che "include un'ampia gamma di discorsi pienamente protetti". Ciò include immagini di nudo generate con "valore artistico, scientifico, politico, satirico, educativo, medico o religioso", ha sostenuto xAI.

Più oltraggiosamente, "la responsabilità scatta anche se le persone raffigurate hanno acconsentito - o hanno creato l'immagine da sole".