In una svolta che non sorprende assolutamente nessuno che abbia prestato attenzione all'approccio 'raccogli tutti i dati, chiedi dopo' dell'industria dell'IA, la xAI di Elon Musk è stata colpita da una causa che sostiene che i suoi modelli Grok siano stati addestrati su materiale pedopornografico (CSAM). La denuncia, presentata mercoledì da una querelante identificata solo come Jane Doe, sostiene che le immagini dei suoi abusi infantili - catturate nei primi anni 2000 quando era in età prescolare - siano state utilizzate per addestrare le capacità di generazione di immagini e video di Grok.

Le immagini di Doe sono state a lungo sottoposte a hash da gruppi come il National Center for Missing and Exploited Children (NCMEC) e il Canadian Centre for Child Protection (CCCP) per aiutare a identificare e rimuovere tali contenuti. Riceve avvisi dal sistema di notifica alle vittime del Dipartimento di Giustizia degli Stati Uniti ogni volta che potrebbe essere una vittima in una nuova indagine. Quindi potete immaginare il suo shock quando il CCCP l'ha informata che era stato trovato CSAM generato dall'IA raffigurante lei su xAI. La denuncia sostiene che i forum online presentavano 'offensori che chiacchieravano della creazione di CSAM generato dall'IA della querelante e di altre vittime note, storiche, di CSAM.'

Ora Doe teme che xAI non solo abbia reso più facile creare più immagini del periodo più angosciante della sua vita, ma anche che l'azienda abbia memorizzato e utilizzato tali output generati dall'IA per addestrare ulteriormente Grok. La denuncia suggerisce che Grok potrebbe essere stato addestrato sia sulle immagini originali che la perseguitano da oltre 20 anni, sia su quelle recenti generate dall'IA.

Questa è la prima causa ad accusare xAI di addestramento su CSAM, ma la denuncia è un po' carente di dettagli su quella specifica affermazione. Si nota che le immagini di Doe facevano parte di una lista hash CSAM mantenuta dal NCMEC, e 'lo stesso materiale' sarebbe stato 'parte del dataset che xAI ha usato per costruire le capacità di generazione di immagini e video di Grok.' La denuncia sottolinea anche che mentre xAI filtra i contenuti violenti dai dati di addestramento, i suoi termini non escludono esplicitamente CSAM, immagini intime non consensuali (NCII) o materiale NSFW. E poiché rimuovere l'influenza di un esempio di addestramento da un modello già addestrato è tecnicamente difficile, qualsiasi CSAM ingerito prima della rimozione probabilmente ha continuato a modellare gli output di Grok.

La proposta di azione collettiva di Doe cerca di rappresentare ogni vittima le cui immagini infantili sono state utilizzate per generare CSAM di Grok. Accusa X di violare le leggi federali sulla pornografia infantile e la legge di Masha, entrambe danno ai sopravvissuti al CSAM il diritto di fare causa. L'avvocato di Doe, Margaret E. Mabie, ha suggerito che 'xAI ha fatto tutte e tre le cose' - produzione, possesso e distribuzione.

Se Doe vincesse, xAI potrebbe dover danni a ogni vittima che possa dimostrare che Grok ha generato CSAM basato sulle loro foto reali. Doe chiede anche alla corte di ordinare a xAI di distruggere tutto il CSAM generato da Grok e di bloccare Grok dal generare qualsiasi output sessualizzato, inclusi i 'bikini pics' NSFW che Musk ha promosso. Sarah London, un altro avvocato di Doe, ha detto in un comunicato stampa che Doe 'ha vissuto per quasi due decenni sapendo che le immagini della cosa peggiore che le sia mai successa circolano tra i predatori online, e che possono riemergere in qualsiasi momento. xAI deve essere ritenuta responsabile per aver consapevolmente addestrato i suoi modelli su immagini dell'orribile abuso che ha subito, e sulle immagini di abuso di ogni altro sopravvissuto in questa classe.'

X non ha risposto alla richiesta di commento di Ars - perché commentare quando puoi semplicemente lasciare che il sistema legale risolva tutto?