In una svolta che rende il motto della Silicon Valley 'muoviti in fretta e rompi le cose' ancora più allarmante, una donna identificata come Jane Doe 4 si è unita a una causa contro xAI di Elon Musk, sostenendo che il suo patrigno ha usato il chatbot Grok dell'azienda per trasformare una sua foto all'età di 11 anni in più di 7.000 immagini esplicite. La donna, il cui patrigno sarebbe morto suicida due giorni dopo che le forze dell'ordine hanno scoperto le immagini durante una perquisizione, ha detto al Washington Post: 'L'accesso illimitato a questi strumenti si sta diffondendo così in fretta. Sta trasformando la vita di tutti i giorni in abuso sessuale su minori.'

La causa, originariamente intentata da tre adolescenti del Tennessee, accusa xAI - ora parte di SpaceX, perché nulla dice 'IA responsabile' come fondersi con un'azienda di razzi - di non aver implementato salvaguardie di base per impedire a Grok di generare immagini esplicite di persone reali, inclusi minori. Questo arriva dopo che X è stata inondata da milioni di immagini sessualizzate generate da Grok all'inizio di quest'anno, che è esattamente il tipo di storia di successo nella moderazione dei contenuti che ti fa sentire caldo e confuso dentro.

I querelanti chiedono lo status di azione collettiva, presumibilmente per coprire tutti coloro le cui foto d'infanzia sono state armate da un chatbot IA che apparentemente pensa che 'no' sia solo un suggerimento. TechCrunch ha contattato xAI per un commento, ma non tratteniamo il respiro per una risposta che non coinvolga un avvocato.

Se tu o qualcuno che conosci è in crisi, chiama o invia un messaggio al 988 per raggiungere la Suicide and Crisis Lifeline. Perché anche in un mondo in cui l'IA può fare cose terribili, c'è sempre aiuto per gli umani.