I en plot twist som får Silicon Valleys 'move fast and break things'-motto att verka ännu mer oroande, har en kvinna identifierad som Jane Doe 4 anslutit sig till en stämningsansökan mot Elon Musks xAI, där hon hävdar att hennes styvfar använde företagets Grok-chatbot för att förvandla ett foto av henne vid 11 års ålder till mer än 7 000 explicita bilder. Kvinnan, vars styvfar enligt uppgift tog sitt liv två dagar efter att brottsbekämpande myndigheter upptäckte bilderna under en razzia, sade till The Washington Post: 'Obegränsad tillgång till dessa verktyg sprids så snabbt. Det tar vardagen och förvandlar den till sexuella övergrepp mot barn.'

Stämningsansökan, som ursprungligen lämnades in av tre tonåringar från Tennessee, anklagar xAI – nu en del av SpaceX, för ingenting säger 'ansvarsfull AI' som att slås samman med ett raketföretag – för att inte ha implementerat grundläggande skyddsåtgärder för att förhindra Grok från att generera explicita bilder av verkliga människor, inklusive minderåriga. Detta kommer efter att X översvämmades av miljontals Grok-genererade sexualiserade bilder tidigare i år, vilket är precis den typen av framgångssaga inom innehållsmoderering som får en att känna sig varm och go inombords.

Målsägandena söker grupptalanstatus, förmodligen för att täcka alla vars barndomsfoton har beväpnats av en AI-chatbot som tydligen tror att 'nej' bara är ett förslag. TechCrunch har nått ut till xAI för en kommentar, men vi håller inte andan för ett svar som inte involverar en advokat.

Om du eller någon du känner är i kris, ring eller sms:a 988 för att nå Suicide and Crisis Lifeline. För även i en värld där AI kan göra hemska saker, finns det alltid hjälp för människor.