In een plotwending die Silicon Valley's motto 'move fast and break things' nog alarmerender doet lijken, is een vrouw, geïdentificeerd als Jane Doe 4, toegetreden tot een rechtszaak tegen Elon Musk's xAI, waarin ze beweert dat haar stiefvader de Grok-chatbot van het bedrijf gebruikte om een foto van haar op 11-jarige leeftijd om te zetten in meer dan 7.000 expliciete afbeeldingen. De vrouw, wiens stiefvader naar verluidt zelfmoord pleegde twee dagen nadat wetshandhavers de afbeeldingen tijdens een inval hadden ontdekt, vertelde aan The Washington Post: 'Onbeperkte toegang tot deze tools verspreidt zich zo snel. Het neemt het dagelijks leven en verandert het in seksueel misbruik van kinderen.'

De rechtszaak, oorspronkelijk aangespannen door drie tieners uit Tennessee, beschuldigt xAI - nu onderdeel van SpaceX, want niets zegt 'verantwoorde AI' zoals fuseren met een raketbedrijf - van het niet implementeren van basisveiligheidsmaatregelen om te voorkomen dat Grok expliciete afbeeldingen van echte mensen, inclusief minderjarigen, genereert. Dit komt nadat X eerder dit jaar overspoeld werd met miljoenen door Grok gegenereerde seksualiseerde afbeeldingen, precies het soort contentmoderatiesuccesverhaal dat je een warm en fuzzy gevoel van binnen geeft.

De eisers streven naar een class action-status, vermoedelijk om iedereen te dekken wiens kinderfoto's zijn bewapend door een AI-chatbot die blijkbaar denkt dat 'nee' slechts een suggestie is. TechCrunch heeft contact opgenomen met xAI voor commentaar, maar we houden onze adem niet in voor een reactie die geen advocaat inhoudt.

Als u of iemand die u kent in crisis verkeert, bel of sms dan 988 om de Suicide and Crisis Lifeline te bereiken. Want zelfs in een wereld waar AI verschrikkelijke dingen kan doen, is er altijd hulp voor mensen.