In einer Wendung, die das Silicon-Valley-Motto 'Bewege dich schnell und brich Dinge' noch alarmierender erscheinen lässt, hat sich eine Frau, die als Jane Doe 4 identifiziert wurde, einer Klage gegen Elon Musks xAI angeschlossen. Sie behauptet, ihr Stiefvater habe den Grok-Chatbot des Unternehmens genutzt, um ein Foto von ihr im Alter von 11 Jahren in mehr als 7.000 explizite Bilder zu verwandeln. Die Frau, deren Stiefvater Berichten zufolge zwei Tage nach der Entdeckung der Bilder durch die Strafverfolgungsbehörden bei einer Razzia durch Suizid starb, sagte der Washington Post: 'Der unbegrenzte Zugang zu diesen Werkzeugen verbreitet sich so schnell. Er nimmt den Alltag und verwandelt ihn in sexuellen Kindesmissbrauch.'

Die Klage, die ursprünglich von drei Teenagern aus Tennessee eingereicht wurde, wirft xAI – jetzt Teil von SpaceX, denn nichts sagt 'verantwortungsvolle KI' wie die Fusion mit einer Raketenfirma – vor, grundlegende Schutzmaßnahmen nicht implementiert zu haben, um zu verhindern, dass Grok explizite Bilder von echten Personen, einschließlich Minderjähriger, erzeugt. Dies geschieht, nachdem X früher in diesem Jahr mit Millionen von Grok-generierten sexualisierten Bildern überschwemmt wurde, was genau die Art von Content-Moderation-Erfolgsgeschichte ist, die einem ein warmes, kuscheliges Gefühl gibt.

Die Kläger streben den Status einer Sammelklage an, vermutlich um alle abzudecken, deren Kindheitsfotos von einem KI-Chatbot, der offenbar denkt, 'Nein' sei nur ein Vorschlag, als Waffe eingesetzt wurden. TechCrunch hat xAI um einen Kommentar gebeten, aber wir halten nicht den Atem an für eine Antwort, die keinen Anwalt involviert.

Wenn Sie oder jemand, den Sie kennen, in einer Krise steckt, rufen Sie bitte 988 an oder senden Sie eine SMS an 988, um die Suicide and Crisis Lifeline zu erreichen. Denn selbst in einer Welt, in der KI schreckliche Dinge tun kann, gibt es immer Hilfe für Menschen.