xAI verklagt Minnesota: 500.000 Dollar pro Bild Strafe sind etwas übertrieben

Elon Musks xAI versucht, sich aus einer Grok-Abrechnung herauszuklagen, während Verhaftungen von Grok-Nutzern, die beschuldigt werden, Material über sexuellen Kindesmissbrauch (CSAM) hergestellt zu haben, Klagen von Kindern ausgelöst haben, die xAI zwingen wollen, das Tool zu ändern, um schädliche Ausgaben zu blockieren.

Anfang dieses Monats verklagte xAI Nutzer, die angeblich seine Sicherheitsvorkehrungen umgehen, um KI-CSAM zu erzeugen, offenbar in der Hoffnung, dass ein früher Gerichtssieg garantiert, dass es nicht für angeblich nutzergenerierte Inhalte haftet.

Als nächsten Schritt verwies der Grok-Hersteller in einer am Montag eingereichten Beschwerde auf diese Klage und beschuldigte Minnesota, zu versuchen, Änderungen an Grok und Grok Imagine zu erzwingen, indem es ein Verbot von Nudification-Technologie durchsetzt, das sicherstellen würde, dass xAI für die schädlichen Ausgaben haftet, sowie für Ausgaben, die angeblich keine Menschen ohne Zustimmung sexualisieren. Laut xAI ist die Verklagung eines Grok-Nutzers der Beweis, dass xAI bereits alles in seiner Macht Stehende tue, um Übeltäter zu bestrafen, und daher verdiene Grok einen sicheren Hafen vor Minnesotas Verbot.

Minnesotas Gesetz – das am 1. August in Kraft treten soll – droht Unternehmen wie xAI mit Geldstrafen von bis zu 500.000 Dollar für jede einzelne schädliche Ausgabe, die im Bundesstaat entdeckt wird. Wie xAI erklärte, summiert sich das schnell, wenn man bedenkt, dass einige Grok-Nutzer beschuldigt werden, Tausende von Bildern einzelner Opfer erstellt zu haben. Am meisten wurde xAI letzte Woche verklagt, nachdem es der Polizei einen bekannten Kinderfotografen aus Arkansas gemeldet hatte, der angeblich Grok benutzte, um Bilder von Hunderten von Kunden zu sexualisieren. In einer Beschwerde einer 10-jährigen Jane Doe wird behauptet, der Fotograf habe Hunderte von Bildern von Doe und Tausende von Bildern und Videos von anderen Kindern erstellt. Does Anwalt sagte Ars, dass viele dieser Kinder ihre eigenen Klagen vorbereiten und diese Ansprüche möglicherweise einer potenziellen Sammelklage hinzugefügt werden könnten, die im März von jungen Mädchen in Tennessee eingereicht wurde.

Wenn man die Mathematik macht, geriet xAI offenbar in Panik und argumentierte, dass die Bestrafung von KI-Tool-Herstellern für jede Ausgabe übertrieben sei, insbesondere da Minnesotas Gesetz keine Verteilungsanforderung hat und xAI möglicherweise für Bilder bestraft, die nur der Nutzer gesehen hat:

„Ein Unternehmen, dessen Nutzer nur zehn Bilder unter Verstoß gegen das Gesetz anfordern, wäre allein mit zivilrechtlichen Strafen von bis zu 5 Millionen Dollar konfrontiert. Ein Unternehmen mit tausend verstoßenden Bildern könnte mit bis zu 500 Millionen Dollar bestraft werden. Und ein Unternehmen, dessen Nutzer hunderttausend Bilder erstellen, die unter [das Gesetz] fallen (für ein öffentlich zugängliches Programm mit Millionen von Nutzern, die Milliarden von Bildern generieren, nicht unwahrscheinlich), könnte atemberaubende 50 Milliarden Dollar schulden.“

Darüber hinaus gibt das Gesetz den Opfern das Recht, xAI wegen jeder einzelnen Ausgabe zu verklagen, was die finanziellen Risiken von xAI erhöht.

Die Strafen sind so schwerwiegend, dass xAI in seiner Klage sagte, es bereite endlich vor, Grok zu aktualisieren, um schädliche Ausgaben zu blockieren, nach mehr als sechs Monaten Gegenwind und Untersuchungen, die das Unternehmen unter Druck setzten, seine Sicherheitsvorkehrungen zu verschärfen.

„Konfrontiert mit einer strengen Haftung von 500.000 Dollar pro Bild und keinem sicheren Hafen hat xAI praktisch keine andere Wahl, als die Bildbearbeitungsfunktionen von Grok Imagine auf verschiedene Weise einzuschränken, wenn das Gesetz am 1. August 2026 in Kraft tritt“, argumentierte xAI. „Geschützte Rede, die vor Inkrafttreten des Gesetzes frei verfügbar war, wird dadurch unterdrückt.“

Allerdings würde xAI es vorziehen, Grok unverändert zu lassen und sich weiterhin auf seine Nutzungsbedingungen zu verlassen, die besagen, dass Nutzer gesperrt werden können, wenn sie Grok zur Erstellung von CSAM oder anderen nicht einvernehmlichen intimen Bildern (NCII) verwenden, so die Beschwerde.

„Aber für [das Gesetz] und seine Strafen würde xAI die Bearbeitungsfunktion genau so anbieten, wie sie es heute tut“, sagte xAI.

Um Grok zu verteidigen, beruft sich Musks Firma auf den Ersten Verfassungszusatz und argumentiert, dass Minnesotas Gesetz ein „ungeschickter Versuch ist, ‚Nudification‘ zu verbieten“, der „eine breite Palette vollständig geschützter Rede erfasst“. Dazu gehören Nacktbilder, die mit „künstlerischem, wissenschaftlichem, politischem, satirischem, pädagogischem, medizinischem oder religiösem Wert“ erstellt wurden, argumentierte xAI.

Am krassesten: „Die Haftung greift selbst dann, wenn die abgebildeten Personen zugestimmt haben – oder das Bild selbst erstellt haben.“