Elon Musks xAI probeert zich uit een Grok-nachtmerrie te procederen, nu arrestaties van Grok-gebruikers die worden beschuldigd van het maken van kinderporno (CSAM) hebben geleid tot rechtszaken van kinderen om xAI te dwingen de tool aan te passen om schadelijke output te blokkeren.

Eerder deze maand begon xAI gebruikers aan te klagen die naar verluidt de beveiligingsmaatregelen omzeilen om AI-CSAM te genereren, blijkbaar in de hoop dat een vroege rechtszaak garandeert dat het niet aansprakelijk is voor zogenaamd door gebruikers gegenereerde inhoud.

Voor de volgende stap verwees de Grok-maker in een maandag ingediende klacht naar die rechtszaak, waarin het Minnesota ervan beschuldigt te proberen Grok en Grok Imagine te veranderen door een verbod op naaktificatietechnologie af te dwingen dat zou garanderen dat xAI aansprakelijk was voor de schadelijke output, evenals output die naar verluidt geen mensen zonder toestemming seksualiseerde. Volgens xAI is het aanklagen van een Grok-gebruiker het bewijs dat xAI al alles doet wat in zijn macht ligt om kwaadwillenden te straffen, en daarom verdient Grok een veilige haven van het verbod van Minnesota.

De wet van Minnesota - die op 1 augustus van kracht wordt - bedreigt bedrijven zoals xAI met boetes tot $500.000 voor elke schadelijke output die in de staat wordt ontdekt. Zoals xAI uitlegde, telt dat snel op, aangezien sommige Grok-gebruikers worden beschuldigd van het maken van duizenden afbeeldingen van één enkel slachtoffer. Meest recent werd xAI vorige week aangeklaagd nadat het de politie tipte over een bekende kinderfotograaf uit Arkansas die naar verluidt Grok gebruikte om afbeeldingen te seksualiseren die hij van honderden klanten had gemaakt. In een klacht van een 10-jarige Jane Doe wordt beweerd dat de fotograaf honderden afbeeldingen van Doe maakte, en duizenden afbeeldingen en video's van andere kinderen. De advocaat van Doe vertelde Ars dat veel van die kinderen zich voorbereiden om hun eigen rechtszaken aan te spannen, en die claims zouden kunnen worden toegevoegd aan een mogelijke class action die in maart werd aangespannen door jonge meisjes in Tennessee.

De wiskunde doend, raakte xAI blijkbaar in paniek en betoogde dat het beboeten van AI-toolmakers voor elke output buitensporig is, vooral omdat de wet van Minnesota geen distributievereiste heeft en xAI mogelijk beboet voor afbeeldingen die alleen de gebruiker zag:

"Een bedrijf waarvan gebruikers slechts tien afbeeldingen in strijd met de wet aanvragen, zou alleen al te maken krijgen met een blootstelling tot $5 miljoen aan civiele boetes. Een bedrijf met duizend overtredende afbeeldingen zou tot $500 miljoen kunnen worden beboet. En een bedrijf waarvan gebruikers honderdduizend afbeeldingen maken die onder [de wet] vallen (helemaal niet onwaarschijnlijk voor een openbaar programma met miljoenen gebruikers die miljarden afbeeldingen genereren) zou een oogverblindende $50 miljard dollar kunnen verschuldigd zijn."

Bovendien geeft de wet slachtoffers het recht om xAI aan te klagen voor elke individuele output, wat de financiële risico's van xAI vergroot.

De straffen zijn zo streng, zei xAI in zijn rechtszaak, dat het eindelijk voorbereidingen trof om Grok bij te werken om schadelijke output te blokkeren na meer dan zes maanden van terugslag en onderzoeken die het bedrijf onder druk zetten om zijn beveiligingsmaatregelen aan te scherpen.

"Geconfronteerd met strikte aansprakelijkheid van $500.000 per afbeelding en geen veilige haven, heeft xAI geen praktische keuze dan de beeldbewerkingsfuncties van Grok Imagine op verschillende manieren te beperken wanneer de wet op 1 augustus 2026 van kracht wordt," betoogde xAI. "Beschermde meningsuiting die vrij beschikbaar was voordat de wet van kracht werd, zal dus worden belemmerd."

xAI zou er echter de voorkeur aan geven Grok ongewijzigd te laten en te blijven vertrouwen op zijn gebruiksvoorwaarden die bepalen dat gebruikers kunnen worden verbannen voor het gebruik van Grok om CSAM of andere soorten niet-consensuele intieme afbeeldingen (NCII) te maken, aldus de klacht.

"Maar voor [de wet] en de straffen, zou xAI de bewerkingsfunctie precies blijven aanbieden zoals het vandaag doet," zei xAI.

Om Grok te verdedigen, grijpt Musk's bedrijf naar het Eerste Amendement, met het argument dat de wet van Minnesota een "onhandige poging is om 'naaktificatie' te verbieden" die "een breed scala aan volledig beschermde meningsuiting omvat." Dat omvat naaktfoto's gegenereerd met "artistieke, wetenschappelijke, politieke, satirische, educatieve, medische of religieuze waarde," betoogde xAI.

Het meest schrijnend: "aansprakelijkheid treedt zelfs in als de afgebeelde personen toestemming hebben gegeven - of de afbeelding zelf hebben gemaakt."