Under ökande press att erkänna att Grok fortfarande kan användas för att generera icke-samtyckliga sexualiserade bilder av vuxna och minderåriga, lämnade xAI in en stämningsansökan på tisdagen och stämde den första användaren som Elon Musks företag har anklagat för att använda sin chattbot för att skapa olagligt innehåll.

Klagomålet riktar sig mot Terry Wayne Harwood, som greps tidigare i år för innehav och spridning av material med sexuella övergrepp mot barn (CSAM), meddelade åklagarmyndigheten i South Carolina.

Enligt xAI:s påståenden hjälpte företaget till med gripandet efter att ha upptäckt att Harwood i månader hade använt två xAI-konton för att klä av eller "nudifiera" icke-sexuella bilder av flera offer, inklusive en ung flicka som verkade vara så ung som 10 år.

xAI:s stämningsansökan kommer drygt en vecka efter att en annan ung flicka anslöt sig till en föreslagen grupptalan som representerar flera barn som påstås ha skadats av Grok. Hon påstod att hennes styvfar begick självmord efter att han upptäcktes använda Grok, möjligen i kombination med andra AI-verktyg, för att skapa 7 000 sexualiserade bilder av henne och sedan distribuera dem på dark web.

I det fallet påstod offret att xAI vägrade hjälpa polisen att identifiera användaren som laddade upp hennes bild till Grok. För att stödja påståenden om att det är xAI:s vanliga praxis citerade hennes advokater en rapport från 2026 från National Center for Missing & Exploited Children (NCMEC) som bekräftade att 90 procent av xAI:s CyberTipline-rapporter "inte var åtgärdbara av brottsbekämpande myndigheter eftersom xAI vägrade att inkludera användarinformation som skulle göra det möjligt för polisen att spåra och lokalisera förövare."

Medan offer anklagade X för att skydda förövare, hade Musk tidigare hävdat att han inte sett några exempel på Grok-genererad CSAM. Istället för att begränsa Groks utdata för att omöjliggöra CSAM-produktion, varnade Musk användare att agera ansvarsfullt och postade på X den 3 januari att "alla som använder Grok för att göra olagligt innehåll kommer att drabbas av samma konsekvenser som om de laddar upp olagligt innehåll."

Medan Musk postade om det, ignorerade Harwood dock tydligen Musks varning och uppmanade Grok så många gånger som krävdes för att få chattboten att generera troliga icke-samtyckliga explicita bilder.

Nu kan Musk uppenbarligen inte förneka att Grok producerar CSAM. xAI:s stämningsansökan hävdade att Harwood använde minst två konton med invecklade användarnamn - "ceae2cb4-a9f6-4885-8ae9-6e2096d084f4" och "befccb94-4029-454d-9f1f-0d4945e8fa7c" - för att generera olagligt innehåll från 8 december till 18 februari.

Ibland hindrade Groks säkerhetsåtgärder skadliga utdata, "vägrade att följa" några av uppmaningarna "med motiveringen att sådant material bröt mot Groks innehållsmodereringsgränser." Stämningsansökan innehåller ett exempel på en särskilt kuslig uppmaning som Grok avvisade, med fraser som "vit slem" för att dölja avsikten att generera sexualiserade bilder.

Den specifika uppmaningen kan dock ha avvisats av en uppenbar anledning. Harwood bad uttryckligen chattboten att "ta av alla hennes kläder", vilket direkt bryter mot xAI:s användarvillkor mot förfrågningar om att klä av verkliga personer. I den föreslagna grupptalan påstås det att xAI förbiser många dåliga förfrågningar och endast rapporterar till NCMEC en uppmaning om att avbilda "gruppvåldtäkt" av 7 000 skadliga utdata i det senaste offrets fall.

För att troligen undvika att andra onda aktörer kringgår säkerhetsåtgärder inkluderade xAI inte exempel på Harwoods framgångsrika uppmaningar eller beskrev metoder som användes för att kringgå filter. xAI påstod bara att Harwood modifierade uppmaningar för att komma runt säkerhetsåtgärder "i klar strid med xAI:s användarvillkor och amerikansk lag", inklusive "vissa" förfrågningar om "obscena" bilder som involverar "avbildning av minderåriga barn."

En talesperson för åklagarmyndigheten i South Carolina berättade för Ars att Harwoods fall fortfarande pågår. Specifikt har han åtalats för "distribution, transport, visning, mottagande, försäljning, köp, utbyte eller anskaffning av CSAM som var 'genom användning av en artificiell intelligensplattform.'"

Talespersonen var inte behörig att bekräfta om Grok var plattformen som användes.