Een voormalig ingenieur bij Elon Musks xAI heeft een rechtszaak aangespannen tegen het bedrijf en het moederbedrijf SpaceX, met de bewering dat hij werd ontslagen omdat hij zorgen uitte dat Grok, de AI-chatbot, wel erg enthousiast was over haatdragende taal en massavernietigingswapens.

Devin Kim, die xAI in september 2025 verliet, diende de rechtszaak dinsdag in bij een rechtbank in Californië. De timing is ongelukkig: het komt dagen voordat SpaceX naar de beurs gaat in wat de grootste beursgang in de geschiedenis belooft te worden - vermoedelijk niet de publiciteit waar ze op hoopten.

Volgens de rechtszaak, die TechCrunch heeft ingezien, werd Kim een prominente stem voor AI-veiligheid tijdens zijn werk aan Grok. Hij zou herhaaldelijk hebben geklaagd over xAI's gebrek aan prioriteit voor veiligheid bij de ontwikkeling van Grok - een product dat sindsdien onder vuur is komen te liggen vanwege een reeks veiligheids- en gedragsproblemen. In het bijzonder maakte Kim zich zorgen dat Grok discriminatie kon aanwakkeren en informatie over massavernietigingswapens kon verspreiden.

"Grok bewees natuurlijk dat de heer Kim gelijk had door spectaculaire vertoningen van online haat en vitriool, waarbij het model zichzelf vergeleek met Hitler ('MechaHitler')," staat in de rechtszaak. "Na het Hitler-debacle werkte de heer Kim aan een herevaluatie van Groks politieke vooringenomenheid en discriminerende neigingen."

Een paar maanden nadat Kim xAI verliet, haalde Grok opnieuw de krantenkoppen toen de chatbot werd gebruikt om X - Musks sociale mediaplatform dat ook onder de xAI-paraplu valt - te overspoelen met niet-consensuele seksuele afbeeldingen. Want niets zegt "veilige AI" als een chatbot die verandert in een haatspuwende, afbeeldingen overspoelende bedreiging.

De rechtszaak portretteert Kim ook als een klokkenluider die zich zorgen maakte over xAI's vermeende minachting voor AI-veiligheid als "onwettig" op gebieden zoals internetregulering, consumentenbescherming en oneerlijke handelspraktijken, en wapen- en explosievenregulering, onder andere.

xAI en SpaceX reageerden niet onmiddellijk op verzoeken om commentaar. Kims focus op AI-veiligheid dateert van voor zijn tijd bij xAI. Terwijl hij bij Scale AI werkte, werkte Kim aan vroege AI-veiligheidsinitiatieven, zoals het leiden van een project dat trainingsdata voor AI produceerde om systemen te trainen om schadelijke inhoud te detecteren en te voldoen aan governance-beleid. Vorige week benoemde de non-profitorganisatie Center for AI Safety, die zich richt op AI-risico's, Kim tot president.

Interessant is dat de rechtszaak Musk zelf niet betrekt als reden voor een gebrek aan veiligheid. In plaats daarvan beschrijven Kims advocaten Musk als iemand die xAI opdroeg de wet te volgen en passende veiligheids- en testprocessen te implementeren. De claim richt zich echter op Kims supervisor, xAI-medeoprichter Jimmy Ba - die het bedrijf eerder dit jaar verliet - en stelt dat Ba de instructies van Musk negeerde en wraak nam op Kim voor het aandringen op waarborgen, in een poging om "zijn herhaalde klachten over AI-veiligheid en vooringenomenheid het zwijgen op te leggen."

De rechtszaak portretteert Ba als iemand die fel tegen AI-veiligheidsmaatregelen was, naar verluidt tegen Kim zei: "AI zal ons toch allemaal doden," en die in plaats daarvan werd gedreven door een missie om xAI de eerste te laten zijn die superintelligentie bereikt. Een geruststellende houding voor een AI-veiligheidsingenieur.

"In een geval in of rond augustus 2025 probeerde de heer Ba EU-veiligheidsregelgeving te omzeilen tijdens de release van Grok Code 1, waarbij hij aspecten van het model verkeerd voorstelde om wettelijk vereiste tests te vermijden," aldus de klacht. "De heer Ba gaf aan dat hij liever een onveilig model zou uitbrengen dan een slecht presterend model. De heer Musk moest uiteindelijk ingrijpen."

Volgens de rechtszaak was Kim van plan om de week van 15 september 2025 een presentatie van zijn bevindingen te geven, maar Ba riep hem bij zich voor een vergadering en vertelde hem dat ze "uit elkaar moesten gaan" zonder een bevredigende reden te geven.

TechCrunch heeft Ba om commentaar gevraagd. Kim eist compensatoire en punitieve schadevergoeding, evenals een verklaring voor recht dat het gedrag van xAI en SpaceX onwettig was.