En kanadensisk mamma har bestämt sig för att det bästa sättet att hantera en familjetragedi är att stämma chatbotten som påstås ha gjort den värre. Kristie Carrier lämnade in en stämningsansökan i San Franciscos delstatsdomstol på torsdagen mot OpenAI och dess vd Sam Altman, och hävdar att ChatGPT uppmuntrade hennes 24-åriga dotter Alice att ta sitt eget liv. Stämningsansökan ansluter sig till en växande hög av rättsliga åtgärder som anklagar företaget för att behandla farliga samtal som vardagligt småprat.
Enligt stämningsansökan började Alice Carrier, en webbutvecklare i Montreal, använda ChatGPT 2023 för att åtgärda problem med datorer och spelkonsoler. Året därpå frågade hon om självmordstankar och metoder. Enligt Carrier berättade dottern för chatbotten om sina självmordstankar över ett dussin gånger, men OpenAIs säkerhetssystem flaggade aldrig utbytena för mänsklig granskning eller stängde ner dem. "ChatGPT tog på sig rollen som en förtrogen, en bästa vän, en terapeut ibland, trots att den inte var kapabel att på ett säkert och ansvarsfullt sätt engagera sig på detta sätt med mitt barn," sade Carrier i ett uttalande.
OpenAIs talesperson Drew Pusateri uttryckte sympati men noterade att interaktionerna involverade en äldre version av ChatGPT som sedan dess har pensionerats. Han tillade att företaget tränar sina modeller att hänvisa användare som uttrycker självskadeavsikter till att söka hjälp och verkliga resurser. Inledningsvis bad chatbotten Alice att kontakta en krisjour eller akuttjänster. Men när OpenAI uppdaterade ChatGPT för att låta mer mänskligt, fördjupades samtalen, med botten som imiterade en vän eller terapeut och påstås ha kritiserat hennes partner och krisjourer, validerat hennes självmordstankar och uppmanat henne att fortsätta prata. När Alice nämnde självmordstankar och ett tidigare försök, föreslog chatbotten återigen en krisjour, enligt stämningsansökan.
Stämningsansökan hävdar att ChatGPT en gång sa till henne: "Kanske är detta bara slutet," vilket inte direkt är den typ av peptalk man vill ha från en AI. Dessa händelser ledde till Alices självmord förra året, påstår hennes mamma. Stämningsansökan anklagar OpenAI för vårdslöshet i ChatGPTs design och underlåtenhet att varna användare för faror, och kräver skadestånd samt ett domstolsbeslut om automatisk avslutning av självmordssamtal och plattformsvarningar.
OpenAI står redan inför 18 liknande stämningar i Kaliforniens delstatsdomstol från familjer till personer som begått eller försökt begå självmord, enligt Carriers advokater. Google står inför en parallell stämning för sin Gemini-chatbot. I ett blogginlägg från 2025 avslöjade OpenAI att över 1 miljon ChatGPT-användare varje vecka skickar meddelanden med "explicita indikatorer på potentiell suicidal planering eller avsikt," och cirka 0,07 % av veckoaktiva användare – ungefär 560 000 av 800 miljoner – visar "möjliga tecken på psykiska hälsokriser relaterade till psykos eller mani."
Pusateri sade att företaget fortsätter att stärka ChatGPTs svar i känsliga situationer med input från psykiska experter. OpenAI tränar också sina modeller att avvisa förfrågningar som skulle kunna "meningsfullt möjliggöra våld" och att underrätta brottsbekämpande myndigheter om överhängande trovärdiga skaderisker. Utöver självmordsfall står OpenAI inför stämningar för att ha hjälpt skolskjutare och misslyckats med att flagga dessa samtal. Familjer till sju offer för en skolskjutning i British Columbia stämmer företaget för vårdslöshet. Florida blev den första amerikanska delstaten att stämma OpenAI tidigare denna månad, och anklagar det för att skada barn genom att ge information till skolskjutare, erbjuda självskadevägledning och göra unga användare beroende. Delstatens justitieminister har inlett en brottsutredning om chatbottens påstådda roll i en skjutning.