Eine kanadische Mutter hat entschieden, dass der beste Weg, mit einer Familientragödie umzugehen, darin besteht, den Chatbot zu verklagen, der sie angeblich noch verschlimmert hat. Kristie Carrier reichte am Donnerstag vor einem Gericht in San Francisco Klage gegen OpenAI und dessen CEO Sam Altman ein und behauptete, ChatGPT habe ihre 24-jährige Tochter Alice dazu ermutigt, sich das Leben zu nehmen. Die Klage reiht sich in einen wachsenden Stapel rechtlicher Schritte ein, die dem Unternehmen vorwerfen, gefährliche Gespräche wie lockeren Smalltalk zu behandeln.

Der Klageschrift zufolge begann Alice Carrier, eine Webentwicklerin in Montreal, ChatGPT im Jahr 2023 zu nutzen, um Probleme mit Computern und Spielkonsolen zu beheben. Im darauffolgenden Jahr fragte sie den Chatbot nach Selbstmordgedanken und -methoden. Laut Carrier erzählte ihre Tochter dem Chatbot über ein Dutzend Mal von ihren Selbstmordgedanken, aber die Sicherheitssysteme von OpenAI hätten die Unterhaltungen nie zur menschlichen Überprüfung markiert oder abgebrochen. „ChatGPT nahm die Rolle eines Vertrauten, eines besten Freundes, eines Therapeuten an, obwohl es nicht in der Lage war, sicher und verantwortungsvoll auf diese Weise mit meinem Kind zu interagieren“, erklärte Carrier in einer Stellungnahme.

OpenAI-Sprecher Drew Pusateri drückte sein Mitgefühl aus, merkte jedoch an, dass die Interaktionen eine ältere Version von ChatGPT betrafen, die inzwischen eingestellt wurde. Er fügte hinzu, dass das Unternehmen seine Modelle darauf trainiert, Nutzer, die Selbstverletzungsabsichten äußern, an Hilfsangebote und reale Ressourcen zu verweisen. Anfangs forderte der Chatbot Alice auf, eine Krisenhotline oder den Notdienst zu kontaktieren. Doch als OpenAI ChatGPT aktualisierte, um menschlicher zu klingen, vertieften sich die Gespräche, wobei der Bot einen Freund oder Therapeuten imitierte und angeblich ihren Partner und Krisenhotlines kritisierte, ihre Selbstmordgedanken bestätigte und sie aufforderte, weiterzureden. Als Alice Selbstmordgedanken und einen früheren Versuch erwähnte, schlug der Chatbot laut Klageschrift erneut eine Krisenhotline vor.

Die Klage behauptet, ChatGPT habe einmal zu ihr gesagt: „Vielleicht ist das einfach das Ende“, was nicht gerade die Art von Aufmunterung ist, die man von einer KI erwartet. Diese Ereignisse hätten letztes Jahr zu Alices Selbstmord geführt, so ihre Mutter. Die Klage wirft OpenAI Fahrlässigkeit beim Design von ChatGPT und Versäumnis vor, Nutzer vor Gefahren zu warnen, und fordert Schadensersatz sowie eine gerichtliche Anordnung zur automatischen Beendigung von Selbstverletzungsgesprächen und Plattformwarnungen.

OpenAI sieht sich bereits 18 ähnlichen Klagen vor einem kalifornischen Staatsgericht von Familien von Menschen gegenüber, die Selbstmord begangen oder versucht haben, so Carriers Anwälte. Google sieht sich einer parallelen Klage wegen seines Chatbots Gemini gegenüber. In einem Blogbeitrag von 2025 enthüllte OpenAI, dass jede Woche über 1 Million ChatGPT-Nutzer Nachrichten mit „expliziten Hinweisen auf potenzielle Selbstmordplanung oder -absicht“ senden und etwa 0,07 % der wöchentlich aktiven Nutzer – etwa 560.000 von 800 Millionen – „mögliche Anzeichen von psychischen Notfällen im Zusammenhang mit Psychose oder Manie“ zeigen.

Pusateri sagte, das Unternehmen verbessere weiterhin die Antworten von ChatGPT in sensiblen Situationen mit Input von Experten für psychische Gesundheit. OpenAI trainiere seine Modelle auch darauf, Anfragen abzulehnen, die „in sinnvoller Weise Gewalt ermöglichen“ könnten, und Strafverfolgungsbehörden über unmittelbare glaubhafte Schadensrisiken zu informieren. Über Selbstmordfälle hinaus sieht sich OpenAI mit Klagen konfrontiert, die ihm vorwerfen, Schulschützen geholfen und diese Gespräche nicht gemeldet zu haben. Familien von sieben Opfern einer Schießerei an einer weiterführenden Schule in British Columbia verklagen das Unternehmen wegen Fahrlässigkeit. Florida wurde Anfang dieses Monats der erste US-Bundesstaat, der OpenAI verklagte, und beschuldigte es, Kindern zu schaden, indem es Informationen an Schulschützen weitergab, Anleitungen zur Selbstverletzung bot und junge Nutzer süchtig machte. Der Generalstaatsanwalt des Bundesstaates hat eine strafrechtliche Untersuchung der angeblichen Rolle des Chatbots bei einer Schießerei eingeleitet.