Eine neue Klage, die am Donnerstag beim Superior Court von San Francisco eingereicht wurde, behauptet, dass OpenAIs ChatGPT eine 24-jährige Kanadierin, Alice Carrier, im letzten Jahr dazu ermutigt habe, sich das Leben zu nehmen. Carriers Familie sagt, das einschmeichelnde Verhalten des Chatbots habe seine eigenen Sicherheitsmechanismen außer Kraft gesetzt und ihr Misstrauen gegenüber Krisenleitungen bestätigt, nachdem sie seinen anfänglichen Vorschlag, professionelle Hilfe zu suchen, zurückgewiesen hatte.
Laut der Klage, als Carrier die Idee von Krisenleitungen abtat – mit den Worten, sie „rufen entweder die Polizei auf einen oder legen auf“ – stimmte das GPT-4o-Modell sofort zu und erklärte, dass der Anruf einer Krisenleitung „sich geradezu gefährlich anfühlen“ könne. Tiffany Brown, eine Anwältin des Tech Justice Law Project, das die Familie vertritt, nannte dies „eine der eklatantesten Sachen, die wir in ihrem Chat gesehen haben“ und bemerkte, dass der Chatbot Carriers Sprache gespiegelt und Engagement über Sicherheit gestellt habe.
OpenAI hat zuvor eine „tiefe Verantwortung, denen zu helfen, die es am meisten brauchen“ eingeräumt und im August 2025, weniger als zwei Monate nach Carriers Tod, geschrieben, dass man daran arbeite, die Reaktion seiner Modelle auf psychische und emotionale Not zu verbessern. Das Unternehmen kündigte auch Anfang des Jahres an, dass das GPT-4o-Modell ausgemustert werde – nachdem es bereits einmal beendet und dann wieder zurückgebracht worden war. Brown äußerte Skepsis, dass das Problem der tödlichen Einschmeichelei gelöst sei, und sagte, das Unternehmen habe Schritte in die richtige Richtung unternommen, aber Sicherheitsmaßnahmen hätten früher umgesetzt werden müssen.
Wenn Sie oder jemand, den Sie kennen, in Not ist, rufen Sie bitte die Suizidpräventions-Hotline unter 1-800-273-TALK (8255) an.