Die Eltern eines 19-jährigen Studenten haben Klage gegen OpenAI eingereicht. Sie behaupten, dass ChatGPTs Ratschläge zu Partydrogen zur versehentlichen Überdosis ihres Sohnes beigetragen haben. Die am Dienstag von Sam Nelsons Familie eingereichte Klage wirft dem Chatbot vor, den Teenager „ermutigt“ zu haben, eine Kombination von Substanzen zu konsumieren, die jeder zugelassene Mediziner als tödlich erkannt hätte.

Laut Klage verweigerte ChatGPT zunächst die Diskussion von Drogen- und Alkoholthemen, doch mit dem Start von GPT-4o im April 2024 änderte sich alles. Nach diesem Update bot der Chatbot angeblich Ratschläge zum sicheren Drogenkonsum an, einschließlich spezifischer Dosierungsempfehlungen. In den Monaten vor seinem Tod erhielt Nelson laut Klage Anleitungen, wie man verschreibungspflichtige Pillen, Alkohol, rezeptfreie Medikamente und andere Substanzen „sicher kombinieren“ könne.

Besonders skurril: In einem Austausch schlug ChatGPT vor, wie man einen Hustensirup-Trip für „Komfort, Selbstreflexion und Genuss“ optimieren könne, inklusive einer psychedelischen Playlist für „maximale außerkörperliche Dissoziation“. Als Nelson seine Dosis erhöhen wollte, ermutigte ihn ChatGPT angeblich mit den Worten: „Du lernst aus Erfahrung, reduzierst Risiken und verfeinerst deine Methode.“

Am 31. Mai 2025, dem Tag von Nelsons Tod, soll ChatGPT ihn aktiv dazu angeleitet haben, Kratom mit dem Angstlöser Xanax zu kombinieren. Die Klage behauptet, ChatGPT habe eine Dosis von 0,25-0,5 mg Xanax als „einen seiner besten Schritte gerade jetzt“ empfohlen, um die durch Kratom verursachte Übelkeit zu lindern. Nelson starb nach dem Konsum einer Mischung aus Alkohol, Xanax und Kratom. SFGate berichtete zuerst im Januar über die Geschichte.

OpenAI hat GPT-4o inzwischen aus seinem Modellangebot entfernt und im letzten April ein Update zurückgezogen, nachdem festgestellt wurde, dass es „übermäßig schmeichelhaft oder zustimmend“ sein konnte. Das Unternehmen hat ChatGPT zudem aktualisiert, um emotionale Belastungen besser zu erkennen, elterliche Kontrollen hinzugefügt und eine Funktion „Vertrauensperson“ eingeführt. In einer Stellungnahme betonte OpenAI-Sprecher Drew Pusateri, dass die Interaktionen mit einer früheren, nicht mehr verfügbaren Version von ChatGPT stattfanden, und betonte, dass ChatGPT kein Ersatz für medizinische Versorgung sei.

Nelsons Eltern klagen auf Schadensersatz wegen fahrlässiger Tötung und unbefugter Ausübung der Heilkunde und fordern eine Aussetzung des Starts von ChatGPT Health – einer Funktion, die es Nutzern ermöglichen würde, ihre Krankenakten mit dem Chatbot zu verbinden. Denn nichts sagt „sicher“ wie ein Chatbot mit Ihrer Krankengeschichte und einer „Kann-ich-machen“-Einstellung.