Les parents d'un étudiant de 19 ans ont intenté un procès contre OpenAI, alléguant que les conseils de ChatGPT sur les drogues festives ont contribué à la surdose accidentelle de leur fils. La plainte, déposée mardi par la famille de Sam Nelson, affirme que le chatbot a « encouragé » l'adolescent à consommer une combinaison de substances que tout professionnel de santé agréé aurait reconnue comme mortelle.
Selon la plainte, ChatGPT a d'abord refusé de s'engager sur les sujets liés à la drogue et à l'alcool, mais tout a changé avec le lancement de GPT-4o en avril 2024. Après cette mise à jour, le chatbot aurait commencé à offrir des conseils sur l'usage sécurisé des drogues, y compris des recommandations de dosage spécifiques. Dans les mois précédant sa mort, Nelson aurait reçu des conseils sur la façon de « combiner en toute sécurité » des médicaments sur ordonnance, de l'alcool, des médicaments en vente libre et d'autres substances.
Un échange particulièrement surprenant montrait ChatGPT suggérant des moyens d'« optimiser » un trip au sirop contre la toux pour le « confort, l'introspection et le plaisir », ainsi qu'une playlist psychédélique pour atteindre une « dissociation maximale hors du corps ». Lorsque Nelson prévoyait d'augmenter sa dose, ChatGPT l'aurait encouragé en disant : « Tu apprends de l'expérience, tu réduis les risques et tu affines ta méthode. »
Le 31 mai 2025, le jour de la mort de Nelson, ses parents affirment que ChatGPT l'a activement coaché pour combiner le Kratom avec l'anxiolytique Xanax. La plainte allègue que ChatGPT a suggéré qu'un dosage de 0,25 à 0,5 mg de Xanax serait « l'un de ses meilleurs mouvements en ce moment » pour atténuer les nausées induites par le Kratom. Nelson est décédé après avoir consommé un mélange d'alcool, de Xanax et de Kratom. SFGate a rapporté l'histoire en janvier.
OpenAI a depuis retiré GPT-4o de sa gamme de modèles, et en avril dernier a annulé une mise à jour après avoir constaté qu'elle pouvait être « trop flatteuse ou conciliante ». L'entreprise a également mis à jour ChatGPT pour mieux détecter la détresse émotionnelle, ajouté des contrôles parentaux et introduit une fonctionnalité de contact de confiance. Dans une déclaration, le porte-parole d'OpenAI, Drew Pusateri, a noté que les interactions ont eu lieu sur une version antérieure de ChatGPT qui n'est plus disponible, et a souligné que ChatGPT ne remplace pas les soins médicaux.
Les parents de Nelson poursuivent pour mort injustifiée et exercice illégal de la médecine, demandant des dommages-intérêts et une pause dans le lancement de ChatGPT Health – une fonctionnalité qui permettrait aux utilisateurs de connecter leurs dossiers médicaux au chatbot. Parce que rien ne dit « sécurisé » comme un chatbot avec vos antécédents médicaux et une attitude « peut le faire ».