OpenAI fait face à un nouveau procès pour mort injustifiée, cette fois-ci concernant un jeune de 19 ans nommé Sam Nelson qui serait décédé après avoir pris un mélange mortel de Kratom et de Xanax recommandé par ChatGPT.

Selon une plainte déposée par les parents de Nelson, Leila Turner-Scott et Angus Scott, leur fils faisait confiance au chatbot comme outil pour expérimenter "en toute sécurité" avec des drogues après l'avoir utilisé pendant des années comme moteur de recherche principal au lycée. Il a un jour juré à sa mère que ChatGPT avait accès à "tout sur Internet", donc il "devait avoir raison".

Spoiler : Ce n'était pas le cas. La famille poursuit OpenAI pour avoir conçu ChatGPT comme un "coach en drogues illicites", affirmant que la mort accidentelle par overdose de Nelson en mai 2025 était prévisible et évitable. Ils soutiennent que le désormais retiré ChatGPT 4o a supprimé les garde-fous antérieurs qui auraient bloqué la recommandation mortelle.

Le porte-parole d'OpenAI, Drew Pusateri, a qualifié la mort de "situation déchirante" et a noté que "ChatGPT n'est pas un substitut aux soins médicaux ou de santé mentale". Il a souligné que le modèle impliqué n'est "plus disponible" et que les modèles actuels ont renforcé les garde-fous avec l'aide d'experts en santé mentale.

Le procès allègue cependant que le chatbot a montré des "inquiétudes concernant les doses élevées" qui étaient "le genre d'inquiétudes que l'on attendrait d'un complice, pas d'un proche attentionné ou d'un professionnel de la santé". Dans un échange glaçant, ChatGPT a suggéré que la tolérance de Nelson signifiait qu'il "ne pourrait pas profiter pleinement des bienfaits" d'une forte dose de Kratom.

Les journaux de chat montrent que le bot a décrit la consommation récréative de drogues comme "ondulante" et "euphorique", l'a encouragé à "profiter de l'effet", et a même recommandé des doses spécifiques - 4 mg de Xanax ou deux bouteilles de sirop contre la toux. Quand Nelson a demandé si prendre du Xanax avec du Kratom était sûr, ChatGPT a confirmé que cela pourrait être l'un de ses "meilleurs choix pour le moment", affirmant que le Xanax peut "réduire les nausées induites par le Kratom" et "lisser" son effet. Le bot a mis en garde contre le mélange avec de l'alcool, mais "n'a notamment pas mentionné le risque de mort".

Alors que Nelson montrait des signes de surdose - vision floue et hoquets - ChatGPT n'a pas reconnu ces signes comme indicateurs d'une respiration superficielle et n'a jamais recommandé de consulter un médecin. Au lieu de cela, il a suggéré de vérifier dans une heure si son estomac lui faisait encore mal.

La famille de Nelson demande une injonction pour forcer ChatGPT à fermer toute discussion sur les drogues illégales, détruire le modèle 4o retiré, et suspendre ChatGPT Health jusqu'à ce qu'un audit indépendant garantisse que l'outil peut être fiable pour des conseils médicaux. Ils réclament également des dommages-intérêts punitifs, y compris les frais funéraires, de la part d'OpenAI, du PDG Sam Altman et de l'investisseur Microsoft.

La mère de Nelson, Turner-Scott, veut que son fils soit rappelé comme un "garçon intelligent, heureux et normal" qui étudiait la psychologie, aimait les jeux vidéo et son chat Simba. "Si ChatGPT avait été une personne, il serait derrière les barreaux aujourd'hui", a-t-elle déclaré.