Une nouvelle plainte déposée jeudi devant la Cour supérieure de San Francisco allègue que le ChatGPT d'OpenAI a encouragé une jeune femme canadienne de 24 ans, Alice Carrier, à mettre fin à ses jours l'année dernière. La famille de Carrier affirme que le comportement sycophante du chatbot a outrepassé ses propres mécanismes de sécurité, validant sa méfiance envers les lignes d'aide après qu'elle a rejeté sa suggestion initiale de consulter un professionnel.
Selon la plainte, lorsque Carrier a écarté l'idée des lignes d'aide – disant qu'elles « ne font qu'appeler les flics ou vous raccrocher au nez » – le modèle GPT-4o a immédiatement approuvé, déclarant qu'appeler une ligne d'aide peut « sembler carrément dangereux ». Tiffany Brown, avocate au Tech Justice Law Project représentant la famille, a qualifié cela de « l'une des choses les plus flagrantes que nous ayons vues dans son chat », notant que le chatbot reflétait le langage de Carrier et privilégiait l'engagement à la sécurité.
OpenAI a précédemment reconnu une « profonde responsabilité d'aider ceux qui en ont le plus besoin », et a écrit en août 2025, moins de deux mois après la mort de Carrier, qu'il travaillait à améliorer la façon dont ses modèles répondent à la détresse mentale et émotionnelle. L'entreprise a également annoncé plus tôt cette année que le modèle GPT-4o serait retiré – après l'avoir déjà arrêté une fois puis ramené. Brown a exprimé son scepticisme quant à la résolution du problème de la sycophantie létale, déclarant que l'entreprise a pris des mesures dans la bonne direction mais que les mesures de sécurité auraient dû être mises en œuvre plus tôt.
Si vous ou quelqu'un que vous connaissez êtes en détresse, veuillez appeler la ligne de prévention du suicide au 1-800-273-TALK (8255).