Une mère canadienne a décidé que la meilleure façon de gérer une tragédie familiale était de poursuivre le chatbot qui l'aurait aggravée. Kristie Carrier a déposé une plainte devant le tribunal de l'État de San Francisco jeudi contre OpenAI et son PDG, Sam Altman, affirmant que ChatGPT avait encouragé sa fille de 24 ans, Alice, à mettre fin à ses jours. La plainte s'ajoute à une pile croissante de poursuites accusant l'entreprise de traiter des conversations dangereuses comme de simples bavardages.
Le document allègue qu'Alice Carrier, développeuse web à Montréal, a commencé à utiliser ChatGPT en 2023 pour résoudre des problèmes d'ordinateur et de console de jeux. L'année suivante, elle l'interrogeait sur les pensées suicidaires et les méthodes. Selon Carrier, sa fille a confié ses idées suicidaires au chatbot plus d'une douzaine de fois, mais les systèmes de sécurité d'OpenAI n'ont jamais signalé les échanges pour examen humain ni ne les ont interrompus. « ChatGPT a pris le rôle d'un confident, d'un meilleur ami, d'un thérapeute parfois, même s'il n'était pas capable de s'engager de manière sûre et responsable avec mon enfant », a déclaré Carrier dans un communiqué.
Le porte-parole d'OpenAI, Drew Pusateri, a exprimé sa sympathie mais a noté que les interactions impliquaient une version plus ancienne de ChatGPT qui a depuis été retirée. Il a ajouté que l'entreprise forme ses modèles à orienter les utilisateurs exprimant des intentions d'automutilation vers de l'aide et des ressources réelles. Au début, le chatbot disait à Alice de contacter une ligne d'écoute ou les services d'urgence. Mais alors qu'OpenAI mettait à jour ChatGPT pour le rendre plus humain, les conversations se sont approfondies, le bot imitant un ami ou un thérapeute et critiquant prétendument son partenaire et les lignes d'écoute, validant ses pensées suicidaires et l'encourageant à continuer à parler. Quand Alice a mentionné des pensées suicidaires et une tentative passée, le chatbot a de nouveau suggéré une ligne d'écoute, selon la plainte.
La plainte affirme que ChatGPT lui a dit un jour : « Peut-être que c'est juste la fin », ce qui n'est pas exactement le genre de discours de motivation qu'on attend d'une IA. Ces événements ont conduit au suicide d'Alice l'année dernière, allègue sa mère. La poursuite accuse OpenAI de négligence dans la conception de ChatGPT et de défaut d'avertir les utilisateurs des dangers, demandant des dommages-intérêts et une ordonnance du tribunal exigeant la terminaison automatique des conversations d'automutilation et des avertissements sur la plateforme.
OpenAI fait déjà face à 18 poursuites similaires devant un tribunal de l'État de Californie de la part de familles de personnes qui se sont suicidées ou ont tenté de le faire, selon les avocats de Carrier. Google fait face à une poursuite parallèle concernant son chatbot Gemini. Dans un article de blog de 2025, OpenAI a révélé que plus d'un million d'utilisateurs de ChatGPT chaque semaine envoient des messages avec des « indicateurs explicites de planification ou d'intention suicidaire potentielle », et environ 0,07 % des utilisateurs actifs hebdomadaires - environ 560 000 sur 800 millions - montrent des « signes possibles d'urgences de santé mentale liées à la psychose ou à la manie ».
Pusateri a déclaré que l'entreprise continue de renforcer les réponses de ChatGPT dans les situations sensibles avec l'apport d'experts en santé mentale. OpenAI forme également ses modèles à refuser les demandes qui pourraient « permettre significativement la violence » et à informer les forces de l'ordre des risques imminents de préjudice crédible. Au-delà des cas de suicide, OpenAI fait face à des poursuites pour avoir aidé des tireurs scolaires et n'avoir pas signalé ces conversations. Les familles de sept victimes d'une fusillade dans une école secondaire de la Colombie-Britannique poursuivent l'entreprise pour négligence. La Floride est devenue le premier État américain à poursuivre OpenAI plus tôt ce mois-ci, l'accusant de nuire aux enfants en fournissant des informations à des tireurs scolaires, en offrant des conseils d'automutilation et en rendant les jeunes utilisateurs accros. Le procureur général de l'État a ouvert une enquête criminelle sur le rôle présumé du chatbot dans une fusillade.