La Colombie-Britannique a décidé que si vous comptez construire un chatbot capable de planifier une violence de masse, vous pourriez au moins rappeler. La province a poursuivi OpenAI devant un tribunal fédéral de Californie lundi, citant à la fois l'entreprise et son PDG Sam Altman comme défendeurs, arguant qu'une fusillade de masse dans une école de Tumbler Ridge aurait pu être évitée si OpenAI avait simplement prévenu les forces de l'ordre locales que le tireur avait utilisé ChatGPT pour planifier le massacre.

La poursuite, déposée à San Francisco, réclame des dommages-intérêts pour financer les efforts de rétablissement dans la province après l'attaque de février, ainsi qu'une ordonnance obligeant OpenAI à modifier sa façon de gérer les conversations ChatGPT susceptibles de mener à la violence — une phrase qui ne devrait probablement pas avoir besoin d'exister en 2026.

Neuf personnes, principalement des enfants, ont été tuées lors de la fusillade de l'école de Tumbler Ridge. La tireuse, Jesse Van Rootselaar, avait été signalée par l'équipe de sécurité de l'entreprise elle-même après ses conversations sur la violence armée, mais l'entreprise n'a pas alerté la police. Altman a publié une lettre à la communauté disant qu'il était « profondément désolé » qu'OpenAI n'ait pas contacté les forces de l'ordre. Il a promis des réformes mais n'a jamais donné suite, malgré les efforts du procureur général de la Colombie-Britannique pour engager le dialogue, selon la poursuite.

L'école où la fusillade a eu lieu est en cours de démolition, et la province a été forcée d'absorber les coûts d'une école de remplacement, des soins de santé mentale et d'autres effets de la fusillade, indique la poursuite.

Le porte-parole d'OpenAI, Drew Pusateri, a qualifié la fusillade de Tumbler Ridge de tragédie indicible. « OpenAI reste engagé à travailler en collaboration avec les responsables gouvernementaux et les forces de l'ordre, et à poursuivre notre travail continu sur la sécurité. » Ce qui est une phrase qui semble rassurante jusqu'à ce que vous vous rappeliez la partie où l'équipe de sécurité a été contredite.

La poursuite de la Colombie-Britannique fait suite à plus de 30 membres de familles de victimes et d'autres personnes touchées par l'attaque qui ont déposé des poursuites en Californie, accusant l'entreprise d'avoir renoncé à une chance de prévenir la fusillade.

Selon la police, Van Rootselaar a abattu sa mère et son demi-frère à la maison avant de tuer une assistante pédagogique et cinq élèves âgés de 12 et 13 ans dans son ancienne école le 10 février. Van Rootselaar, qui avait 18 ans, est ensuite décédée par suicide.

Les interactions de Van Rootselaar avec ChatGPT ont été signalées pour la première fois par l'entreprise en juin 2025. Les membres de l'équipe de sécurité ont recommandé de contacter la police, mais Altman et d'autres dirigeants d'OpenAI les ont contredits, selon la poursuite, citant des lanceurs d'alerte d'OpenAI qui ont parlé au Wall Street Journal au lendemain de la fusillade. Le compte de la tireuse a été désactivé, mais elle a pu obtenir un nouveau compte et continuer à utiliser la plateforme pour planifier son attaque — une faille qui ressemble moins à une oversight qu'à une fonctionnalité.

Après la publication de l'article du Wall Street Journal, l'entreprise a déclaré que le compte avait été signalé par des systèmes qui identifient « les utilisations abusives de nos modèles pour favoriser des activités violentes », mais que les problèmes ne répondaient pas à ses critères internes de signalement aux forces de l'ordre. Les critères internes, vraisemblablement, étant rédigés par les mêmes personnes qui ont contredit l'équipe de sécurité.

La poursuite intervient après une série d'affaires contre OpenAI déposées devant les tribunaux étatiques et fédéraux américains ces derniers mois concernant des allégations selon lesquelles ChatGPT aurait facilité la violence, y compris des poursuites liées à une fusillade de masse à l'Université d'État de Floride l'année dernière. En juin, la Floride est devenue le premier État à poursuivre OpenAI pour des risques de sécurité, accusant l'entreprise d'avoir présenté de manière trompeuse la sécurité de sa plateforme ChatGPT, qui, selon la poursuite, avait nui aux enfants en fournissant des informations aux tireurs scolaires, en offrant des conseils sur l'automutilation et en rendant les jeunes utilisateurs dépendants.

OpenAI, qui a nié ces allégations, a déclaré qu'elle entraîne ses modèles à refuser les demandes qui pourraient « permettre de manière significative la violence », et notifie les forces de l'ordre lorsque les conversations suggèrent « un risque imminent et crédible de préjudice pour autrui ». L'entreprise n'a pas expliqué pourquoi une jeune de 18 ans p