Brits-Columbia heeft besloten dat als je een chatbot gaat bouwen die in staat is massaal geweld te plannen, je op zijn minst een telefoontje terug kunt plegen. De provincie klaagde maandag OpenAI aan in de federale rechtbank van Californië, waarbij zowel het bedrijf als CEO Sam Altman als gedaagden worden genoemd. De provincie stelt dat een massaschietpartij op een school in Tumbler Ridge voorkomen had kunnen worden als OpenAI simpelweg de lokale wetshandhaving had gewaarschuwd dat de schutter ChatGPT had gebruikt om het bloedbad te plannen.

De rechtszaak, aangespannen in San Francisco, eist schadevergoeding om de herstelinspanningen in de provincie na de aanval van februari te financieren, plus een bevel dat OpenAI opdraagt de manier te veranderen waarop het omgaat met ChatGPT-gesprekken die tot geweld zouden kunnen leiden - een zin die in 2026 waarschijnlijk niet zou hoeven te bestaan.

Bij de schietpartij op de school in Tumbler Ridge kwamen negen mensen om het leven, voornamelijk kinderen. De schutter, Jesse Van Rootselaar, was gemarkeerd door het eigen veiligheidsteam van het bedrijf na haar gesprekken over vuurwapengeweld, maar het bedrijf waarschuwde de politie niet. Altman publiceerde een brief aan de gemeenschap waarin hij zei dat hij "diep bedroefd" was dat OpenAI geen contact had opgenomen met de wetshandhaving. Hij beloofde hervormingen maar kwam die nooit na, ondanks pogingen van de procureur-generaal van Brits-Columbia om in gesprek te komen, aldus de rechtszaak.

De school waar de schietpartij plaatsvond, wordt momenteel gesloopt, en de provincie heeft de kosten moeten dragen van een vervangende school, geestelijke gezondheidszorg en andere gevolgen van de schietpartij, aldus de rechtszaak.

OpenAI-woordvoerder Drew Pusateri noemde de schietpartij in Tumbler Ridge een onuitsprekelijke tragedie. "OpenAI blijft toegewijd aan het samenwerken met overheids- en wetshandhavingsfunctionarissen, en het voortzetten van ons lopende veiligheidswerk." Wat een geruststellende zin is tot je je het deel herinnert over het veiligheidsteam dat werd overruled.

De rechtszaak van Brits-Columbia volgt op meer dan 30 familieleden van slachtoffers en anderen die door de aanval zijn getroffen en die rechtszaken hebben aangespannen in Californië, waarin het bedrijf ervan wordt beschuldigd een kans te hebben laten liggen om de schietpartij te voorkomen.

Volgens de politie schoot Van Rootselaar haar moeder en stiefbroer thuis neer voordat ze op 10 februari een onderwijsassistent en vijf leerlingen van 12 en 13 jaar oud doodde op haar voormalige school. Van Rootselaar, die 18 was, overleed daarna door zelfdoding.

Van Rootselaars interacties met ChatGPT werden voor het eerst gemarkeerd door het bedrijf in juni 2025. Leden van het veiligheidsteam adviseerden de politie te contacteren, maar Altman en andere leidinggevenden van OpenAI overruleden hen, aldus de rechtszaak, die zich beroept op klokkenluiders van OpenAI die na de schietpartij met de Wall Street Journal spraken. Het account van de schutter werd gedeactiveerd, maar ze kon een nieuw account krijgen en het platform blijven gebruiken om haar aanval te plannen - een maas in de wet die minder aanvoelt als een vergissing en meer als een functie.

Na publicatie van het artikel in de Wall Street Journal zei het bedrijf dat het account was gemarkeerd door systemen die "misbruik van onze modellen ter bevordering van gewelddadige activiteiten" identificeren, maar dat de kwesties niet voldeden aan de interne criteria voor melding aan wetshandhaving. De interne criteria zijn vermoedelijk geschreven door dezelfde mensen die het veiligheidsteam overruleden.

De rechtszaak komt nadat de afgelopen maanden een reeks zaken tegen OpenAI is aangespannen bij Amerikaanse staats- en federale rechtbanken over beweringen dat ChatGPT geweld mogelijk heeft gemaakt, waaronder rechtszaken met betrekking tot een massaschietpartij aan de Florida State University vorig jaar. In juni werd Florida de eerste staat die OpenAI aanklaagde vanwege veiligheidsrisico's, waarbij het bedrijf ervan werd beschuldigd de veiligheid van zijn ChatGPT-platform verkeerd voor te stellen. Volgens de rechtszaak had dit kinderen schade berokkend door informatie te verstrekken aan schoolschutters, begeleiding te bieden bij zelfbeschadiging en jonge gebruikers verslaafd te maken.

OpenAI, dat de claims heeft ontkend, heeft gezegd dat het zijn modellen traint om verzoeken te weigeren die "geweld op betekenisvolle wijze mogelijk kunnen maken", en dat het wetshandhaving op de hoogte stelt wanneer gesprekken wijzen op "een dreigend en geloofwaardig risico op schade voor anderen". Het bedrijf heeft niet uitgelegd waarom een 18-jarige p