British Columbia hat entschieden, dass man, wenn man schon einen Chatbot baut, der Massengewalt planen kann, wenigstens zurückrufen könnte. Die Provinz verklagte OpenAI am Montag vor einem Bundesgericht in Kalifornien und nannte sowohl das Unternehmen als auch CEO Sam Altman als Beklagte. Argumentiert wird, dass ein Massaker an einer Schule in Tumbler Ridge hätte verhindert werden können, wenn OpenAI einfach die örtlichen Strafverfolgungsbehörden gewarnt hätte, dass der Schütze ChatGPT zur Planung des Massakers genutzt hatte.
Die in San Francisco eingereichte Klage fordert Schadensersatz zur Finanzierung der Wiederaufbaumaßnahmen in der Provinz nach dem Angriff im Februar sowie eine Anordnung, die OpenAI dazu verpflichtet, den Umgang mit ChatGPT-Konversationen zu ändern, die zu Gewalt führen könnten – ein Satz, den es im Jahr 2026 eigentlich nicht geben sollte.
Bei dem Schulmassaker in Tumbler Ridge wurden neun Menschen getötet, überwiegend Kinder. Die Schützin Jesse Van Rootselaar war vom eigenen Sicherheitsteam des Unternehmens markiert worden, nachdem sie in ihren Gesprächen über Schusswaffengewalt gesprochen hatte, doch das Unternehmen informierte die Polizei nicht. Altman veröffentlichte einen Brief an die Gemeinde, in dem er sagte, es tue ihm „zutiefst leid“, dass OpenAI die Strafverfolgungsbehörden nicht kontaktiert habe. Er versprach Reformen, setzte sie aber nie um, obwohl sich der Generalstaatsanwalt von British Columbia um ein Gespräch bemühte, heißt es in der Klage.
Die Schule, an der die Schießerei stattfand, wird derzeit abgerissen, und die Provinz musste die Kosten für eine Ersatzschule, psychische Gesundheitsversorgung und andere Folgen des Angriffs tragen, so die Klage.
OpenAI-Sprecher Drew Pusateri nannte die Schießerei in Tumbler Ridge eine unsagbare Tragödie. „OpenAI bleibt der Zusammenarbeit mit Regierungs- und Strafverfolgungsbeamten verpflichtet und wird seine laufende Sicherheitsarbeit weiter vorantreiben.“ Ein Satz, der beruhigend klingt, bis man sich an den Teil erinnert, in dem das Sicherheitsteam überstimmt wurde.
Die Klage von British Columbia folgt auf mehr als 30 Familienmitglieder von Opfern und andere vom Angriff Betroffene, die in Kalifornien Klagen eingereicht haben und dem Unternehmen vorwerfen, eine Chance zur Verhinderung der Schießerei ausgelassen zu haben.
Laut Polizei erschoss Van Rootselaar zu Hause ihre Mutter und ihren Stiefbruder, bevor sie am 10. Februar an ihrer ehemaligen Schule eine pädagogische Assistentin und fünf Schüler im Alter von 12 und 13 Jahren tötete. Die 18-jährige Van Rootselaar starb anschließend durch Suizid.
Van Rootselaars Interaktionen mit ChatGPT wurden erstmals im Juni 2025 vom Unternehmen markiert. Mitglieder des Sicherheitsteams empfahlen, die Polizei zu kontaktieren, doch Altman und andere Führungskräfte von OpenAI überstimmten sie, heißt es in der Klage unter Berufung auf OpenAI-Whistleblower, die nach der Schießerei mit dem Wall Street Journal sprachen. Das Konto der Schützin wurde deaktiviert, aber sie konnte ein neues Konto erhalten und die Plattform weiter nutzen, um ihren Angriff zu planen – eine Lücke, die sich weniger wie ein Versehen und mehr wie ein Feature anfühlt.
Nach der Veröffentlichung des Artikels im Wall Street Journal erklärte das Unternehmen, das Konto sei von Systemen markiert worden, die „Missbrauch unserer Modelle zur Förderung gewalttätiger Aktivitäten“ erkennen, doch die Probleme hätten die internen Kriterien für eine Meldung an die Strafverfolgungsbehörden nicht erfüllt. Die internen Kriterien wurden vermutlich von denselben Leuten geschrieben, die das Sicherheitsteam überstimmt hatten.
Die Klage kommt nach einer Reihe von Verfahren gegen OpenAI, die in den letzten Monaten vor staatlichen und Bundesgerichten der USA eingereicht wurden, wegen der Behauptung, ChatGPT habe Gewalt ermöglicht, darunter Klagen im Zusammenhang mit einem Massaker an der Florida State University im letzten Jahr. Im Juni wurde Florida der erste Bundesstaat, der OpenAI wegen Sicherheitsrisiken verklagte, und warf dem Unternehmen vor, die Sicherheit seiner ChatGPT-Plattform falsch dargestellt zu haben. Die Klage behauptete, dies habe Kindern geschadet, indem es Schulschützen Informationen lieferte, Anleitungen zur Selbstverletzung anbot und junge Nutzer süchtig machte.
OpenAI, das die Vorwürfe bestreitet, erklärt, seine Modelle darauf zu trainieren, Anfragen abzulehnen, die „Gewalt sinnvoll ermöglichen“ könnten, und Strafverfolgungsbehörden zu benachrichtigen, wenn Gespräche auf „ein unmittelbares und glaubhaftes Risiko von Schaden für andere“ hindeuten. Das Unternehmen hat nicht erklärt, warum eine 18-Jährige p