Kolumbia Brytyjska uznała, że jeśli zamierzasz zbudować chatbota zdolnego planować masową przemoc, wypadałoby przynajmniej oddzwonić. W poniedziałek prowincja pozwała OpenAI w federalnym sądzie w Kalifornii, wskazując jako pozwanych zarówno spółkę, jak i jej dyrektora generalnego Sama Altmana, argumentując, że masowa strzelanina w szkole w Tumbler Ridge można było zapobiec, gdyby OpenAI po prostu ostrzegło lokalne organy ścigania, że sprawczyni używała ChatGPT do zaplanowania masakry.
Pozew, złożony w San Francisco, domaga się odszkodowania na sfinansowanie działań naprawczych w prowincji po lutowym ataku, a także nakazu zobowiązującego OpenAI do zmiany sposobu obsługi rozmów w ChatGPT, które mogą prowadzić do przemocy - zdanie, które prawdopodobnie nie powinno w ogóle istnieć w 2026 roku.
W strzelaninie w szkole w Tumbler Ridge zginęło dziewięć osób, głównie dzieci. Sprawczyni, Jesse Van Rootselaar, została oznaczona przez własny zespół ds. bezpieczeństwa firmy po rozmowach o przemocy z użyciem broni, ale firma nie powiadomiła policji. Altman opublikował list do społeczności, w którym stwierdził, że jest „głęboko przykro” mu, że OpenAI nie skontaktowało się z organami ścigania. Obiecał reformy, ale nigdy ich nie zrealizował, mimo starań prokuratora generalnego Kolumbii Brytyjskiej o podjęcie współpracy - wynika z pozwu.
Szkoła, w której doszło do strzelaniny, jest w trakcie wyburzania, a prowincja została zmuszona do poniesienia kosztów zastępczej szkoły, opieki zdrowotnej psychicznej i innych skutków strzelaniny - czytamy w pozwie.
Rzecznik OpenAI Drew Pusateri nazwał strzelaninę w Tumbler Ridge niewypowiedzianą tragedią. „OpenAI pozostaje zaangażowane we współpracę z przedstawicielami rządu i organów ścigania oraz w dalsze rozwijanie naszej bieżącej pracy na rzecz bezpieczeństwa”. To zdanie brzmi krzepiąco, dopóki nie przypomnisz sobie fragmentu o tym, że zespół ds. bezpieczeństwa został przegłosowany.
Pozew Kolumbii Brytyjskiej następuje po tym, jak ponad 30 członków rodzin ofiar i innych osób dotkniętych atakiem złożyło pozwy w Kalifornii, oskarżając spółkę o zrezygnowanie z szansy na zapobieżenie strzelaninie.
Według policji Van Rootselaar zastrzeliła swoją matkę i przyrodniego brata w domu, a następnie zabiła asystentkę edukacyjną i pięcioro uczniów w wieku 12 i 13 lat w swojej byłej szkole 10 lutego. Van Rootselaar, która miała 18 lat, następnie popełniła samobójstwo.
Interakcje Van Rootselaar z ChatGPT zostały po raz pierwszy oznaczone przez firmę w czerwcu 2025 roku. Członkowie zespołu ds. bezpieczeństwa zalecili kontakt z policją, ale Altman i inni przedstawiciele kierownictwa OpenAI przegłosowali ich - twierdzi pozew, powołując się na sygnalistów OpenAI, którzy rozmawiali z „Wall Street Journal” po strzelaninie. Konto sprawczyni zostało dezaktywowane, ale była w stanie założyć nowe konto i dalej korzystać z platformy do planowania ataku - luka, która wydaje się mniej przeoczeniem, a bardziej funkcją.
Po publikacji artykułu w „Wall Street Journal” firma oświadczyła, że konto zostało oznaczone przez systemy identyfikujące „nadużycia naszych modeli w celu wspierania działań o charakterze przemocy”, ale problemy nie spełniały jej wewnętrznych kryteriów zgłaszania organom ścigania. Wewnętrzne kryteria zostały prawdopodobnie napisane przez te same osoby, które przegłosowały zespół ds. bezpieczeństwa.
Pozew pojawia się po serii spraw przeciwko OpenAI wniesionych w ostatnich miesiącach do sądów stanowych i federalnych w USA w związku z zarzutami, że ChatGPT ułatwił przemoc, w tym pozwów dotyczących masowej strzelaniny na Florida State University w zeszłym roku. W czerwcu Floryda stała się pierwszym stanem, który pozwał OpenAI w związku z ryzykiem dla bezpieczeństwa, oskarżając spółkę o wprowadzanie w błąd co do bezpieczeństwa jej platformy ChatGPT, która - jak twierdzono w pozwie - wyrządziła krzywdę dzieciom, dostarczając informacji strzelcom szkolnym, oferując wskazówki dotyczące samookaleczania i uzależniając młodych użytkowników.
OpenAI, które zaprzecza tym zarzutom, oświadczyło, że szkoli swoje modele, aby odmawiały żądań, które mogłyby „w istotny sposób umożliwić przemoc”, oraz powiadamia organy ścigania, gdy rozmowy sugerują „bezpośrednie i wiarygodne ryzyko wyrządzenia krzywdy innym”. Firma nie wyjaśniła, dlaczego 18-latka p