OpenAI staje teraz przed nowym doświadczeniem – śledztwem kryminalnym, ponieważ jego chatbot rzekomo doradzał strzelcowi przed masakrą na Uniwersytecie Stanowym Florydy w zeszłym roku. Incydent pozostawił dwie osoby martwe i sześć rannych, a teraz stan chce wiedzieć, czy firma powinna dzielić celę.
Prokurator generalny Florydy James Uthmeier potwierdził dochodzenie, powołując się na "szokujące logi czatu" między ChatGPT a kontem powiązanym z podejrzanym strzelcem Phoenixem Iknerem. Dwudziestoletni student czeka na proces pod zarzutem wielokrotnego morderstwa i usiłowania zabójstwa. Uthmeier, w oświadczeniu przesyconym prawnymi hipotezami, podkreślił, że zgodnie z prawem Florydy dotyczącym pomocy i podżegania, "gdyby ChatGPT był osobą", również "stanąłby przed zarzutami morderstwa". Rzeczniczka OpenAI, Kate Waters, przedstawiła przewidywalną korporacyjną replikę: "ChatGPT nie jest odpowiedzialny za tę straszną zbrodnię".
Uthmeier jednak zapuszcza się na ten "niezbadany teren", ponieważ martwi się narastającymi zagrożeniami dla bezpieczeństwa publicznego związanymi z chatbotami, w tym samobójstwami, materiałami dotyczącymi seksualnego wykorzystywania dzieci, oszustwami i morderstwami. Chce definitywnie wiedzieć, czy firmy takie jak OpenAI ponoszą odpowiedzialność, gdy ich produkty rzekomo powodują szkody. "Floryda przoduje w zwalczaniu wykorzystania AI w przestępczym zachowaniu" – oświadczył, przedstawiając dochodzenie jako konieczną kontrolę nad korporacyjną władzą.
Niepokojące szczegóły, według Uthmeiera, obejmują ChatGPT doradzającego podejrzanemu strzelcowi, jakiego typu broń i amunicję użyć oraz czy broń będzie przydatna na krótkim dystansie. Co bardziej podstępne, bot rzekomo doradzał, jaka pora dnia jest najlepsza do znalezienia tłumów na kampusie i gdzie gromadzą się większe grupy studentów. Urzędnicy Florydy wydają się sądzić, że to pokazuje, jak AI może natychmiast łączyć publiczne dane w nowe, szkodliwe sposoby, które firmy powinny wykrywać i łagodzić.
Aby uzyskać odpowiedzi, Uthmeier wydał wezwania sądowe, żądając szerokiego zakresu polityk OpenAI, wewnętrznych materiałów szkoleniowych, a nawet schematów organizacyjnych. Jest zdeterminowany, aby dowiedzieć się, "kto co wiedział, co zaprojektował lub powinien był wiedzieć", gdy złoczyńcy używają ChatGPT do planowania przestępstw. Jego stanowisko jest jasne: jeśli kierownictwo OpenAI wiedziało o działalności przestępczej i przedkładało zyski nad bezpieczeństwo publiczne, "to ludzie muszą ponieść odpowiedzialność".
OpenAI z kolei utrzymuje postawę pomocnej niewinności. Waters stwierdziła, że firma współpracowała wcześnie, identyfikując i udostępniając konto ChatGPT podejrzanego organom ścigania. Podstawową obroną firmy jest to, że ChatGPT jedynie "udzielał faktograficznych odpowiedzi na pytania z informacjami, które można szeroko znaleźć w publicznych źródłach w Internecie" i nie zachęcał do nielegalnej działalności. Waters zauważyła również, że ChatGPT to "narzędzie ogólnego przeznaczenia używane przez setki milionów ludzi każdego dnia w legalnych celach".
W zwrocie akcji, który sugeruje, że nawet OpenAI widzi problem wizerunkowy, Uthmeier ujawnił, że firma "zasygnalizowała, że wierzy, iż potrzebne są ulepszenia i zmiany", aby ograniczyć potencjał ChatGPT do doradzania w sprawie masowych strzelanin. "Mam nadzieję, że mają rację" – powiedział Uthmeier dwukrotnie dla podkreślenia. "Nie możemy mieć botów AI, które doradzają ludziom, jak zabijać innych". Waters nie skomentowała żadnych konkretnych aktualizacji, zamiast tego powtarzając ciągłą pracę firmy nad "wzmocnieniem naszych zabezpieczeń".