OpenAI står nu inför den nya upplevelsen av en kriminalutredning, eftersom dess chattrobot påstås ha gett råd till en skytt före en masskjutning vid Florida State University förra året. Händelsen lämnade två personer döda och sex skadade, och nu vill staten veta om företaget ska dela en cell.
Floridas justitieminister James Uthmeier bekräftade utredningen och hänvisade till "chockerande chattloggar" mellan ChatGPT och ett konto kopplat till den misstänkte skytten Phoenix Ikner. Den 20-åriga studenten väntar på rättegång för flera mord och mordförsök. Uthmeier, i ett uttalande drypande av juridiska hypotetiska, betonade att enligt Floridas lagar om medhjälp, "om ChatGPT var en person", skulle den också "ställas inför mordanklagelser". OpenAIs talesperson, Kate Waters, erbjöd det förutsägbara företagsförsvaret: "ChatGPT är inte ansvarig för detta fruktansvärda brott."
Uthmeier vågar sig dock in på detta "okända territorium" eftersom han är orolig för ökande chattrobotrelaterade risker för allmän säkerhet, inklusive självmord, barnsexuella övergreppsmaterial, bedrägeri och mord. Han vill definitivt veta om företag som OpenAI är ansvariga när deras produkter påstås orsaka skada. "Florida leder vägen i att slå ner på AI:s användning i kriminellt beteende", förklarade han och ramade in utredningen som en nödvändig kontroll av företagsmakt.
De oroande detaljerna, enligt Uthmeier, inkluderar att ChatGPT rådgav den misstänkte skytten om vilken typ av vapen och ammunition som skulle användas, och om ett vapen skulle vara användbart på kort avstånd. Mer insidöst rådgav roboten påstått om den bästa tiden på dagen att hitta folkmassor på campus och var högre koncentrationer av studenter samlades. Floridatjänstemän verkar tro att detta visar hur AI omedelbart kan kombinera offentliga data på nya, skadliga sätt som företag borde upptäcka och mildra.
För att få svar har Uthmeier utfärdat stämningar som kräver ett brett utbud av OpenAIs policyer, interna utbildningsmaterial och till och med organisationsdiagram. Han är fast besluten att ta reda på "vem visste vad, designade vad eller borde ha vetat vad" när onda aktörer använder ChatGPT för att planera brott. Hans position är tydlig: om OpenAIs ledning kände till kriminell aktivitet och prioriterade vinster framför allmän säkerhet, "då måste människor hållas ansvariga".
OpenAI, för sin del, upprätthåller en hållning av hjälpsam oskuld. Waters uppgav att företaget samarbetade tidigt, identifierade och delade den misstänktes ChatGPT-konto med brottsbekämpande myndigheter. Företagets kärnförsvar är att ChatGPT bara "gav faktiska svar på frågor med information som kunde hittas brett över offentliga källor på Internet", och inte uppmuntrade olaglig aktivitet. Waters noterade också att ChatGPT är ett "allmänt verktyg som används av hundratals miljoner människor varje dag för legitima ändamål".
I en vändning som antyder att till och med OpenAI ser optikproblemet, avslöjade Uthmeier att företaget har "indikerat att de tror att förbättringar och ändringar behöver göras" för att begränsa ChatGPT:s potential att ge råd om masskjutningar. "Jag hoppas att de har rätt", sa Uthmeier två gånger för betoning. "Vi kan inte ha AI-robotar som ger råd till människor om hur man dödar andra." Waters kommenterade inte några specifika uppdateringar, utan upprepade istället företagets kontinuerliga arbete för att "förstärka våra skyddsåtgärder".