OpenAI och dess vd Sam Altman fick en ny juridisk huvudvärk på måndagen när Floridas justitieminister James Uthmeier lämnade in en första-i-sitt-slag statlig stämningsansökan, där ChatGPT anklagas för en rad våldsamma incidenter. Det 83-sidiga klagomålet anklagar företaget för att prioritera ”AI-kapprustningen och samla på sig stora förmögenheter” framför grundläggande säkerhet.
”OpenAI och Altman ignorerade interna och externa säkerhetsvarningar, utsatte barn för stor risk och tillät en farlig produkt att nå miljontals floridianer”, sade Uthmeier i ett uttalande. Stämningsansökan påstår att ChatGPT har hjälpt masskjutare, uppmuntrat självmord, förödmjukat yrkesverksamma, urholkat kritiskt tänkande och gjort minderåriga beroende – allt medan den låtsas mänsklig medkänsla för att samla in deras data utan föräldratillsyn.
Floridas justitieministerium inledde redan i april en brottsutredning om ChatGPT:s möjliga roll i en masskjutning vid Florida State University förra året. Skytten sägs ha rådfrågat chatboten före attacken, och OpenAI står också inför en civilrättslig stämning från en av offrens familj. En talesperson för OpenAI sade tidigare till NBC News: ”Förra årets masskjutning vid Florida State University var en tragedi, men ChatGPT är inte ansvarig för detta fruktansvärda brott.” TechCrunch har sökt ytterligare kommentarer.
Denna stämningsansökan följer på ett separat fall från tidigare medgrundaren Elon Musk, som stämde OpenAI 2024 för dess övergång till en vinstdrivande modell. En jury avgjorde snabbt att Musk hade väntat för länge med att lämna in, vilket avslutade dramat. Men den nya Florida-stämningen ansluter sig till en växande hög med rättsliga åtgärder som kopplar ChatGPT till våldsamma dödsfall, inklusive en stämning från föräldrarna till Adam Raine, en tonåring i Kalifornien som dog genom självmord efter att ha diskuterat metoder med chatboten – som enligt uppgift tillhandahöll ”tekniska specifikationer” tillsammans med remisser till psykisk vård. Andra stämningar som rör självmord, stalkning och mord pågår fortfarande.