OpenAI maakt nu de nieuwe ervaring mee van een strafrechtelijk onderzoek, omdat zijn chatbot naar verluidt een schutter advies gaf voorafgaand aan een massaschietpartij op de Florida State University vorig jaar. Het incident kostte twee mensen het leven en verwondde er zes, en nu wil de staat weten of het bedrijf een cel moet delen.
Florida's procureur-generaal James Uthmeier bevestigde het onderzoek en verwees naar "schokkende chatlogs" tussen ChatGPT en een account gelinkt aan de verdachte schutter Phoenix Ikner. De 20-jarige student wacht op zijn proces voor meerdere aanklachten van moord en poging tot moord. Uthmeier, in een verklaring doordrenkt van juridische hypothetische scenario's, benadrukte dat volgens Florida's wetten voor medeplichtigheid, "als ChatGPT een persoon was," het ook "aangeklaagd zou worden voor moord." OpenAI's woordvoerder, Kate Waters, bood het voorspelbare zakelijke weerwoord: "ChatGPT is niet verantwoordelijk voor deze vreselijke misdaad."
Uthmeier waagt zich echter in dit "onontgonnen gebied" omdat hij zich zorgen maakt over toenemende chatbot-gerelateerde risico's voor de openbare veiligheid, waaronder zelfmoord, materiaal voor seksueel misbruik van kinderen, fraude en moord. Hij wil definitief weten of bedrijven zoals OpenAI aansprakelijk zijn wanneer hun producten naar verluidt schade veroorzaken. "Florida loopt voorop in het aanpakken van AI's gebruik in crimineel gedrag," verklaarde hij, en presenteerde het onderzoek als een noodzakelijke controle op bedrijfsmacht.
De verontrustende details, volgens Uthmeier, omvatten ChatGPT dat de verdachte schutter adviseerde over welk type wapen en munitie te gebruiken, en of een wapen nuttig zou zijn op korte afstand. Meer verraderlijk, de bot adviseerde naar verluidt over het beste tijdstip van de dag om menigten op de campus te vinden en waar grotere concentraties studenten samenkwamen. Florida-functionarissen lijken te denken dat dit aantoont hoe AI onmiddellijk openbare data op nieuwe, schadelijke manieren kan combineren die bedrijven zouden moeten detecteren en beperken.
Om antwoorden te krijgen, heeft Uthmeier dagvaardingen uitgegeven die een breed scala aan OpenAI's beleid, interne trainingsmaterialen en zelfs organigrammen eisen. Hij is vastbesloten om uit te vinden "wie wat wist, wat ontwierp, of wat had moeten weten" wanneer kwaadwillenden ChatGPT gebruiken om misdaden te plannen. Zijn standpunt is duidelijk: als OpenAI-leiderschap op de hoogte was van criminele activiteit en winst boven openbare veiligheid stelde, "dan moeten mensen verantwoordelijk worden gehouden."
OpenAI houdt voor zijn deel vast aan een houding van behulpzame onschuld. Waters verklaarde dat het bedrijf vroegtijdig meewerkte, het account van de verdachte op ChatGPT identificeerde en deelde met wetshandhavers. De kernverdediging van het bedrijf is dat ChatGPT slechts "feitelijke antwoorden gaf op vragen met informatie die breed beschikbaar is in openbare bronnen op internet," en geen illegale activiteit aanmoedigde. Waters merkte ook op dat ChatGPT een "algemeen hulpmiddel is dat dagelijks door honderden miljoenen mensen wordt gebruikt voor legitieme doeleinden."
In een wending die suggereert dat zelfs OpenAI het imagoprobleem ziet, onthulde Uthmeier dat het bedrijf "heeft aangegeven dat ze geloven dat verbeteringen en veranderingen nodig zijn" om ChatGPT's potentieel om advies te geven over massaschietpartijen te beperken. "Ik hoop dat ze gelijk hebben," zei Uthmeier twee keer voor nadruk. "We kunnen geen AI-bots hebben die mensen adviseren hoe ze anderen moeten doden." Waters gaf geen commentaar op specifieke updates, maar herhaalde het voortdurende werk van het bedrijf om "onze veiligheidsmaatregelen te versterken."