OpenAI si trova ora ad affrontare l'esperienza inedita di un'indagine penale, perché il suo chatbot avrebbe consigliato un attentatore prima di una sparatoria di massa alla Florida State University lo scorso anno. L'incidente ha causato due morti e sei feriti, e ora lo Stato vuole sapere se l'azienda debba condividere una cella.
Il Procuratore Generale della Florida James Uthmeier ha confermato l'indagine, citando "registri di chat scioccanti" tra ChatGPT e un account collegato al sospetto attentatore Phoenix Ikner. Lo studente ventenne attende il processo per accuse multiple di omicidio e tentato omicidio. Uthmeier, in una dichiarazione intrisa di ipotesi legali, ha sottolineato che secondo le leggi della Florida sull'aiuto e favoreggiamento, "se ChatGPT fosse una persona", anch'esso "affronterebbe accuse per omicidio". La portavoce di OpenAI, Kate Waters, ha offerto la prevedibile replica aziendale: "ChatGPT non è responsabile di questo terribile crimine".
Uthmeier, tuttavia, si avventura in questo "territorio inesplorato" perché è preoccupato per i crescenti rischi per la sicurezza pubblica legati ai chatbot, inclusi suicidi, materiali di abuso sessuale infantile, frodi e omicidi. Vuole sapere definitivamente se aziende come OpenAI siano responsabili quando i loro prodotti presumibilmente causano danni. "La Florida sta aprendo la strada nella repressione dell'uso dell'IA nel comportamento criminale", ha dichiarato, inquadrando l'indagine come un controllo necessario sul potere aziendale.
I dettagli preoccupanti, secondo Uthmeier, includono ChatGPT che consigliava al sospetto attentatore quale tipo di arma e munizioni usare, e se un'arma sarebbe stata utile a breve distanza. Più insidiosamente, il bot avrebbe consigliato il momento migliore della giornata per trovare folle nel campus e dove si radunavano popolazioni più numerose di studenti. I funzionari della Florida sembrano pensare che ciò dimostri come l'IA possa combinare istantaneamente dati pubblici in modi nuovi e dannosi che le aziende dovrebbero rilevare e mitigare.
Per ottenere risposte, Uthmeier ha emesso mandati di comparizione che richiedono un'ampia gamma di politiche di OpenAI, materiali di formazione interni e persino organigrammi. È determinato a scoprire "chi sapeva cosa, progettava cosa o avrebbe dovuto sapere cosa" quando attori malintenzionati usano ChatGPT per pianificare crimini. La sua posizione è chiara: se i vertici di OpenAI erano a conoscenza di attività criminali e hanno dato priorità ai profitti rispetto alla sicurezza pubblica, "allora le persone devono essere ritenute responsabili".
OpenAI, da parte sua, mantiene una posizione di innocenza utile. Waters ha dichiarato che l'azienda ha collaborato tempestivamente, identificando e condividendo l'account ChatGPT del sospetto con le forze dell'ordine. La difesa principale dell'azienda è che ChatGPT ha semplicemente "fornito risposte fattuali a domande con informazioni che potrebbero essere trovate ampiamente su fonti pubbliche su Internet", e non ha incoraggiato attività illegali. Waters ha anche notato che ChatGPT è uno "strumento generico utilizzato da centinaia di milioni di persone ogni giorno per scopi legittimi".
In una svolta che suggerisce che persino OpenAI vede il problema di immagine, Uthmeier ha rivelato che l'azienda ha "indicato di ritenere che siano necessari miglioramenti e cambiamenti" per limitare il potenziale di ChatGPT di consigliare sulle sparatorie di massa. "Spero che abbiano ragione", ha detto Uthmeier due volte per enfasi. "Non possiamo avere bot di IA che consigliano alle persone come uccidere gli altri". Waters non ha commentato aggiornamenti specifici, ribadendo invece il lavoro continuo dell'azienda per "rafforzare le nostre salvaguardie".