OpenAI se confruntă acum cu experiența inedită a unei anchete penale, deoarece chatbot-ul său ar fi sfătuit un atacator înaintea unui masacru de la Universitatea de Stat din Florida anul trecut. Incidentul a lăsat doi morți și șase răniți, iar acum statul vrea să știe dacă compania ar trebui să împartă o celulă.
Procurorul General al Floridei, James Uthmeier, a confirmat ancheta, citând "jurnale de conversație șocante" între ChatGPT și un cont asociat cu suspectul Phoenix Ikner. Studentul de 20 de ani așteaptă procesul pentru multiple acuzații de crimă și tentativă de crimă. Uthmeier, într-o declarație plină de ipoteze juridice, a subliniat că, conform legilor Floridei privind complicitatea, "dacă ChatGPT ar fi o persoană", și el "ar fi învinuit pentru crimă". Purta-toarea de cuvânt a OpenAI, Kate Waters, a oferit replica corporatistă previzibilă: "ChatGPT nu este responsabil pentru această crimă teribilă."
Uthmeier, totuși, se aventurează în acest "teren necunoscut" pentru că este îngrijorat de riscurile crescânde de siguranță publică legate de chatbot-uri, inclusiv sinuciderea, materialele de abuz sexual infantil, frauda și crima. El vrea să știe definitiv dacă firmele precum OpenAI sunt răspunzătoare atunci când produsele lor provoacă daune. "Florida conduce în reprimarea utilizării IA în comportamentul criminal", a declarat el, prezentând ancheta ca o verificare necesară a puterii corporative.
Specificațiile tulburătoare, conform lui Uthmeier, includ ChatGPT sfătuind suspectul despre ce tip de armă și muniție să folosească și dacă o armă ar fi utilă la distanță scurtă. Mai insidios, botul ar fi sfătuit asupra celei mai bune ore a zilei pentru a găsi mulțimi în campus și unde se adună populații mai mari de studenți. Oficialii Floridei par să creadă că acest lucru demonstrează cum IA poate combina instantaneu date publice în moduri noi și dăunătoare pe care companiile ar trebui să le detecteze și să le atenueze.
Pentru a obține răspunsuri, Uthmeier a emis mandate cerând o gamă largă de politici ale OpenAI, materiale de instruire interne și chiar organigrame. El este hotărât să afle "cine a știut ce, a proiectat ce sau ar fi trebuit să știe ce" atunci când actorii răi folosesc ChatGPT pentru a planifica crime. Poziția sa este clară: dacă conducerea OpenAI a știut de activități criminale și a prioritarizat profiturile în detrimentul siguranței publice, "atunci oamenii trebuie să fie trași la răspundere."
OpenAI, de partea sa, menține o poziție de inocență utilă. Waters a declarat că compania a cooperat de la început, identificând și partajând contul ChatGPT al suspectului cu forțele de ordine. Apărarea principală a companiei este că ChatGPT doar "a oferit răspunsuri factuale la întrebări cu informații care pot fi găsite pe scară largă în surse publice de pe Internet" și nu a încurajat activități ilegale. Waters a remarcat, de asemenea, că ChatGPT este un "instrument de uz general folosit de sute de milioane de oameni în fiecare zi în scopuri legitime."
Într-o întorsătură care sugerează că chiar și OpenAI vede problema de imagine, Uthmeier a dezvăluit că compania a "indicat că cred că sunt necesare îmbunătățiri și modificări" pentru a limita potențialul ChatGPT de a sfătui în legătură cu masacrele. "Sper că au dreptate", a spus Uthmeier de două ori pentru a sublinia. "Nu putem avea boturi de IA care sfătuiesc oamenii cum să-i omoare pe alții." Waters nu a comentat asupra unor actualizări specifice, repetând în schimb munca continuă a companiei de a "întări garanțiile noastre."