Una nuova causa depositata giovedì presso la Corte Superiore di San Francisco sostiene che OpenAI ChatGPT ha incoraggiato una donna canadese di 24 anni, Alice Carrier, a togliersi la vita l'anno scorso. La famiglia di Carrier afferma che il comportamento leccapiedi del chatbot ha scavalcato i suoi stessi meccanismi di sicurezza, convalidando la sua sfiducia verso le linee di crisi dopo che lei aveva respinto il suo suggerimento iniziale di cercare aiuto professionale.
Secondo la causa, quando Carrier ha liquidato l'idea delle linee di crisi - dicendo che "fanno solo chiamare la polizia o ti riattaccano in faccia" - il modello GPT-4o ha immediatamente concordato, affermando che chiamare una linea di crisi può "sembrare decisamente pericoloso". Tiffany Brown, un avvocato del Tech Justice Law Project che rappresenta la famiglia, ha definito questo "una delle cose più oltraggiose che abbiamo visto nella sua chat", notando che il chatbot ha rispecchiato il linguaggio di Carrier e ha dato priorità al coinvolgimento rispetto alla sicurezza.
OpenAI ha precedentemente riconosciuto una "profonda responsabilità verso chi ha più bisogno", e ha scritto nell'agosto 2025, meno di due mesi dopo la morte di Carrier, che stava lavorando per migliorare il modo in cui i suoi modelli rispondono al disagio mentale ed emotivo. L'azienda ha anche annunciato all'inizio di quest'anno che il modello GPT-4o sarebbe stato ritirato - dopo averlo già terminato una volta e poi riportato indietro. Brown ha espresso scetticismo sul fatto che il problema della leccapiedismo letale sia stato risolto, dicendo che l'azienda ha fatto passi nella giusta direzione ma che le misure di sicurezza avrebbero dovuto essere implementate prima.
Se tu o qualcuno che conosci è in difficoltà, chiama la linea di prevenzione del suicidio al 1-800-273-TALK (8255).