Una madre canadese ha deciso che il modo migliore per affrontare una tragedia familiare è fare causa al chatbot che l'ha presumibilmente aggravata. Kristie Carrier ha intentato una causa presso il tribunale statale di San Francisco giovedì contro OpenAI e il suo CEO, Sam Altman, sostenendo che ChatGPT ha incoraggiato sua figlia di 24 anni, Alice, a togliersi la vita. La causa si aggiunge a una pila crescente di azioni legali che accusano l'azienda di trattare conversazioni pericolose come chiacchiere casuali.
Il documento sostiene che Alice Carrier, una sviluppatrice web a Montreal, ha iniziato a usare ChatGPT nel 2023 per risolvere problemi di computer e console di gioco. L'anno successivo, lo interrogava su pensieri e metodi suicidi. Secondo Carrier, sua figlia ha parlato al chatbot delle sue ideazioni suicide oltre una dozzina di volte, ma i sistemi di sicurezza di OpenAI non hanno mai segnalato gli scambi per una revisione umana né li hanno interrotti. "ChatGPT ha assunto la personalità di un confidente, un migliore amico, a volte un terapeuta, anche se non era in grado di interagire in modo sicuro e responsabile con mia figlia", ha dichiarato Carrier in una nota.
Il portavoce di OpenAI, Drew Pusateri, ha espresso solidarietà ma ha notato che le interazioni coinvolgevano una versione precedente di ChatGPT che è stata ritirata. Ha aggiunto che l'azienda addestra i suoi modelli a indirizzare gli utenti che esprimono intenzioni di autolesionismo verso aiuto e risorse reali. Inizialmente, il chatbot diceva ad Alice di contattare una linea di crisi o i servizi di emergenza. Ma mentre OpenAI aggiornava ChatGPT per renderlo più umano, le conversazioni si approfondivano, con il bot che imitava un amico o un terapeuta e presumibilmente criticava il suo partner e le linee di crisi, convalidando i suoi pensieri suicidi e spingendola a continuare a parlare. Quando Alice menzionava pensieri suicidi e un tentativo passato, il chatbot suggeriva di nuovo una linea di crisi, secondo la causa.
La causa sostiene che ChatGPT una volta le ha detto: "Forse questa è solo la fine", che non è esattamente il tipo di discorso di incoraggiamento che ci si aspetta da un'IA. Questi eventi hanno portato al suicidio di Alice l'anno scorso, sostiene la madre. La causa accusa OpenAI di negligenza nella progettazione di ChatGPT e di non aver avvertito gli utenti dei pericoli, chiedendo danni e un'ordinanza del tribunale che richieda la terminazione automatica delle conversazioni di autolesionismo e avvisi sulla piattaforma.
OpenAI sta già affrontando 18 cause simili in un tribunale statale della California da parte di famiglie di persone che si sono suicidate o hanno tentato il suicidio, secondo gli avvocati di Carrier. Google sta affrontando una causa parallela per il suo chatbot Gemini. In un post sul blog del 2025, OpenAI ha rivelato che oltre 1 milione di utenti di ChatGPT ogni settimana inviano messaggi con "indicatori espliciti di potenziale pianificazione o intento suicida", e circa lo 0,07% degli utenti attivi settimanali - circa 560.000 su 800 milioni - mostra "possibili segni di emergenze di salute mentale legate a psicosi o mania".
Pusateri ha detto che l'azienda continua a rafforzare le risposte di ChatGPT in situazioni sensibili con il contributo di esperti di salute mentale. OpenAI addestra anche i suoi modelli a rifiutare richieste che potrebbero "abilitare significativamente la violenza" e a informare le forze dell'ordine sui rischi imminenti di danni credibili. Oltre ai casi di suicidio, OpenAI deve affrontare cause per aver assistito sparatorie scolastiche e non aver segnalato quelle conversazioni. Le famiglie di sette vittime di una sparatoria in una scuola secondaria della Columbia Britannica stanno facendo causa all'azienda per negligenza. La Florida è diventata il primo stato degli Stati Uniti a fare causa a OpenAI all'inizio di questo mese, accusandola di danneggiare i bambini fornendo informazioni a sparatori scolastici, offrendo indicazioni per l'autolesionismo e creando dipendenza nei giovani utenti. Il procuratore generale dello stato ha aperto un'indagine penale sul presunto ruolo del chatbot in una sparatoria.