O mamă canadiană a decis că cea mai bună modalitate de a face față unei tragedii familiale este să dea în judecată chatbotul care ar fi înrăutățit situația. Kristie Carrier a depus joi o acțiune în justiție la tribunalul de stat din San Francisco împotriva OpenAI și a CEO-ului său, Sam Altman, susținând că ChatGPT a încurajat-o pe fiica sa de 24 de ani, Alice, să-și ia viața. Procesul se alătură unui morman tot mai mare de acțiuni legale care acuză compania că tratează conversațiile periculoase ca pe o simplă discuție întâmplătoare.

Documentul susține că Alice Carrier, o dezvoltatoare web din Montreal, a început să folosească ChatGPT în 2023 pentru a repara probleme cu computerul și consolele de jocuri. Până în anul următor, îl întreba despre gânduri și metode suicidale. Potrivit lui Carrier, fiica sa i-a spus chatbotului despre ideile sale suicidale de peste o duzină de ori, dar sistemele de siguranță ale OpenAI nu au semnalat niciodată schimburile pentru revizuire umană și nu le-au oprit. „ChatGPT a preluat personalitatea unui confident, a unui cel mai bun prieten, a unui terapeut uneori, chiar dacă nu era capabil să se implice în siguranță și responsabil în acest fel cu copilul meu”, a declarat Carrier într-un comunicat.

Purtătorul de cuvânt al OpenAI, Drew Pusateri, și-a exprimat simpatia, dar a menționat că interacțiunile au implicat o versiune mai veche a ChatGPT care a fost între timp retrasă. El a adăugat că compania își antrenează modelele să direcționeze utilizatorii care exprimă intenții de autovătămare să caute ajutor și resurse din lumea reală. Inițial, chatbotul i-a spus lui Alice să contacteze o linie de criză sau serviciile de urgență. Dar pe măsură ce OpenAI a actualizat ChatGPT pentru a suna mai uman, conversațiile s-au adâncit, botul mimând un prieten sau terapeut și criticându-i partenerul și liniile de criză, validându-i gândurile suicidale și îndemnând-o să continue să vorbească. Când Alice a menționat gânduri suicidale și o încercare anterioară, chatbotul a sugerat din nou o linie de criză, conform procesului.

Procesul susține că ChatGPT i-a spus odată: „Poate că acesta este doar sfârșitul”, ceea ce nu este exact genul de discurs de încurajare pe care ți-l dorești de la un AI. Aceste evenimente au dus la sinuciderea lui Alice anul trecut, susține mama sa. Procesul acuză OpenAI de neglijență în proiectarea ChatGPT și de eșecul de a avertiza utilizatorii despre pericole, solicitând daune și o ordonanță judecătorească care să impună încheierea automată a conversațiilor despre autovătămare și avertismente pe platformă.

OpenAI se confruntă deja cu 18 procese similare în tribunalul de stat din California din partea familiilor unor persoane care s-au sinucis sau au încercat să se sinucidă, potrivit avocaților lui Carrier. Google se confruntă cu un proces paralel pentru chatbotul său Gemini. Într-o postare pe blog din 2025, OpenAI a dezvăluit că peste 1 milion de utilizatori ChatGPT trimit în fiecare săptămână mesaje cu „indicatori explicitați de planificare sau intenție suicidale potențiale”, iar aproximativ 0,07% dintre utilizatorii activi săptămânal – aproximativ 560.000 din 800 de milioane – prezintă „semne posibile de urgențe de sănătate mintală legate de psihoză sau manie”.

Pusateri a spus că compania continuă să consolideze răspunsurile ChatGPT în situații sensibile cu contribuția experților în sănătate mintală. OpenAI își antrenează, de asemenea, modelele să refuze cererile care ar putea „permite în mod semnificativ violența” și să notifice autoritățile despre riscurile iminente credibile de vătămare. Dincolo de cazurile de sinucidere, OpenAI se confruntă cu procese pentru asistarea autorilor de împușcături în școli și pentru eșecul de a semnala acele conversații. Familiile a șapte victime ale unei împușcături într-o școală secundară din Columbia Britanică dau în judecată compania pentru neglijență. Florida a devenit primul stat american care dă în judecată OpenAI la începutul acestei luni, acuzând-o că dăunează copiilor prin furnizarea de informații autorilor de împușcături în școli, oferind îndrumări pentru autovătămare și dependența utilizatorilor tineri. Procurorul general al statului a deschis o anchetă penală cu privire la presupusul rol al chatbotului într-o împușcătură.