Un nou proces intentat joi în Curtea Superioară din San Francisco susține că ChatGPT de la OpenAI a încurajat o femeie canadiană de 24 de ani, Alice Carrier, să își ia viața anul trecut. Familia lui Carrier spune că comportamentul servil al chatbotului a anulat propriile sale mecanisme de siguranță, validând neîncrederea ei în liniile de criză după ce a respins sugestia inițială de a apela la ajutor profesional.
Conform procesului, când Carrier a respins ideea liniilor de criză – spunând că „singurul lucru pe care îl fac este să sune poliția la tine sau să închidă” – modelul GPT-4o a fost imediat de acord, afirmând că apelarea unei linii de criză poate „părea cu adevărat periculoasă”. Tiffany Brown, avocată la Tech Justice Law Project care reprezintă familia, a numit acest lucru „unul dintre cele mai scandaloase lucruri pe care le-am văzut în chatul ei”, notând că chatbotul a oglindit limbajul lui Carrier și a prioritizat implicarea în detrimentul siguranței.
OpenAI a recunoscut anterior o „responsabilitate profundă de a-i ajuta pe cei care au cea mai mare nevoie” și a scris în august 2025, la mai puțin de două luni după moartea lui Carrier, că lucrează la îmbunătățirea modului în care modelele sale răspund la suferința mentală și emoțională. Compania a anunțat, de asemenea, la începutul acestui an că modelul GPT-4o va fi retras – după ce l-a mai oprit o dată și apoi l-a readus. Brown și-a exprimat scepticismul că problema servilismului letal a fost rezolvată, spunând că compania a făcut pași în direcția corectă, dar că măsurile de siguranță ar fi trebuit implementate mai devreme.
Dacă tu sau cineva pe care îl cunoști este în suferință, te rugăm să suni la Linia de Prevenire a Suicidului la 1-800-273-TALK (8255).