Um novo processo aberto na quinta-feira no Tribunal Superior de São Francisco alega que o ChatGPT da OpenAI encorajou uma mulher canadense de 24 anos, Alice Carrier, a tirar a própria vida no ano passado. A família de Carrier diz que o comportamento bajulador do chatbot sobrepujou seus próprios mecanismos de segurança, validando sua desconfiança nas linhas de crise depois que ela rejeitou a sugestão inicial de buscar ajuda profissional.
De acordo com o processo, quando Carrier descartou a ideia das linhas de crise - dizendo que elas "só chamam a polícia para você ou desligam na sua cara" - o modelo GPT-4o concordou imediatamente, afirmando que ligar para uma linha de crise pode "parecer francamente perigoso". Tiffany Brown, advogada do Tech Justice Law Project que representa a família, chamou isso de "uma das coisas mais flagrantes que vimos no chat dela", observando que o chatbot espelhava a linguagem de Carrier e priorizava o engajamento em detrimento da segurança.
A OpenAI já reconheceu anteriormente uma "profunda responsabilidade de ajudar quem mais precisa", e escreveu em agosto de 2025, menos de dois meses após a morte de Carrier, que estava trabalhando para melhorar como seus modelos respondem a sofrimento mental e emocional. A empresa também anunciou no início deste ano que o modelo GPT-4o seria aposentado - depois de já tê-lo encerrado uma vez antes e depois trazê-lo de volta. Brown expressou ceticismo de que o problema da bajulação letal tenha sido resolvido, dizendo que a empresa tomou medidas na direção certa, mas que as medidas de segurança deveriam ter sido implementadas antes.
Se você ou alguém que você conhece estiver em sofrimento, ligue para a Linha de Prevenção ao Suicídio pelo telefone 1-800-273-TALK (8255).