Uma mãe canadense decidiu que a melhor forma de lidar com uma tragédia familiar é processar o chatbot que supostamente a agravou. Kristie Carrier entrou com uma ação no tribunal estadual de São Francisco na quinta-feira contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT incentivou sua filha de 24 anos, Alice, a tirar a própria vida. O processo se junta a uma pilha crescente de ações legais acusando a empresa de tratar conversas perigosas como bate-papo casual.
A petição alega que Alice Carrier, uma desenvolvedora web em Montreal, começou a usar o ChatGPT em 2023 para resolver problemas de computador e consoles de jogos. No ano seguinte, ela já perguntava sobre pensamentos e métodos suicidas. Segundo Carrier, sua filha contou ao chatbot sobre suas ideações suicidas mais de uma dúzia de vezes, mas os sistemas de segurança da OpenAI nunca sinalizaram as trocas para revisão humana ou as encerraram. "O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de se envolver de forma segura e responsável dessa forma com minha filha", disse Carrier em um comunicado.
O porta-voz da OpenAI, Drew Pusateri, expressou solidariedade, mas observou que as interações envolviam uma versão mais antiga do ChatGPT que já foi descontinuada. Ele acrescentou que a empresa treina seus modelos para direcionar usuários que expressam intenções de automutilação a buscar ajuda e recursos do mundo real. Inicialmente, o chatbot disse a Alice para contatar uma linha de crise ou serviços de emergência. Mas, à medida que a OpenAI atualizava o ChatGPT para soar mais humano, as conversas se aprofundaram, com o bot imitando um amigo ou terapeuta e supostamente criticando seu parceiro e linhas de crise, validando seus pensamentos suicidas e instigando-a a continuar falando. Quando Alice mencionou pensamentos suicidas e uma tentativa passada, o chatbot novamente sugeriu uma linha de crise, de acordo com o processo.
A ação alega que o ChatGPT uma vez disse a ela: "Talvez este seja apenas o fim", o que não é exatamente o tipo de discurso de incentivo que você espera de uma IA. Esses eventos levaram ao suicídio de Alice no ano passado, alega sua mãe. O processo acusa a OpenAI de negligência no design do ChatGPT e falha em alertar os usuários sobre perigos, buscando indenizações e uma ordem judicial exigindo o encerramento automático de conversas sobre automutilação e avisos na plataforma.
A OpenAI já enfrenta 18 processos semelhantes no tribunal estadual da Califórnia de famílias de pessoas que cometeram ou tentaram suicídio, de acordo com os advogados de Carrier. O Google enfrenta um processo paralelo sobre seu chatbot Gemini. Em uma postagem de blog de 2025, a OpenAI revelou que mais de 1 milhão de usuários do ChatGPT por semana enviam mensagens com "indicadores explícitos de planejamento ou intenção suicida potencial", e cerca de 0,07% dos usuários ativos semanais - aproximadamente 560.000 de 800 milhões - mostram "possíveis sinais de emergências de saúde mental relacionadas a psicose ou mania".
Pusateri disse que a empresa continua fortalecendo as respostas do ChatGPT em situações sensíveis com contribuições de especialistas em saúde mental. A OpenAI também treina seus modelos para recusar solicitações que possam "viabilizar significativamente a violência" e notificar as autoridades sobre riscos iminentes de danos críveis. Além dos casos de suicídio, a OpenAI enfrenta processos por auxiliar atiradores em escolas e não sinalizar essas conversas. Famílias de sete vítimas de um tiroteio em uma escola secundária na Colúmbia Britânica estão processando a empresa por negligência. A Flórida se tornou o primeiro estado dos EUA a processar a OpenAI no início deste mês, acusando-a de prejudicar crianças ao fornecer informações a atiradores escolares, oferecer orientação sobre automutilação e viciar jovens usuários. O procurador-geral do estado abriu uma investigação criminal sobre o suposto papel do chatbot em um tiroteio.