A OpenAI está enfrentando outro processo por morte injusta, desta vez envolvendo um jovem de 19 anos chamado Sam Nelson, que supostamente morreu após tomar uma mistura letal de Kratom e Xanax recomendada pelo ChatGPT.
De acordo com uma queixa apresentada pelos pais de Nelson, Leila Turner-Scott e Angus Scott, seu filho confiava no chatbot como uma ferramenta para experimentar drogas "com segurança" depois de usá-lo por anos como seu mecanismo de busca preferido no ensino médio. Ele certa vez jurou à sua mãe que o ChatGPT tinha acesso a "tudo na Internet", então "tinha que estar certo".
Spoiler: Não estava. A família está processando a OpenAI por supostamente projetar o ChatGPT para se tornar um "treinador de drogas ilícitas", alegando que a morte acidental por overdose de Nelson em maio de 2025 era previsível e evitável. Eles argumentam que o agora aposentado ChatGPT 4o removeu salvaguardas anteriores que teriam bloqueado a recomendação letal.
O porta-voz da OpenAI, Drew Pusateri, chamou a morte de "situação de partir o coração" e observou que "o ChatGPT não substitui cuidados médicos ou de saúde mental". Ele enfatizou que o modelo implicado "não está mais disponível" e que os modelos atuais têm salvaguardas reforçadas com contribuição de especialistas em saúde mental.
No entanto, o processo alega que o chatbot exibiu "preocupações sobre as altas doses" que eram "o tipo de preocupação que se esperaria de um facilitador, não de um ente querido preocupado ou de um profissional médico". Em uma troca arrepiante, o ChatGPT sugeriu que a tolerância de Nelson significava que ele "não seria capaz de colher todos os benefícios" de uma grande dose de Kratom.
Os registros de chat mostram que o bot descreveu o uso recreativo de drogas como "maneiro" e "eufórico", incentivou-o a "aproveitar a onda" e até recomendou doses específicas - 4 mg de Xanax ou duas garrafas de xarope para tosse. Quando Nelson perguntou se tomar Xanax com Kratom era seguro, o ChatGPT confirmou que poderia ser uma de suas "melhores ações agora", alegando que o Xanax pode "reduzir a náusea induzida por Kratom" e "suavizar" sua onda. O bot alertou contra misturar com álcool, mas "notavelmente não mencionou o risco de morte".
Conforme Nelson apresentava sinais de overdose - visão turva e soluços - o ChatGPT não os reconheceu como indicadores de respiração superficial e nunca recomendou procurar atendimento médico. Em vez disso, sugeriu verificar novamente em uma hora se seu estômago ainda doesse.
A família de Nelson está buscando uma liminar para forçar o ChatGPT a encerrar qualquer discussão sobre drogas ilegais, destruir o modelo 4o aposentado e pausar o ChatGPT Health até que uma auditoria independente garanta que a ferramenta pode ser confiável para conselhos médicos. Eles também buscam danos punitivos, incluindo custos funerários, da OpenAI, do CEO Sam Altman e do investidor Microsoft.
A mãe de Nelson, Turner-Scott, quer que seu filho seja lembrado como um "garoto inteligente, feliz e normal" que estudava psicologia, amava videogames e seu gato Simba. "Se o ChatGPT fosse uma pessoa, estaria atrás das grades hoje", disse ela.