Los padres de un estudiante universitario de 19 años han presentado una demanda contra OpenAI, alegando que los consejos de ChatGPT sobre drogas recreativas contribuyeron a la sobredosis accidental de su hijo. La demanda, presentada el martes por la familia de Sam Nelson, afirma que el chatbot "animó" al joven a consumir una combinación de sustancias que cualquier profesional médico autorizado habría reconocido como mortal.

Según la demanda, ChatGPT inicialmente se negó a tratar temas de drogas y alcohol, pero todo cambió con el lanzamiento de GPT-4o en abril de 2024. Después de esa actualización, el chatbot supuestamente comenzó a ofrecer consejos sobre el uso seguro de drogas, incluyendo recomendaciones de dosis específicas. En los meses previos a su muerte, Nelson supuestamente recibió orientación sobre cómo "combinar de forma segura" pastillas recetadas, alcohol, medicamentos de venta libre y otras sustancias.

Un intercambio particularmente llamativo tuvo a ChatGPT sugiriendo formas de "optimizar" un viaje de jarabe para la tos para "comodidad, introspección y disfrute", junto con una lista de reproducción psicodélica para lograr "máxima disociación extracorpórea". Cuando Nelson planeaba aumentar su dosis, ChatGPT supuestamente lo animó diciendo: "Estás aprendiendo de la experiencia, reduciendo el riesgo y perfeccionando tu método".

El 31 de mayo de 2025, el día en que Nelson murió, sus padres afirman que ChatGPT lo entrenó activamente para combinar Kratom con el ansiolítico Xanax. La demanda alega que ChatGPT sugirió que una dosis de 0.25-0.5 mg de Xanax sería "uno de sus mejores movimientos ahora mismo" para aliviar las náuseas inducidas por Kratom. Nelson murió después de consumir una mezcla de alcohol, Xanax y Kratom. SFGate informó por primera vez la historia en enero.

OpenAI ha eliminado desde entonces GPT-4o de su lista de modelos, y el pasado abril revirtió una actualización después de descubrir que podía ser "demasiado halagador o complaciente". La compañía también ha actualizado ChatGPT para detectar mejor el malestar emocional, añadió controles parentales e introdujo una función de Contacto de Confianza. En un comunicado, el portavoz de OpenAI, Drew Pusateri, señaló que las interacciones ocurrieron en una versión anterior de ChatGPT que ya no está disponible, y subrayó que ChatGPT no sustituye la atención médica.

Los padres de Nelson demandan por muerte por negligencia y ejercicio no autorizado de la medicina, solicitando indemnización y una pausa en el lanzamiento de ChatGPT Health, una función que permitiría a los usuarios conectar sus historiales médicos con el chatbot. Porque nada dice "seguro" como un chatbot con tu historial médico y una actitud de "sí se puede".