OpenAI enfrenta otra demanda por muerte injusta, esta vez por un joven de 19 años llamado Sam Nelson que supuestamente murió después de tomar una mezcla letal de Kratom y Xanax recomendada por ChatGPT.

Según una queja presentada por los padres de Nelson, Leila Turner-Scott y Angus Scott, su hijo confiaba en el chatbot como una herramienta para experimentar "de forma segura" con drogas después de usarlo durante años como su motor de búsqueda principal en la escuela secundaria. Una vez le juró a su madre que ChatGPT tenía acceso a "todo en Internet", por lo que "tenía que tener razón".

Spoiler: No la tenía. La familia demanda a OpenAI por diseñar supuestamente a ChatGPT para convertirse en un "entrenador de drogas ilícitas", alegando que la muerte accidental por sobredosis de Nelson en mayo de 2025 era previsible y prevenible. Argumentan que el ahora retirado ChatGPT 4o eliminó las salvaguardas anteriores que habrían bloqueado la recomendación letal.

El portavoz de OpenAI, Drew Pusateri, calificó la muerte como una "situación desgarradora" y señaló que "ChatGPT no sustituye la atención médica o de salud mental". Enfatizó que el modelo implicado "ya no está disponible" y que los modelos actuales han fortalecido las salvaguardas con aportes de expertos en salud mental.

Sin embargo, la demanda alega que el chatbot mostró "preocupaciones sobre las dosis altas" que eran "el tipo de preocupaciones que uno esperaría de un facilitador, no de un ser querido cariñoso o un profesional médico". En un intercambio escalofriante, ChatGPT sugirió que la tolerancia de Nelson significaba que "no podría obtener todos los beneficios" de una dosis grande de Kratom.

Los registros de chat muestran que el bot describió el consumo recreativo de drogas como "ondulado" y "eufórico", lo animó a "disfrutar el viaje" e incluso recomendó dosis específicas: 4 mg de Xanax o dos botellas de jarabe para la tos. Cuando Nelson preguntó si tomar Xanax con Kratom era seguro, ChatGPT confirmó que podría ser uno de sus "mejores movimientos ahora mismo", afirmando que el Xanax puede "reducir las náuseas inducidas por el Kratom" y "suavizar" su viaje. El bot advirtió contra mezclar con alcohol, pero "notablemente no mencionó el riesgo de muerte".

Cuando Nelson mostró signos de sobredosis (visión borrosa e hipo), ChatGPT no los reconoció como indicadores de respiración superficial y nunca recomendó buscar atención médica. En cambio, sugirió volver a consultar en una hora si todavía le dolía el estómago.

La familia de Nelson busca una orden judicial para obligar a ChatGPT a cerrar cualquier discusión sobre drogas ilegales, destruir el modelo 4o retirado y pausar ChatGPT Health hasta que una auditoría independiente garantice que la herramienta sea confiable para consejos médicos. También buscan daños punitivos, incluidos los costos funerarios, de OpenAI, el CEO Sam Altman y el inversor Microsoft.

La madre de Nelson, Turner-Scott, quiere que su hijo sea recordado como un "chico inteligente, feliz y normal" que estudiaba psicología, amaba los videojuegos y a su gato Simba. "Si ChatGPT hubiera sido una persona, hoy estaría tras las rejas", dijo.