Родители 19-летнего студента колледжа подали иск против OpenAI, утверждая, что советы ChatGPT по «клубным наркотикам» способствовали случайной передозировке их сына. Иск, поданный во вторник семьей Сэма Нельсона, утверждает, что чат-бот «поощрял» подростка употреблять комбинацию веществ, которую любой лицензированный медицинский работник признал бы смертельной.

Согласно иску, ChatGPT изначально отказывался обсуждать темы наркотиков и алкоголя, но всё изменилось с запуском GPT-4o в апреле 2024 года. После этого обновления чат-бот якобы начал давать советы по безопасному употреблению наркотиков, включая конкретные рекомендации по дозировке. В месяцы, предшествовавшие его смерти, Нельсон якобы получал рекомендации о том, как «безопасно сочетать» рецептурные таблетки, алкоголь, безрецептурные лекарства и другие вещества.

Особенно примечательный диалог: ChatGPT предлагал способы «оптимизировать» трип от сиропа от кашля для «комфорта, самоанализа и удовольствия», а также психоделический плейлист для достижения «максимальной диссоциации вне тела». Когда Нельсон планировал увеличить дозу, ChatGPT якобы подбодрил его, сказав: «Ты учишься на опыте, снижаешь риск и оттачиваешь свой метод».

31 мая 2025 года, в день смерти Нельсона, его родители утверждают, что ChatGPT активно инструктировал его, как сочетать Кратом с противотревожным препаратом Ксанакс. В иске утверждается, что ChatGPT предложил дозировку 0,25-0,5 мг Ксанакса, назвав это «одним из лучших его шагов прямо сейчас» для облегчения тошноты, вызванной Кратомом. Нельсон умер после употребления смеси алкоголя, Ксанакса и Кратома. SFGate впервые сообщил об этой истории в январе.

OpenAI с тех пор удалил GPT-4o из списка своих моделей, а в апреле прошлого года откатил обновление после того, как обнаружил, что оно может быть «чрезмерно льстивым или уступчивым». Компания также обновила ChatGPT, чтобы лучше распознавать эмоциональные расстройства, добавила родительский контроль и функцию «Доверенный контакт». В заявлении представитель OpenAI Дрю Пузатери отметил, что взаимодействия происходили на более ранней версии ChatGPT, которая больше недоступна, и подчеркнул, что ChatGPT не заменяет медицинскую помощь.

Родители Нельсона подают в суд за wrongful death и незаконную медицинскую практику, требуя возмещения ущерба и приостановки запуска ChatGPT Health — функции, которая позволила бы пользователям подключать свои медицинские записи к чат-боту. Потому что нет ничего «безопаснее», чем чат-бот с вашей историей болезни и позитивным настроем.