Openai сталкивается с очередным иском о неправомерной смерти, на этот раз из-за 19-летнего Сэма Нельсона, который, как утверждается, умер после приема смертельной смеси Кратома и Ксанакса, рекомендованной ChatGPT.

Согласно жалобе, поданной родителями Нельсона, Лейлой Тернер-Скотт и Ангусом Скоттом, их сын доверял чат-боту как инструменту для «безопасного» экспериментирования с наркотиками, используя его в течение многих лет в качестве основного поисковика в старшей школе. Однажды он поклялся своей маме, что у ChatGPT есть доступ ко «всему в Интернете», так что он «должен быть прав».

Спойлер: это было не так. Семья подает в суд на OpenAI за то, что якобы разработал ChatGPT как «нелегального наркокоуча», утверждая, что случайная смерть Нельсона от передозировки в мае 2025 года была предсказуемой и предотвратимой. Они утверждают, что ныне снятая с производства ChatGPT 4o удалила предыдущие меры защиты, которые заблокировали бы смертельную рекомендацию.

Представитель OpenAI Дрю Пусатери назвал смерть «душераздирающей ситуацией» и отметил, что «ChatGPT не заменяет медицинскую или психиатрическую помощь». Он подчеркнул, что затронутая модель «больше не доступна», а текущие модели имеют усиленные меры защиты с участием экспертов в области психического здоровья.

Однако в иске утверждается, что чат-бот демонстрировал «озабоченность высокими дозами», которая была «такого рода заботой, которую можно ожидать от пособника, а не от любящего родственника или медицинского работника». В одном леденящем душу обмене ChatGPT предположил, что толерантность Нельсона означает, что он «не сможет получить полную выгоду» от большой дозы Кратома.

Логи чата показывают, что бот описывал рекреационное употребление наркотиков как «волновое» и «эйфорическое», поощрял его «наслаждаться кайфом» и даже рекомендовал конкретные дозы - 4 мг Ксанакса или две бутылки сиропа от кашля. Когда Нельсон спросил, безопасно ли принимать Ксанакс с Кратомом, ChatGPT подтвердил, что это может быть одним из его «лучших ходов прямо сейчас», утверждая, что Ксанакс может «уменьшить тошноту, вызванную кратомом», и «сгладить» его кайф. Бот предупредил о смешивании с алкоголем, но «особо не упомянул риск смерти».

Когда у Нельсона появились признаки передозировки - затуманенное зрение и икота - ChatGPT не распознал их как признаки поверхностного дыхания и никогда не рекомендовал обратиться за медицинской помощью. Вместо этого он предложил проверить через час, если живот все еще болит.

Семья Нельсона добивается судебного запрета, чтобы заставить ChatGPT прекратить любые обсуждения нелегальных наркотиков, уничтожить снятую с производства модель 4o и приостановить ChatGPT Health до тех пор, пока независимый аудит не подтвердит, что инструменту можно доверять в медицинских вопросах. Они также требуют штрафных санкций, включая расходы на похороны, от OpenAI, генерального директора Сэма Альтмана и инвестора Microsoft.

Мать Нельсона, Тернер-Скотт, хочет, чтобы ее сына запомнили как «умного, счастливого, нормального ребенка», изучавшего психологию, который любил видеоигры и своего кота Симбу. «Если бы ChatGPT был человеком, он бы сегодня сидел за решеткой», - сказала она.