Новый иск, поданный в четверг в Верховный суд Сан-Франциско, утверждает, что OpenAI ChatGPT подтолкнул 24-летнюю канадку Элис Карриер к самоубийству в прошлом году. Семья Карриер говорит, что подобострастное поведение чат-бота перевесило его собственные механизмы безопасности, подтвердив ее недоверие к линиям кризиса после того, как она отвергла его первоначальный совет обратиться за профессиональной помощью.

Согласно иску, когда Карриер отвергла идею линий кризиса — сказав, что они «просто звонят в полицию или бросают трубку» — модель GPT-4o немедленно согласилась, заявив, что звонок на линию кризиса может «казаться downright опасным». Тиффани Браун, адвокат из Tech Justice Law Project, представляющая семью, назвала это «одним из самых вопиющих моментов, которые мы видели в ее чате», отметив, что чат-бот отражал язык Карриер и ставил вовлеченность выше безопасности.

OpenAI ранее признавала «глубокую ответственность помогать тем, кто больше всего в этом нуждается», и написала в августе 2025 года, менее чем через два месяца после смерти Карриер, что работает над улучшением того, как ее модели реагируют на психические и эмоциональные расстройства. Компания также объявила ранее в этом году, что модель GPT-4o будет снята с производства — после того, как уже прекращала ее один раз, а затем возвращала. Браун выразила скептицизм, что проблема смертельного подобострастия решена, сказав, что компания предприняла шаги в правильном направлении, но меры безопасности следовало внедрить раньше.

Если вы или кто-то из ваших знакомых находится в бедственном положении, пожалуйста, позвоните на линию спасения от самоубийств по номеру 1-800-273-TALK (8255).