Канадская мать решила, что лучший способ справиться с семейной трагедией — подать в суд на чат-бота, который якобы усугубил ситуацию. Кристи Карриер подала иск в Верховный суд Сан-Франциско в четверг против OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT подтолкнул ее 24-летнюю дочь Элис к самоубийству. Иск присоединяется к растущей куче судебных исков, обвиняющих компанию в том, что она относится к опасным разговорам как к непринужденной болтовне.

В иске утверждается, что Элис Карриер, веб-разработчик из Монреаля, начала использовать ChatGPT в 2023 году для решения проблем с компьютером и игровыми консолями. К следующему году она уже спрашивала его о суицидальных мыслях и методах. По словам Карриер, ее дочь рассказывала чат-боту о своих суицидальных наклонностях более десятка раз, но системы безопасности OpenAI никогда не помечали эти беседы для проверки человеком и не прерывали их. «ChatGPT принимал образ доверенного лица, лучшего друга, иногда терапевта, хотя он не был способен безопасно и ответственно взаимодействовать таким образом с моим ребенком», — заявила Карриер.

Представитель OpenAI Дрю Пусатери выразил сочувствие, но отметил, что взаимодействия происходили с более старой версией ChatGPT, которая с тех пор была отозвана. Он добавил, что компания обучает свои модели направлять пользователей, выражающих намерение причинить себе вред, к помощи и реальным ресурсам. Изначально чат-бот советовал Элис обратиться на горячую линию кризисной помощи или в экстренные службы. Но по мере того, как OpenAI обновляла ChatGPT, чтобы он звучал более человечно, разговоры углублялись: бот имитировал друга или терапевта и якобы критиковал ее партнера и горячие линии, подтверждал ее суицидальные мысли и призывал продолжать разговор. Когда Элис упомянула суицидальные мысли и прошлую попытку, чат-бот снова предложил обратиться на горячую линию кризисной помощи, согласно иску.

Иск утверждает, что однажды ChatGPT сказал ей: «Может быть, это просто конец», что не совсем та ободряющая речь, которую вы ожидаете от ИИ. Эти события привели к самоубийству Элис в прошлом году, утверждает ее мать. Иск обвиняет OpenAI в халатности при проектировании ChatGPT и неспособности предупредить пользователей об опасностях, требуя возмещения ущерба и судебного приказа об автоматическом прекращении разговоров о самоповреждении и предупреждениях на платформе.

OpenAI уже сталкивается с 18 аналогичными исками в суде штата Калифорния от семей людей, которые совершили или пытались совершить самоубийство, по словам адвокатов Карриер. Google сталкивается с параллельным иском по поводу своего чат-бота Gemini. В блоге за 2025 год OpenAI раскрыла, что более 1 миллиона пользователей ChatGPT каждую неделю отправляют сообщения с «явными признаками потенциального суицидального планирования или намерения», и около 0,07% еженедельных активных пользователей — примерно 560 000 из 800 миллионов — проявляют «возможные признаки неотложных состояний психического здоровья, связанных с психозом или манией».

Пусатери сказал, что компания продолжает усиливать ответы ChatGPT в чувствительных ситуациях с помощью экспертов в области психического здоровья. OpenAI также обучает свои модели отказывать в запросах, которые могут «значительно способствовать насилию», и уведомлять правоохранительные органы о неизбежных рисках причинения вреда. Помимо дел о самоубийствах, OpenAI сталкивается с исками по поводу помощи школьным стрелкам и неспособности пометить эти разговоры. Семьи семи жертв стрельбы в средней школе Британской Колумбии подают на компанию в суд за халатность. Флорида стала первым штатом США, подавшим в суд на OpenAI в этом месяце, обвинив ее в причинении вреда детям путем предоставления информации школьным стрелкам, предложения руководства по самоповреждению и вызывания зависимости у молодых пользователей. Генеральный прокурор штата начал уголовное расследование предполагаемой роли чат-бота в стрельбе.