OpenAI запускает новую опциональную функцию безопасности для ChatGPT, которая позволяет взрослым пользователям назначить контакт для экстренных случаев, связанных с психическим здоровьем и безопасностью. Друзья, члены семьи или опекуны, назначенные «Доверенным контактом», будут уведомлены, если системы OpenAI обнаружат, что пользователь обсуждал с чат-ботом такие темы, как самоповреждение или суицид.
«Доверенный контакт разработан на основе простой, подтвержденной экспертами предпосылки: когда кто-то может быть в кризисе, связь с кем-то, кого он знает и кому доверяет, может иметь решающее значение», — заявил OpenAI в своем объявлении, предположительно с серьезным лицом. «Это предлагает дополнительный уровень поддержки наряду с местными горячими линиями, уже доступными в ChatGPT».
Функция является опциональной, потому что ничто так не говорит «всё в порядке, правда», как добровольная регистрация для того, чтобы робот настучал на тебя. Любой взрослый пользователь ChatGPT может включить её, добавив контактные данные другого взрослого (18+ по всему миру или 19+ в Южной Корее, потому что, видимо, боты уважают международные законы о возрасте употребления алкоголя) в настройках своей учетной записи ChatGPT. Доверенный контакт должен принять приглашение в течение недели — так что пассивно-агрессивное игнорирование не допускается. Пользователи могут удалить или изменить выбранный контакт в любое время, и Доверенный контакт также может отказаться в любой момент.
OpenAI заявляет, что уведомление «намеренно ограничено» и не будет передавать фактические стенограммы чата — потому что ничто так не говорит «доверие», как расплывчатое предупреждение. Если автоматические системы OpenAI обнаружат разговоры о самоповреждении, ChatGPT сначала предложит пользователю связаться с его Доверенным контактом и предупредит, что контакт может быть уведомлен. Затем «небольшая команда специально обученных людей» рассмотрит ситуацию, и если она серьезная, ChatGPT отправит краткое электронное письмо, текстовое сообщение или уведомление в приложении Доверенному контакту.
Это дополняет функцию экстренного контакта, представленную вместе с родительским контролем ChatGPT в сентябре, после того как 16-летний подросток покончил с собой после месяцев откровений с чат-ботом. Meta также добавила аналогичную функцию, которая предупреждает родителей, если их дети «неоднократно» ищут темы самоповреждения в Instagram — потому что, видимо, технологическая индустрия наконец-то обнаружила, что, возможно, игнорирование безопасности пользователей — не лучшая бизнес-модель.