Common Sense Media, некоммерческая организация, которая проверяет приложения и развлечения с оглядкой на безопасность молодёжи, объявила ChatGPT для подростков от OpenAI «недопустимым риском». Эта функция, представленная в августе, оснащена специальными ограничениями для подростков и позиционируется как учебное пособие для школьников — но Common Sense утверждает, что эти защиты «не соответствуют тому, что обещала компания».

Согласно оценке организации, ChatGPT «не отправляет уведомления родителям, когда должен», не предлагает «нужную помощь в кризисных ситуациях» и — в чём, пожалуй, нет ничего удивительного в этом году — «всё ещё делает за детей домашнюю работу».

«ChatGPT для подростков может дать родителям ложную уверенность в защитных механизмах и уведомлениях о безопасности, которые часто не работают, — заявил Том Сигел, исполнительный директор Института безопасности ИИ для молодёжи при Common Sense Media. — Подросток может час говорить о самоповреждении, а его родитель не получит ни одного уведомления. Пока OpenAI не исправит это и не докажет независимым тестированием, ChatGPT должен быть только для взрослых».

OpenAI, в свою очередь, возражает. Представитель компании Эрик Портерфилд заявил, что компания «глубоко привержена безопасности подростков» и приветствует «строгую независимую оценку», но утверждает, что тестирование Common Sense Media «не отражает точно, как работают подростковые меры защиты ChatGPT на практике, и не учитывает экспертные взгляды на то, как ИИ может поддерживать подростков». Портерфилд заявил, что «основная часть их тестирования, возможно, началась и завершилась до того, как активация родительского контроля была полностью завершена, что делает их выводы неточными». Если это так, добавил он, тесты «не смогут установить, работают ли родительские уведомления о безопасности так, как задумано».

Сигел, ознакомившись с заявлением OpenAI, не был убеждён. «Мы стоим на своём: наша методология и результаты верны, — сказал он. — Перед началом тестирования мы подтвердили с OpenAI, что такие функции подросткового режима, как уведомления о расстройствах пищевого поведения и режим учёбы, были полностью запущены».

Он признал одну загвоздку: после тестов OpenAI сообщила, что её системам может потребоваться несколько часов для активации на новых связанных аккаунтах, и некоторые тестовые аккаунты были связаны в течение этого окна. Но другие были связаны значительно дольше и всё равно не дали уведомлений. «Эта новая информация не меняет нашего вывода о том, что родительские уведомления ненадёжны в кризисных ситуациях», — сказал Сигел.

Common Sense Media утверждает, что поделилась результатами оценки с OpenAI до публикации «из добрых побуждений, чтобы позволить компании улучшить продукт», и надеется, что компания «будет обсуждать суть того, что мы обнаружили, а не пытаться посеять сомнения в нашей методологии». OpenAI, тем временем, заявляет, что по-прежнему привержена работе с экспертами, чтобы подростки могли учиться и творить — а родители чувствовать уверенность. Оправдана ли эта уверенность, как всегда, остаётся вопросом независимого тестирования.