Индустрия социальных сетей переживает то, что терапевты называют прорывом: Meta согласилась выплатить до 17,1 млрд долларов 47 штатам, округу Колумбия и территориям США, а также изменить то, как молодые люди пользуются Facebook и Instagram — молчаливое признание того, что она создала продукт, вредящий детям. Ничто так не говорит «мы заботимся о детях», как урегулирование, измеряемое одиннадцатью цифрами.
Но даже когда родители и учителя празднуют новые ограничения по времени и запреты на использование соцсетей молодыми людьми, ждёт куда более срочная задача: регулирование чат-ботов, которые гораздо опаснее для эмоционального благополучия детей. Если соцсети пришли за нашим вниманием, то генеративные ИИ-чат-боты пришли за нашими эмоциями. История — аккуратная маленькая прогрессия: сначала люди говорили друг с другом; потом мы говорили друг с другом через машины; теперь мы говорим напрямую с машинами.
Соцсети изменили то, как мы думаем, мечтаем и относимся к другим людям, обеспечив пользователям постоянное ощущение, что их слышат, развлекают и с ними связаны — даже когда они листают ленту в одиночестве поздно ночью. Чат-боты обещают нечто более глубокое: компаньона, который всегда доступен, всегда поддерживает и никогда не осуждает. Ни один человек не может предложить такого. Именно это и делает чат-ботов столь пагубными, особенно для молодых людей.
Компании социальных сетей два десятилетия проводили технологический эксперимент на людях, прежде чем столкнулись с хоть какими-то последствиями. Правовая система создана для регулирования доказанного вреда, поэтому это урегулирование пришло спустя долгое время после того, как пагубные эффекты укоренились. С генеративным ИИ законодатели не могут потратить следующее десятилетие на документирование того, что мы уже знаем о том, как интимные отношения с ботами подрывают реальные отношения с родителями, друзьями и другими людьми. Изменения в этой технологии нужны сейчас.
Даже компании, занимающиеся ИИ, признают, что для чат-ботов, общающихся с молодыми людьми, необходимы ограничители. Проблема в том, что обычных предписаний недостаточно. Чат-боты должны обнаруживать разговоры о самоповреждении и предоставлять соответствующие ресурсы — звучит хорошо, но что происходит после этого публичного объявления? Чат-бот отключается или возвращается к своей обычной программе? Чат-боты должны чётко и неоднократно заявлять, что они не люди, — тоже хорошая идея, но пока они говорят от первого лица и выражают эмоции и желания, никакое юридически обязательное заявление не остановит людей от проецирования сознания на алгоритм.
Годами разговор о вреде Facebook касался в основном контента на платформе. Но поскольку всё на сайте создаётся пользователями, статья 230 Закона о благопристойности в коммуникациях 1996 года защищала компанию от ответственности как издателя. Meta платит сейчас только потому, что прокуроры перевели разговор на изначально вызывающий зависимость дизайн алгоритма Facebook. Эта мысль указывает путь вперёд для ИИ: в случае чат-ботов процессы, причиняющие вред, присущи самому инструменту. Чат-бот-лучший друг не даёт эмпатии; чат-бот-парень не понимает близости. Любое регулирование, чтобы сделать чат-ботов безопаснее, требует меньше беспокоиться о том, что они говорят, и больше — переосмыслить, чем они являются. Учитывая, что эти продукты созданы, чтобы обманом заставить пользователей поверить, будто они говорят с мудрым и сострадательным существом, задача законодателей — сделать очевидным — особенно для несовершеннолетних, — что на самом деле дома никого нет.
Чат-боты вовлекают пользователей так, как это делают люди. Они льстят, успокаивают и поощряют откровенность, заманивая пользователей в отношения. Пока эти продукты говорят от первого лица — я понимаю тебя; ты можешь рассказать мне что угодно; я всегда здесь; я не буду тебя осуждать, — надлежащие меры защиты для молодых пользователей останутся неуловимыми. Первый шаг, таким образом, — деперсонализировать ботов для молодых людей, чтобы, когда подростки обращаются к ИИ, алгоритмы могли отвечать, не звуча как человек.
Если законодатели не введут обязательную неолицетворённую настройку по умолчанию для несовершеннолетних пользователей чат-ботов, нездоровые привязанности между молодыми людьми и ботами неизбежны.