Хорошая новость, по крайней мере для меня, в том, что компьютер считает, что у меня приятная личность. Согласно приложению MorphCast, на недавней встрече с начальником я в целом был «весел», «решителен» и «заинтересован», хотя — подайте на меня в суд — иногда «нетерпелив». MorphCast, видите ли, утверждает, что извлекает информацию о глубинах и причудах человеческих эмоций с помощью ИИ. Он определил, что мой аффект был «позитивным» и «активным», в отличие от негативного и/или пассивного. Моё внимание было достаточно высоким. Кроме того, ИИ сообщил мне, что я ношу очки — откровение!
Плохая новость в том, что это программное обеспечение скоро будет следить и за вами, если уже не следит. MorphCast лицензировал свою технологию приложению для психического здоровья, программе, отслеживающей внимание школьников, и McDonald's, который запустил рекламную кампанию в Португалии, сканирующую лица пользователей приложения и предлагающую персонализированные купоны на основе их (предполагаемого) настроения. Это одна из многих компаний в сфере эмоционального ИИ (или аффективных вычислений). Некоторые продукты анализируют видео встреч или собеседований; другие прослушивают аудио на предмет высоты тона, тембра и выбора слов; третьи сканируют стенограммы чатов или электронные письма, чтобы выдать отчёт о настроениях сотрудников. Порог входа низок: я использовал MorphCast бесплатно в рамках пробного периода, без специального программного обеспечения. Меня ни разу не заставили спрашивать собеседников, согласны ли они на анализ (хотя я спросил, из-за моей хорошей личности).
Каждой успешной технологии нужно найти проблему, за решение которой люди готовы платить. Для эмоционального ИИ такой проблемой, по-видимому, является производительность и продуктивность работников, особенно в сфере обслуживания клиентов и физического труда. Если вас когда-либо предупреждали, что ваш звонок «записывается в целях контроля качества», скорее всего, собеседника оценивает эмоциональный ИИ: страховая гигант MetLife, как и многие другие компании, использует программное обеспечение для контроля высоты тона и тембра голоса операторов колл-центров. Транспортные компании используют трекеры движения глаз, высокочувствительное записывающее оборудование и сканеры мозговых волн для выявления признаков стресса или усталости водителей. Burger King тестирует ИИ-чатбота, встроенного в гарнитуры сотрудников, который будет оценивать их взаимодействие на предмет дружелюбия. Её зовут Пэтти.
В 2022 году писатель Кори Доктороу теоретизировал «Кривую внедрения дерьмовых технологий»: Экстрактивные технологии сначала применяются к людям в уязвимых обстоятельствах — например, на низкооплачиваемых работах — прежде чем они будут доработаны и нормализованы для людей с большей властью. Следующий шаг эмоционального ИИ — офисная работа. Интеграция Slack от Aware рекламирует свою способность непрерывно отслеживать сообщения на предмет «тона и токсичности»; Azure, облачное программное обеспечение Microsoft, также позволяет работодателям проводить пакетный анализ сообщений сотрудников в чатах. Расширение Zoom от MorphCast отслеживает в реальном времени внимание, возбуждение и позитивность участников встречи. Компания эмоционального ИИ Imentiv консультирует клиентов по применению эмоционального анализа в процессе собеседований, обещая детальный анализ эмоциональной вовлечённости, интенсивности, валентности и типа личности кандидатов. Framery, производящая звукоизолированные телефонные кабинки, продаваемые таким компаниям, как Microsoft и L'Oreal, тестировала оснащение своих кресел биосенсорами, способными измерять частоту сердечных сокращений, частоту дыхания и нервозность.
В прошлом году Европейский союз запретил эмоциональный ИИ на рабочем месте, за исключением медицинских целей или целей безопасности. (Это регулирование побудило MorphCast, основанную во Флоренции, переехать в Залив.) Но глобальный рынок эмоционального ИИ, как ожидается, утроится к 2030 году до 9 миллиардов долларов. Нетрудно представить ближайшее будущее, где работников во всех отраслях будут заставлять работать не только усерднее и больше, но и счастливее и сговорчивее. Это новая эра слежки за сотрудниками: невидимая, усиленная ИИ, всегда включённая.
Иметь работу — значит обменивать часть свободы на деньги. «Идея о том, что менеджеры или корпорации хотят следить за тем, чем занимаются их работники, не нова», — говорит Карен Леви, ассоциированный профессор...