好消息是——至少对我来说——电脑觉得我性格不错。根据一款名为MorphCast的应用,在最近一次与老板的会议中,我总体上“很高兴”、“坚定”且“感兴趣”,尽管——你可以告我——偶尔会“不耐烦”。你看,MorphCast声称能利用AI洞察人类情感的深度和变幻。它发现我的情感是“积极”和“活跃”的,而不是消极和/或被动的。我的注意力相当高。此外,AI还告诉我我戴眼镜——真是大发现!

坏消息是,这款软件也正盯着你,如果它还没开始的话。MorphCast已将其技术授权给一款心理健康应用、一个监控学童注意力的程序,以及麦当劳——后者在葡萄牙发起了一项促销活动,扫描用户面部并根据他们(所谓的)情绪提供个性化优惠券。它是情感AI(或情感计算)领域的众多公司之一。有些产品分析会议或求职面试的视频;另一些则通过音频分析音调、语气和用词;还有一些扫描聊天记录或邮件,生成关于员工情绪的报告。入门门槛低到脚踝:我通过免费试用免费使用了MorphCast,无需特殊软件。我从未被要求询问对话者是否同意被分析(尽管我问了,因为我性格好)。

每一项成功的技术都需要找到一个人们愿意花钱解决的问题。对于情感AI,这个问题似乎是员工表现和生产力,尤其是在客服和蓝领工作中。如果你曾被警告你的通话“正在被监控以进行质量保证”,那么电话另一端的人很可能正被情感AI评估:保险公司MetLife,像许多其他企业一样,使用软件监控呼叫中心员工的音调和语气。卡车公司使用眼球追踪器、高灵敏度录音设备和脑电波扫描仪来寻找司机痛苦或疲劳的迹象。汉堡王正在试点一款嵌入员工耳机的AI聊天机器人,它会评估员工互动的友好程度。她叫Patty。

2022年,作家Cory Doctorow提出了“烂技术采纳曲线”:榨取性技术首先降临到处境不稳定的人身上——比如低薪工作——然后才被改进并推广到权力更大的人群。情感AI的下一步是白领工作。Slack集成工具Aware宣称能持续监控消息中的“情绪和毒性”;微软的云计算软件Azure也允许雇主批量分析员工的聊天消息。MorphCast的Zoom扩展实时追踪会议参与者的注意力、兴奋度和积极性。情感AI公司Imentiv建议客户将情感分析应用于求职面试过程,承诺对候选人的情感投入、强度、效价和人格类型进行详细分析。Framery——为微软和欧莱雅等公司生产隔音电话亭——已测试在其椅子上安装生物传感器,能够测量心率、呼吸频率和紧张程度。

去年,欧盟禁止在工作场所使用情感AI,除非出于医疗或安全原因。(这一规定促使总部位于佛罗伦萨的MorphCast迁至湾区。)但全球情感AI市场预计到2030年将增长两倍,达到90亿美元。不难想象,在不久的将来,各行各业的工人不仅被迫更努力、更多地工作,还要更快乐、更顺从地工作。这是员工监控的新时代:无形、AI增强、永远在线。

拥有一份工作就是用一些自由换取金钱。“管理者或公司想监视员工在做什么,这并非新概念,”Karen Levy说……