少なくとも私にとっての良い知らせは、コンピューターが私の性格は素敵だと思っていることだ。MorphCastというアプリによると、最近の上司とのミーティングでは、私は概ね「楽しんで」いて、「決意に満ち」ており、「興味を持って」いたが、時々「せっかち」だったことも認める。MorphCastは、AIを使って人間の感情の深層と気まぐれを洞察すると称している。私の感情は「ポジティブ」で「アクティブ」であり、ネガティブや受動的ではなかった。注意力もまあまあ高かった。さらに、AIは私が眼鏡をかけていることも教えてくれた ― 目から鱗だ！
悪い知らせは、このソフトウェアがあなたも監視しに来るということだ。もう既にそうしているかもしれない。MorphCastはその技術を、メンタルヘルスアプリ、学童の注意力を監視するプログラム、そしてマクドナルドにライセンス供与している。マクドナルドはポルトガルでプロモーションキャンペーンを実施し、アプリユーザーの顔をスキャンして、（推定される）気分に基づいてパーソナライズされたクーポンを提供した。MorphCastは、感情AI（またはアフェクティブコンピューティング）分野の多くの企業の一つだ。一部の製品はミーティングや面接のビデオを分析し、他の製品は音声のピッチ、トーン、言葉の選択を聞き取り、さらに別の製品はチャットのトランスクリプトやメールをスキャンして従業員の感情に関するレポートを吐き出す。参入障壁はすねの高さほどだ：私は特別なソフトウェアなしで、無料トライアルでMorphCastを無料で使用した。分析されることに相手が同意したかどうかを尋ねる必要は一度もなかった（でも、良い性格なので尋ねたけど）。
成功するテクノロジーはすべて、人々が喜んでお金を払う問題を見つける必要がある。感情AIにとって、その問題は従業員のパフォーマンスと生産性、特にカスタマーサービスとブルーカラー労働にあるようだ。「品質保証のため通話を監視しています」と警告されたことがあるなら、相手側は感情AIで評価されている可能性が高い：保険大手のメットライフは、他の多くの企業と同様に、コールセンターエージェントのピッチと声のトーンを監視するソフトウェアを使用している。トラック運送会社は、眼球トラッカー、高感度録音機器、脳波スキャナーを使用して、ドライバーの苦痛や疲労の兆候を見つけている。バーガーキングは、従業員のヘッドセットに組み込まれたAIチャットボットを試験的に導入しており、そのボットは従業員のやり取りを親しみやすさで評価する。彼女の名前はパティ。
2022年、作家のコリー・ドクトロウは「クソテクノロジー採用曲線」を理論化した：収奪的なテクノロジーはまず、不安定な状況にある人々（低賃金労働者など）に導入され、その後、より権力のある立場の人々に洗練され、正常化される。感情AIの次のステップはホワイトカラー労働だ。Slack統合のAwareは、メッセージを継続的に監視して「感情と有害性」を検出すると宣伝している。MicrosoftのクラウドコンピューティングソフトウェアAzureも、雇用主が従業員のチャットメッセージを一括分析することを可能にしている。MorphCastのZoom拡張機能は、ミーティング参加者の注意、興奮、ポジティブさをリアルタイムで追跡する。感情AI企業Imentivは、求職者の感情的な関与、強度、価数、性格タイプの詳細な分析を約束し、面接プロセスに感情分析を適用するよう顧客にアドバイスしている。MicrosoftやL'Orealなどの企業に販売されている防音電話ポッドを製造するFrameryは、心拍数、呼吸数、緊張を測定できるバイオセンサーを椅子に搭載するテストを行った。
昨年、欧州連合は医療または安全上の理由を除き、職場での感情AIを禁止した。（この規制により、フィレンツェで設立されたMorphCastはベイエリアに移転した。）しかし、世界の感情AI市場は2030年までに3倍の90億ドルに達すると予想されている。あらゆる業界の労働者が、よりハードに、より多く働くだけでなく、より幸せに、より従順に働くよう促される近い未来を想像するのは難しくない。これが従業員監視の新時代だ：目に見えず、AIによって強化され、常にオンになっている。
仕事を持つということは、自由の一部を金銭と交換することだ。「管理者や企業が従業員の行動を監視したいという考えは新しい概念ではない」と、カレン・レヴィは言う。