좋은 소식은, 적어도 나에게는, 컴퓨터가 내가 좋은 성격을 가졌다고 생각한다는 것이다. MorphCast라는 앱에 따르면, 최근 상사와의 회의에서 나는 대체로 '즐거움', '결단력', '관심'을 보였지만, 가끔은 '참을성 없음'도 보였다고 한다. MorphCast는 AI를 사용해 인간 감정의 깊이와 변덕을 통찰한다고 주장한다. 내 감정 상태는 '긍정적'이고 '활동적'이었으며, 부정적이거나 수동적이지 않았다. 내 주의력은 상당히 높았다. 또한 AI는 내가 안경을 쓰고 있다고 알려줬다 - 놀라운 발견이다!

나쁜 소식은 이 소프트웨어가 당신도 감시하러 올 것이라는 점이다, 아직 아니라면. MorphCast는 정신 건강 앱, 학교 아이들의 주의력을 모니터링하는 프로그램, 그리고 맥도날드에 기술을 라이선스했다. 맥도날드는 포르투갈에서 프로모션 캠페인을 시작해 앱 사용자의 얼굴을 스캔하고 (추정되는) 기분에 따라 맞춤 쿠폰을 제공했다. MorphCast는 감정 AI(또는 정서 컴퓨팅) 분야의 많은 회사 중 하나다. 일부 제품은 회의나 면접 비디오를 분석하고, 다른 제품은 오디오에서 음높이, 톤, 단어 선택을 듣고, 또 다른 제품은 채팅 기록이나 이메일을 스캔해 직원 감정에 대한 보고서를 뱉어낸다. 진입 장벽은 무릎 높이 정도다: 나는 특별한 소프트웨어 없이 무료 체험판을 통해 MorphCast를 사용했다. 내가 대화 상대에게 분석에 동의했는지 물을 필요는 전혀 없었다 (물론 좋은 성격 때문에 물어보긴 했지만).

모든 성공적인 기술은 사람들이 기꺼이 돈을 내고 해결하려는 문제를 찾아야 한다. 감정 AI에게 그 문제는 직원 성과와 생산성, 특히 고객 서비스와 블루칼라 노동에서 나타난다. '품질 보증 목적으로 통화가 모니터링되고 있습니다'라는 경고를 들어본 적이 있다면, 상대방이 감정 AI에 의해 평가되고 있을 가능성이 높다: 보험 대기업 MetLife는 다른 많은 기업과 마찬가지로 콜센터 상담원의 음높이와 톤을 모니터링하는 소프트웨어를 사용한다. 트럭 회사는 운전자의 고통이나 피로 징후를 찾기 위해 눈동자 추적기, 고감도 녹음 장비, 뇌파 스캐너를 사용한다. 버거킹은 직원 헤드셋에 내장된 AI 챗봇을 시범 운영 중이며, 이 챗봇은 직원의 상호작용을 친근함 기준으로 평가한다. 그 이름은 패티다.

2022년, 작가 코리 닥터로우는 '형편없는 기술 채택 곡선'을 이론화했다: 추출적 기술은 먼저 불안정한 상황에 있는 사람들(예: 저임금 직업)에게 다가간 후, 더 큰 권력을 가진 사람들을 위해 정제되고 정상화된다. 감정 AI의 다음 단계는 화이트칼라 직업이다. Slack 통합 도구 Aware는 메시지를 지속적으로 모니터링하여 '감정과 유해성'을 분석한다고 광고한다. Microsoft의 클라우드 컴퓨팅 소프트웨어 Azure도 고용주가 직원 채팅 메시지를 일괄 분석할 수 있게 한다. MorphCast의 Zoom 확장 프로그램은 회의 참가자의 주의력, 흥분, 긍정성을 실시간으로 추적한다. 감정 AI 회사 Imentiv는 채용 면접 과정에 감정 분석을 적용하는 방법을 고객에게 조언하며, 지원자의 감정 참여, 강도, 가치, 성격 유형에 대한 상세 분석을 약속한다. Microsoft와 L'Oreal 같은 회사에 판매되는 방음 전화 부스를 만드는 Framery는 의자에 심박수, 호흡수, 긴장도를 측정할 수 있는 생체 센서를 장착하는 것을 테스트했다.

작년, 유럽연합은 의료 또는 안전상의 이유를 제외하고 직장 내 감정 AI를 금지했다. (이 규정은 피렌체에 설립된 MorphCast를 베이 에어리어로 이전하게 했다.) 그러나 전 세계 감정 AI 시장은 2030년까지 90억 달러로 세 배 성장할 것으로 예상된다. 모든 산업의 근로자가 더 열심히, 더 많이, 그리고 더 행복하고 순응적으로 일하도록 압박받는 가까운 미래를 상상하는 것은 어렵지 않다. 이것이 직원 감시의 새로운 시대다: 보이지 않고, AI로 강화되었으며, 항상 켜져 있다.

직업을 가진다는 것은 자유의 일부를 돈과 교환하는 것이다. '관리자나 기업이 직원들이 무엇을 하는지 감시하려는 생각은 새로운 개념이 아니다'라고 Karen Levy 교수는 말한다.