A boa notícia, para mim pelo menos, é que o computador acha que tenho uma personalidade agradável. De acordo com um aplicativo chamado MorphCast, eu estava, em uma reunião recente com meu chefe, geralmente “divertido”, “determinado” e “interessado”, embora — pode me processar — ocasionalmente “impaciente”. O MorphCast, veja bem, alega extrair insights sobre as profundezas e os caprichos da emoção humana usando IA. Ele descobriu que meu afeto era “positivo” e “ativo”, em oposição a negativo e/ou passivo. Minha atenção estava razoavelmente alta. Além disso, a IA me informou que uso óculos — revelador!

A má notícia é que este software está vindo para vigiar você também, se já não o fez. A MorphCast licenciou sua tecnologia para um aplicativo de saúde mental, um programa que monitora a atenção de crianças em idade escolar e o McDonald's, que lançou uma campanha promocional em Portugal que escaneava os rostos dos usuários do aplicativo e oferecia cupons personalizados com base no (suposto) humor deles. É uma das muitas empresas no espaço da IA emocional (ou computação afetiva). Alguns produtos analisam vídeos de reuniões ou entrevistas de emprego; outros ouvem áudio em busca de tom, tom e escolha de palavras; outros ainda escaneiam transcrições de chat ou e-mails para cuspir um relatório sobre o sentimento do trabalhador. A barreira de entrada é baixíssima: usei o MorphCast gratuitamente por meio de um teste gratuito, sem software especial. Em nenhum momento fui obrigado a perguntar aos meus interlocutores se eles consentiam em ser analisados (embora eu tenha perguntado, por causa da minha boa personalidade).

Toda tecnologia de sucesso precisa encontrar um problema pelo qual as pessoas estejam dispostas a pagar para resolver. Para a IA emocional, esse problema parece ser o desempenho e a produtividade do trabalhador, especialmente no atendimento ao cliente e no trabalho braçal. Se você já foi avisado de que sua chamada “está sendo monitorada para fins de garantia de qualidade”, é provável que a pessoa do outro lado esteja sendo avaliada por IA emocional: A gigante de seguros MetLife, como muitas outras empresas, usa software para monitorar o tom e o tom de voz dos agentes de call center. Empresas de caminhões usam rastreadores oculares, equipamentos de gravação de alta sensibilidade e scanners de ondas cerebrais para encontrar sinais de angústia ou fadiga do motorista. O Burger King está pilotando um chatbot de IA embutido em headsets de funcionários que avaliará suas interações quanto à simpatia. O nome dela é Patty.

Em 2022, o escritor Cory Doctorow teorizou a “Curva de Adoção de Tecnologia Merda”: Tecnologias extrativas vêm primeiro para pessoas em circunstâncias precárias — como empregos de baixo salário — antes de serem refinadas e normalizadas para pessoas em posições de maior poder. O próximo passo da IA emocional é o trabalho de colarinho branco. A integração do Slack Aware anuncia sua capacidade de monitorar continuamente mensagens em busca de “sentimento e toxicidade”; o Azure, software de computação em nuvem da Microsoft, também permite que empregadores analisem em lote as mensagens de chat dos trabalhadores. A extensão do MorphCast para o Zoom rastreia, em tempo real, a atenção, excitação e positividade dos participantes da reunião. A empresa de IA emocional Imentiv aconselha clientes sobre a aplicação de análise emocional ao processo de entrevista de emprego, prometendo análise detalhada do engajamento emocional, intensidade, valência e tipo de personalidade dos candidatos. A Framery, que fabrica cabines telefônicas à prova de som vendidas para empresas como Microsoft e L'Oreal, testou equipar suas cadeiras com biossensores capazes de medir frequência cardíaca, frequência respiratória e nervosismo.

No ano passado, a União Europeia proibiu a IA emocional no local de trabalho, exceto por razões médicas ou de segurança. (A regulamentação levou a MorphCast, fundada em Florença, a se mudar para a Bay Area.) Mas o mercado global de IA emocional deve triplicar até 2030, para US$ 9 bilhões. Não é difícil imaginar um futuro próximo onde trabalhadores de todas as indústrias sejam pressionados a trabalhar não apenas mais e com mais afinco, mas mais felizes e agradavelmente. Esta é a nova era da vigilância de funcionários: invisível, turbinada por IA, sempre ligada.

Ter um emprego é trocar alguma liberdade por dinheiro. “A ideia de que gerentes ou corporações queiram ficar de olho no que seus trabalhadores estão fazendo não é um conceito novo”, diz Karen Levy, uma ass