La bonne nouvelle, pour moi du moins, c'est que l'ordinateur pense que j'ai une belle personnalité. Selon une application appelée MorphCast, j'étais, lors d'une récente réunion avec mon patron, généralement « amusé », « déterminé » et « intéressé », même si – poursuivez-moi – parfois « impatient ». MorphCast, voyez-vous, prétend glaner des informations sur les profondeurs et les caprices des émotions humaines à l'aide de l'IA. Il a constaté que mon affect était « positif » et « actif », par opposition à négatif et/ou passif. Mon attention était raisonnablement élevée. Aussi, l'IA m'a informé que je porte des lunettes – révélateur !

La mauvaise nouvelle, c'est que ce logiciel vient aussi vous surveiller, si ce n'est pas déjà fait. MorphCast a concédé sa technologie sous licence à une application de santé mentale, à un programme qui surveille l'attention des écoliers, et à McDonald's, qui a lancé une campagne promotionnelle au Portugal scannant les visages des utilisateurs de l'application et leur offrant des coupons personnalisés en fonction de leur (prétendue) humeur. C'est l'une des nombreuses entreprises dans le domaine de l'IA émotionnelle (ou informatique affective). Certains produits analysent des vidéos de réunions ou d'entretiens d'embauche ; d'autres écoutent l'audio pour le ton, la tonalité et le choix des mots ; d'autres encore scrutent les transcriptions de chat ou les e-mails pour produire un rapport sur le sentiment des travailleurs. La barrière à l'entrée est à hauteur de tibia : j'ai utilisé MorphCast gratuitement via un essai gratuit, sans logiciel spécial. À aucun moment je n'ai été obligé de demander à mes interlocuteurs s'ils consentaient à être analysés (même si je l'ai fait, à cause de ma bonne personnalité).

Toute technologie réussie doit trouver un problème que les gens sont prêts à payer pour résoudre. Pour l'IA émotionnelle, ce problème semble être la performance et la productivité des travailleurs, en particulier dans le service client et les métiers manuels. Si on vous a déjà averti que votre appel « est enregistré à des fins d'assurance qualité », il y a de fortes chances que la personne à l'autre bout soit évaluée par une IA émotionnelle : le géant de l'assurance MetLife, comme beaucoup d'autres entreprises, utilise un logiciel pour surveiller le ton et la hauteur de la voix des agents de centre d'appels. Les entreprises de camionnage utilisent des trackers oculaires, des équipements d'enregistrement à haute sensibilité et des scanners d'ondes cérébrales pour détecter les signes de détresse ou de fatigue chez les conducteurs. Burger King pilote un chatbot IA intégré dans les casques des employés qui évaluera leurs interactions en termes de convivialité. Elle s'appelle Patty.

En 2022, l'écrivain Cory Doctorow a théorisé la « courbe d'adoption des technologies merdiques » : les technologies extractives arrivent d'abord aux personnes en situation précaire – comme les emplois faiblement rémunérés – avant d'être affinées et normalisées pour les personnes en position de pouvoir plus élevée. La prochaine étape de l'IA émotionnelle est le travail de bureau. L'intégration Slack Aware fait la publicité de sa capacité à surveiller en continu les messages pour détecter le « sentiment et la toxicité » ; Azure, le logiciel de cloud computing de Microsoft, permet également aux employeurs d'analyser par lots les messages de chat des travailleurs. L'extension Zoom de MorphCast suit en temps réel l'attention, l'excitation et la positivité des participants aux réunions. La société d'IA émotionnelle Imentiv conseille ses clients sur l'application de l'analyse émotionnelle au processus d'entretien d'embauche, promettant une analyse détaillée de l'engagement émotionnel, de l'intensité, de la valence et du type de personnalité des candidats. Framery, qui fabrique des cabines téléphoniques insonorisées vendues à des entreprises comme Microsoft et L'Oréal, a testé l'équipement de ses chaises avec des biocapteurs capables de mesurer la fréquence cardiaque, la fréquence respiratoire et la nervosité.

L'année dernière, l'Union européenne a interdit l'IA émotionnelle sur le lieu de travail, sauf pour des raisons médicales ou de sécurité. (Le règlement a incité MorphCast, fondée à Florence, à déménager dans la Baie de San Francisco.) Mais le marché mondial de l'IA émotionnelle devrait tripler d'ici 2030, pour atteindre 9 milliards de dollars. Il n'est pas difficile d'imaginer un avenir proche où les travailleurs de toutes les industries seront poussés à travailler non seulement plus dur et plus, mais aussi plus heureux et plus agréables. C'est la nouvelle ère de la surveillance des employés : invisible, super-alimentée par l'IA, toujours active.

Avoir un emploi, c'est échanger une certaine liberté contre de l'argent. « L'idée que les managers ou les entreprises veulent garder un œil sur ce que font leurs travailleurs n'est pas un concept nouveau », déclare Karen Levy, une ass