Die gute Nachricht – zumindest für mich – ist, dass der Computer mich für einen netten Menschen hält. Laut einer App namens MorphCast war ich in einem kürzlichen Meeting mit meinem Chef meistens „amüsiert“, „entschlossen“ und „interessiert“, wenn auch – verklagen Sie mich – gelegentlich „ungeduldig“. MorphCast gibt vor, mit KI Einblicke in die Tiefen und Launen menschlicher Emotionen zu gewinnen. Es stellte fest, dass mein Affekt „positiv“ und „aktiv“ war, im Gegensatz zu negativ und/oder passiv. Meine Aufmerksamkeit war recht hoch. Außerdem teilte mir die KI mit, dass ich eine Brille trage – bahnbrechend!

Die schlechte Nachricht ist, dass diese Software auch Sie beobachten wird, falls sie es nicht bereits tut. MorphCast hat seine Technologie an eine App für psychische Gesundheit lizenziert, an ein Programm, das die Aufmerksamkeit von Schulkindern überwacht, und an McDonald's, das in Portugal eine Werbekampagne startete, bei der die Gesichter von App-Nutzern gescannt und ihnen personalisierte Gutscheine basierend auf ihrer (angeblichen) Stimmung angeboten wurden. Es ist eines von vielen Unternehmen im Bereich der Emotions-KI (oder affektiven Computertechnik). Einige Produkte analysieren Videos von Meetings oder Vorstellungsgesprächen; andere hören Audio nach Tonhöhe, Klangfarbe und Wortwahl ab; wieder andere durchforsten Chat-Transkripte oder E-Mails, um einen Bericht über die Stimmung der Mitarbeiter zu erstellen. Die Einstiegshürde ist niedrig: Ich habe MorphCast kostenlos über eine Testversion genutzt, ohne spezielle Software. Zu keinem Zeitpunkt war ich gezwungen, meine Gesprächspartner zu fragen, ob sie mit der Analyse einverstanden sind (obwohl ich es gefragt habe – wegen meiner guten Persönlichkeit).

Jede erfolgreiche Technologie muss ein Problem finden, für dessen Lösung die Leute Geld zu zahlen bereit sind. Für Emotions-KI scheint dieses Problem die Arbeitsleistung und Produktivität zu sein, insbesondere im Kundenservice und bei Arbeiterjobs. Wenn Ihnen jemals gesagt wurde, dass Ihr Anruf „zu Qualitätssicherungszwecken aufgezeichnet wird“, ist die Wahrscheinlichkeit groß, dass die Person am anderen Ende von Emotions-KI bewertet wird: Der Versicherungsriese MetLife nutzt – wie viele andere Unternehmen – Software zur Überwachung von Tonhöhe und Stimmlage von Callcenter-Agenten. Speditionen verwenden Augen-Tracker, hochempfindliche Aufnahmegeräte und Hirnwellenscanner, um Anzeichen von Stress oder Müdigkeit bei Fahrern zu erkennen. Burger King testet einen KI-Chatbot, der in Headsets der Mitarbeiter integriert ist und deren Interaktionen auf Freundlichkeit bewertet. Ihr Name ist Patty.

Im Jahr 2022 entwickelte der Schriftsteller Cory Doctorow die „Shitty Technology Adoption Curve“: Ausbeuterische Technologien treffen zuerst Menschen in prekären Verhältnissen – wie Niedriglohnjobs –, bevor sie verfeinert und für Menschen in mächtigeren Positionen normalisiert werden. Der nächste Schritt der Emotions-KI ist die Büroarbeit. Die Slack-Integration Aware wirbt damit, Nachrichten kontinuierlich auf „Stimmung und Toxizität“ zu überwachen; Azure, Microsofts Cloud-Computing-Software, erlaubt Arbeitgebern ebenfalls, Chat-Nachrichten von Mitarbeitern in Stapeln zu analysieren. MorphCasts Zoom-Erweiterung verfolgt in Echtzeit die Aufmerksamkeit, Aufregung und Positivität der Meeting-Teilnehmer. Das Emotions-KI-Unternehmen Imentiv berät Kunden bei der Anwendung emotionaler Analysen im Vorstellungsgespräch und verspricht detaillierte Analysen des emotionalen Engagements, der Intensität, der Valenz und des Persönlichkeitstyps der Kandidaten. Framery, das schalldichte Telefonkabinen für Unternehmen wie Microsoft und L'Oreal herstellt, hat getestet, seine Stühle mit Biosensoren auszustatten, die Herzfrequenz, Atemfrequenz und Nervosität messen können.

Letztes Jahr verbot die Europäische Union Emotions-KI am Arbeitsplatz, außer aus medizinischen Gründen oder Sicherheitsgründen. (Die Verordnung veranlasste MorphCast, das in Florenz gegründet wurde, in die Bay Area umzuziehen.) Aber der globale Markt für Emotions-KI soll sich bis 2030 verdreifachen, auf 9 Milliarden Dollar. Es ist nicht schwer, sich eine nahe Zukunft vorzustellen, in der Arbeiter in allen Branchen nicht nur härter und mehr arbeiten müssen, sondern auch fröhlicher und umgänglicher. Dies ist die neue Ära der Mitarbeiterüberwachung: unsichtbar, KI-verstärkt, immer an.

Einen Job zu haben bedeutet, etwas Freiheit gegen Geld einzutauschen. „Die Vorstellung, dass Manager oder Unternehmen im Auge behalten wollen, was ihre Mitarbeiter tun, ist kein neues Konzept“, sagt Karen Levy, eine ...