Het goede nieuws, voor mij althans, is dat de computer vindt dat ik een aardige persoonlijkheid heb. Volgens een app genaamd MorphCast was ik tijdens een recente vergadering met mijn baas over het algemeen 'geamuseerd', 'vastberaden' en 'geïnteresseerd', hoewel - sue me - af en toe 'ongeduldig'. MorphCast beweert namelijk inzichten te verkrijgen in de diepten en grillen van menselijke emoties met behulp van AI. Het stelde vast dat mijn affect 'positief' en 'actief' was, in tegenstelling tot negatief en/of passief. Mijn aandacht was redelijk hoog. Ook vertelde de AI me dat ik een bril draag - onthullend!
Het slechte nieuws is dat deze software ook naar u komt kijken, als het dat al niet doet. MorphCast heeft zijn technologie in licentie gegeven aan een app voor geestelijke gezondheid, een programma dat de aandacht van schoolkinderen bewaakt, en McDonald's, dat een promotiecampagne in Portugal lanceerde die de gezichten van app-gebruikers scant en hen gepersonaliseerde kortingsbonnen aanbiedt op basis van hun (vermeende) stemming. Het is een van de vele bedrijven in de emotie-AI (of affectieve computerruimte). Sommige producten analyseren video van vergaderingen of sollicitatiegesprekken; andere luisteren naar audio voor toonhoogte, toon en woordkeuze; weer andere scannen chattranscripten of e-mails om een rapport over het sentiment van werknemers uit te spugen. De toetredingsdrempel is laag: ik gebruikte MorphCast gratis via een proefperiode, zonder speciale software. Op geen enkel moment werd ik gedwongen mijn gesprekspartners te vragen of ze ermee instemden te worden geanalyseerd (hoewel ik het wel vroeg, vanwege mijn goede persoonlijkheid).
Elke succesvolle technologie moet een probleem vinden dat mensen bereid zijn te betalen om op te lossen. Voor emotie-AI lijkt dat probleem de prestaties en productiviteit van werknemers te zijn, vooral in de klantenservice en handarbeid. Als u ooit bent gewaarschuwd dat uw gesprek 'wordt gecontroleerd voor kwaliteitsborgingsdoeleinden', is de kans groot dat de persoon aan de andere kant wordt beoordeeld door emotie-AI: De verzekeringsgigant MetLife gebruikt, net als veel andere bedrijven, software om de toonhoogte en stemtoon van callcentermedewerkers te bewaken. Vrachtwagenbedrijven gebruiken oogtrackers, zeer gevoelige opnameapparatuur en hersengolfscanners om tekenen van stress of vermoeidheid bij chauffeurs te vinden. Burger King test een AI-chatbot ingebouwd in headsets van werknemers die hun interacties evalueert op vriendelijkheid. Haar naam is Patty.
In 2022 bedacht schrijver Cory Doctorow de 'Shitty Technology Adoption Curve': Extractieve technologieën komen eerst bij mensen in precaire omstandigheden - zoals laagbetaalde banen - voordat ze worden verfijnd en genormaliseerd voor mensen in machtigere posities. De volgende stap voor emotie-AI is kantoorwerk. De Slack-integratie Aware adverteert met de mogelijkheid om berichten continu te monitoren op 'sentiment en toxiciteit'; Azure, Microsofts cloudcomputing-software, stelt werkgevers ook in staat om chatberichten van werknemers in batch te analyseren. MorphCasts Zoom-extensie volgt in realtime de aandacht, opwinding en positiviteit van vergaderdeelnemers. Het emotie-AI-bedrijf Imentiv adviseert klanten over het toepassen van emotionele analyse in het sollicitatieproces en belooft gedetailleerde analyse van de emotionele betrokkenheid, intensiteit, valentie en persoonlijkheidstype van kandidaten. Framery, dat geluiddichte telefoonhokjes maakt die worden verkocht aan bedrijven zoals Microsoft en L'Oreal, heeft getest om zijn stoelen uit te rusten met biosensoren die hartslag, ademhalingsfrequentie en nervositeit kunnen meten.
Vorig jaar verbood de Europese Unie emotie-AI op de werkplek, behalve om medische of veiligheidsredenen. (De regelgeving bracht MorphCast, opgericht in Florence, ertoe om naar de Bay Area te verhuizen.) Maar de wereldwijde markt voor emotie-AI zal naar verwachting in 2030 verdrievoudigen tot $9 miljard. Het is niet moeilijk om een nabije toekomst voor te stellen waarin werknemers in alle sectoren worden gedwongen niet alleen harder en meer te werken, maar ook vrolijker en meegaander. Dit is het nieuwe tijdperk van werknemersbewaking: onzichtbaar, AI-versterkt, altijd aan.
Een baan hebben betekent wat vrijheid inruilen voor geld. 'Het idee dat managers of bedrijven hun werknemers in de gaten willen houden is niet nieuw,' zegt Karen Levy, een