Den goda nyheten, åtminstone för mig, är att datorn tycker att jag har en trevlig personlighet. Enligt en app som heter MorphCast var jag, under ett nyligt möte med min chef, i allmänhet ”road”, ”beslutsam” och ”intresserad”, även om jag – stäm mig – ibland var ”otålig”. MorphCast, förstår ni, påstår sig kunna utvinna insikter om mänskliga känslors djup och nycker med hjälp av AI. Den fann att mitt affekt var ”positivt” och ”aktivt”, i motsats till negativt och/eller passivt. Min uppmärksamhet var hyfsat hög. Dessutom informerade AI:n mig om att jag bär glasögon – upplysande!

Den dåliga nyheten är att denna mjukvara kommer att övervaka dig också, om den inte redan gör det. MorphCast har licensierat sin teknik till en mentalvårdsapp, ett program som övervakar skolbarns uppmärksamhet, och McDonald's, som lanserade en reklamkampanj i Portugal som skannade appanvändares ansikten och erbjöd dem personliga kuponger baserade på deras (förmodade) humör. Det är ett av många företag inom emotion AI (eller affektiv databehandling). Vissa produkter analyserar video från möten eller jobbintervjuer; andra lyssnar på ljud för tonhöjd, ton och ordval; ytterligare andra skannar chattutskrifter eller e-postmeddelanden för att spotta ut en rapport om arbetarnas känslor. Inträdesbarriären är smal: Jag använde MorphCast kostnadsfritt via en gratis provperiod, utan särskild mjukvara. Vid ingen tidpunkt tvingades jag fråga mina samtalspartner om de samtyckte till att bli analyserade (även om jag frågade, på grund av min goda personlighet).

Varje framgångsrik teknik måste hitta ett problem som människor är villiga att betala för att lösa. För emotion AI verkar det problemet vara arbetsprestation och produktivitet, särskilt inom kundservice och kroppsarbete. Om du någonsin har blivit varnad för att ditt samtal ”övervakas för kvalitetssäkringsändamål” är chansen stor att personen i andra änden bedöms av emotion AI: Försäkringsjätten MetLife, liksom många andra företag, använder mjukvara för att övervaka callcenter-agenters tonhöjd och röstton. Lastbilsföretag använder ögonspårningskameror, högkänslig inspelningsutrustning och hjärnvågsskannrar för att hitta tecken på förarchaufförers stress eller trötthet. Burger King testar en AI-chattbot inbäddad i anställdas hörlurar som ska utvärdera deras interaktioner för vänlighet. Hon heter Patty.

År 2022 teoretiserade författaren Cory Doctorow ”Shitty Technology Adoption Curve”: Extraherande teknologier kommer först till människor i prekära omständigheter – som låglönejobb – innan de förfinas och normaliseras för människor i maktpositioner. Emotion AIs nästa steg är kontorsarbete. Slack-integrationen Aware annonserar sin förmåga att kontinuerligt övervaka meddelanden för ”sentiment och toxicitet”; Azure, Microsofts molndatormjukvara, tillåter också arbetsgivare att batch-analysera arbetares chattmeddelanden. MorphCasts Zoom-tillägg spårar i realtid mötesdeltagares uppmärksamhet, entusiasm och positivitet. Emotion AI-företaget Imentiv rådger kunder om att tillämpa känsloanalys i jobbintervjuprocessen och lovar detaljerad analys av kandidaters känslomässiga engagemang, intensitet, valens och personlighetstyp. Framery, som tillverkar ljudisolerade telefonbås sålda till företag som Microsoft och L'Oreal, har testat att utrusta sina stolar med biosensorer som kan mäta hjärtfrekvens, andningsfrekvens och nervositet.

Förra året förbjöd Europeiska unionen emotion AI på arbetsplatsen, utom av medicinska eller säkerhetsskäl. (Regleringen fick MorphCast, grundat i Florens, att flytta till Bay Area.) Men den globala emotion AI-marknaden förväntas tredubblas till 2030, till 9 miljarder dollar. Det är inte svårt att föreställa sig en nära framtid där arbetare i alla branscher pressas att arbeta inte bara hårdare och mer, utan gladare och mer samarbetsvilligt. Detta är den nya eran av anställdas övervakning: osynlig, AI-superladdad, alltid på.

Att ha ett jobb är att byta lite frihet mot pengar. ”Tanken att chefer eller företag vill hålla koll på vad deras arbetare gör är inte ett nytt koncept”, säger Karen Levy, en