Dobra wiadomość – przynajmniej dla mnie – jest taka, że komputer uważa, że mam miłą osobowość. Według aplikacji o nazwie MorphCast, podczas niedawnego spotkania z szefem byłem ogólnie „ubawiony”, „zdecydowany” i „zainteresowany”, choć – pozwijcie mnie – czasami „niecierpliwy”. MorphCast, jak widzicie, twierdzi, że potrafi wyciągać wnioski na temat głębi i kaprysów ludzkich emocji za pomocą AI. Stwierdził, że mój afekt był „pozytywny” i „aktywny”, w przeciwieństwie do negatywnego i/lub pasywnego. Moja uwaga była dość wysoka. Ponadto AI poinformowało mnie, że noszę okulary – rewelacja!

Zła wiadomość jest taka, że to oprogramowanie przyjdzie również obserwować ciebie, jeśli już tego nie robi. MorphCast udzielił licencji na swoją technologię aplikacji do zdrowia psychicznego, programowi monitorującemu uwagę uczniów oraz McDonald's, który uruchomił kampanię promocyjną w Portugalii, skanującą twarze użytkowników aplikacji i oferującą im spersonalizowane kupony na podstawie ich (rzekomego) nastroju. To jedna z wielu firm w branży emotion AI (lub affective computing). Niektóre produkty analizują wideo ze spotkań lub rozmów kwalifikacyjnych; inne słuchają audio pod kątem tonu, wysokości i doboru słów; jeszcze inne skanują transkrypty czatów lub e-maile, by wypluć raport o nastrojach pracowników. Bariera wejścia jest niska: użyłem MorphCast za darmo w ramach bezpłatnego okresu próbnego, bez specjalnego oprogramowania. W żadnym momencie nie byłem zmuszony pytać moich rozmówców, czy wyrażają zgodę na analizę (choć zapytałem, ze względu na moją dobrą osobowość).

Każda udana technologia musi znaleźć problem, który ludzie są skłonni zapłacić, aby rozwiązać. Dla emotion AI tym problemem wydaje się wydajność i produktywność pracowników, zwłaszcza w obsłudze klienta i pracy fizycznej. Jeśli kiedykolwiek ostrzegano cię, że twoja rozmowa „jest monitorowana w celach kontroli jakości”, istnieje szansa, że osoba po drugiej stronie jest oceniana przez emotion AI: gigant ubezpieczeniowy MetLife, podobnie jak wiele innych firm, używa oprogramowania do monitorowania tonu i wysokości głosu agentów call center. Firmy transportowe używają trackerów gałek ocznych, sprzętu rejestrującego o wysokiej czułości i skanerów fal mózgowych, aby wykrywać oznaki stresu lub zmęczenia kierowców. Burger King testuje chatbota AI wbudowanego w słuchawki pracowników, który będzie oceniać ich interakcje pod kątem życzliwości. Ma na imię Patty.

W 2022 roku pisarz Cory Doctorow wysnuł teorię „krzywej adopcji gównianej technologii”: technologie ekstrakcyjne trafiają najpierw do osób w niepewnych okolicznościach – jak niskopłatne prace – zanim zostaną udoskonalone i znormalizowane dla osób na wyższych stanowiskach. Kolejnym krokiem emotion AI jest praca umysłowa. Integracja Slacka o nazwie Aware reklamuje swoją zdolność do ciągłego monitorowania wiadomości pod kątem „nastroju i toksyczności”; Azure, oprogramowanie chmurowe Microsoftu, również pozwala pracodawcom na wsadową analizę wiadomości czatowych pracowników. Rozszerzenie MorphCast do Zooma śledzi w czasie rzeczywistym uwagę, podekscytowanie i pozytywność uczestników spotkania. Firma emotion AI Imentiv doradza klientom w zakresie stosowania analizy emocjonalnej w procesie rekrutacji, obiecując szczegółową analizę zaangażowania emocjonalnego, intensywności, wartościowości i typu osobowości kandydatów. Framery, która produkuje dźwiękoszczelne kabiny telefoniczne sprzedawane firmom takim jak Microsoft i L'Oreal, testowała wyposażenie swoich krzeseł w biosensory zdolne do mierzenia tętna, częstości oddechu i zdenerwowania.

W zeszłym roku Unia Europejska zakazała emotion AI w miejscu pracy, z wyjątkiem celów medycznych lub bezpieczeństwa. (Regulacja skłoniła MorphCast, założoną we Florencji, do przeniesienia się do Bay Area). Ale globalny rynek emotion AI ma potroić się do 2030 roku, do 9 miliardów dolarów. Nietrudno wyobrazić sobie bliską przyszłość, w której pracownicy we wszystkich branżach będą zmuszani do pracy nie tylko cięższej i dłuższej, ale także bardziej radosnej i zgodnej. To nowa era inwigilacji pracowników: niewidzialna, napędzana AI, zawsze włączona.

Mieć pracę to zamienić trochę wolności na pieniądze. „Pomysł, że menedżerowie lub korporacje chcą mieć oko na to, co robią ich pracownicy, nie jest nowy” – mówi Karen Levy, as