La buena noticia, al menos para mí, es que la computadora cree que tengo una personalidad agradable. Según una aplicación llamada MorphCast, en una reunión reciente con mi jefe, estaba generalmente “divertido”, “decidido” e “interesado”, aunque – échenme el guante – ocasionalmente “impaciente”. MorphCast, verá, pretende obtener información sobre las profundidades y los caprichos de la emoción humana mediante IA. Encontró que mi afecto era “positivo” y “activo”, en lugar de negativo y/o pasivo. Mi atención era razonablemente alta. Además, la IA me informó que uso gafas – ¡revelador!

La mala noticia es que este software también vendrá a observarlo a usted, si no lo está haciendo ya. MorphCast ha licenciado su tecnología a una aplicación de salud mental, un programa que monitorea la atención de los escolares y a McDonald's, que lanzó una campaña promocional en Portugal que escaneaba los rostros de los usuarios de la aplicación y les ofrecía cupones personalizados según su (supuesto) estado de ánimo. Es una de las muchas empresas en el espacio de la IA emocional (o computación afectiva). Algunos productos analizan videos de reuniones o entrevistas de trabajo; otros escuchan audio en busca de tono, tono y elección de palabras; otros escanean transcripciones de chats o correos electrónicos para escupir un informe sobre el sentimiento de los trabajadores. La barrera de entrada es baja: usé MorphCast sin costo a través de una prueba gratuita, sin software especial. En ningún momento me vi obligado a preguntar a mis interlocutores si consentían ser analizados (aunque lo pregunté, debido a mi buena personalidad).

Cada tecnología exitosa necesita encontrar un problema por el que la gente esté dispuesta a pagar dinero para resolverlo. Para la IA emocional, ese problema parece ser el rendimiento y la productividad de los trabajadores, especialmente en servicio al cliente y trabajo manual. Si alguna vez le han advertido que su llamada “está siendo monitoreada con fines de control de calidad”, es probable que la persona al otro lado esté siendo evaluada por IA emocional: la aseguradora gigante MetLife, como muchas otras empresas, utiliza software para monitorear el tono y la voz de los agentes de call center. Las empresas de camiones usan rastreadores oculares, equipos de grabación de alta sensibilidad y escáneres de ondas cerebrales para detectar signos de angustia o fatiga del conductor. Burger King está probando un chatbot de IA integrado en los auriculares de los empleados que evaluará sus interacciones en cuanto a amabilidad. Su nombre es Patty.

En 2022, el escritor Cory Doctorow teorizó la “Curva de Adopción de Tecnología Mierda”: las tecnologías extractivas llegan primero a las personas en circunstancias precarias – como trabajos mal pagados – antes de ser refinadas y normalizadas para personas en posiciones de mayor poder. El siguiente paso de la IA emocional es el trabajo de oficina. La integración de Slack Aware promociona su capacidad de monitorear continuamente mensajes en busca de “sentimiento y toxicidad”; Azure, el software de computación en la nube de Microsoft, también permite a los empleadores analizar en lotes los mensajes de chat de los trabajadores. La extensión de Zoom de MorphCast rastrea, en tiempo real, la atención, emoción y positividad de los participantes de la reunión. La empresa de IA emocional Imentiv asesora a clientes sobre la aplicación del análisis emocional en el proceso de entrevistas de trabajo, prometiendo un análisis detallado del compromiso emocional, intensidad, valencia y tipo de personalidad de los candidatos. Framery, que fabrica cabinas telefónicas insonorizadas vendidas a empresas como Microsoft y L'Oreal, ha probado equipar sus sillas con biosensores capaces de medir la frecuencia cardíaca, la frecuencia respiratoria y el nerviosismo.

El año pasado, la Unión Europea prohibió la IA emocional en el lugar de trabajo, excepto por razones médicas o de seguridad. (La regulación llevó a MorphCast, fundada en Florencia, a mudarse al Área de la Bahía). Pero se espera que el mercado global de IA emocional se triplique para 2030, alcanzando los 9 mil millones de dólares. No es difícil imaginar un futuro cercano donde los trabajadores de todas las industrias sean presionados para trabajar no solo más duro y más, sino más felices y complacientes. Esta es la nueva era de la vigilancia laboral: invisible, potenciada por IA, siempre encendida.

Tener un trabajo es intercambiar algo de libertad por dinero. “La idea de que los gerentes o las corporaciones quieran vigilar lo que hacen sus trabajadores no es un concepto nuevo”, dice Karen Levy, una