OpenAI está lanzando una nueva función de seguridad opcional para ChatGPT que permite a los usuarios adultos designar un contacto de emergencia para problemas de salud mental y seguridad. Amigos, familiares o cuidadores asignados como "Contacto de Confianza" serán notificados si los sistemas de OpenAI detectan que un usuario ha hablado sobre temas como autolesiones o suicidio con el chatbot.

"El Contacto de Confianza está diseñado en torno a una premisa simple y validada por expertos: cuando alguien puede estar en crisis, conectarse con alguien que conoce y en quien confía puede marcar una diferencia significativa", dijo OpenAI en su anuncio, presumiblemente con cara seria. "Ofrece una capa adicional de apoyo junto con las líneas de ayuda localizadas ya disponibles en ChatGPT".

La función es optativa, porque nada dice "Estoy bien, de verdad" como inscribirse voluntariamente para que un robot te delate. Cualquier usuario adulto de ChatGPT puede activarla agregando los datos de contacto de otro adulto (18+ a nivel mundial o 19+ en Corea del Sur, porque aparentemente los bots respetan las leyes internacionales de edad para beber) en la configuración de su cuenta de ChatGPT. El Contacto de Confianza debe aceptar la invitación en una semana, así que no se permite ignorar pasivo-agresivamente. Los usuarios pueden eliminar o editar su contacto elegido en cualquier momento, y el Contacto de Confianza también puede renunciar cuando quiera.

OpenAI dice que la notificación es "intencionalmente limitada" y no compartirá transcripciones reales del chat, porque nada dice "confianza" como una alerta vaga. Si los sistemas automatizados de OpenAI detectan conversaciones sobre autolesiones, ChatGPT primero animará al usuario a contactar a su Contacto de Confianza y le advertirá que el contacto puede ser notificado. Un "pequeño equipo de personas especialmente capacitadas" revisará la situación y, si es grave, ChatGPT enviará un breve correo electrónico, mensaje de texto o notificación en la aplicación al Contacto de Confianza.

Esto se basa en la función de contacto de emergencia introducida junto con los controles parentales de ChatGPT en septiembre, después de que un joven de 16 años se quitara la vida tras meses de confidencias con el chatbot. Meta también ha añadido una función similar que alerta a los padres si sus hijos buscan "repetidamente" temas de autolesión en Instagram, porque aparentemente la industria tecnológica ha descubierto que tal vez, solo tal vez, ignorar la seguridad del usuario no es el mejor modelo de negocio.