A OpenAI está lançando um novo recurso de segurança opcional para o ChatGPT que permite que usuários adultos designem um contato de emergência para preocupações com saúde mental e segurança. Amigos, familiares ou cuidadores designados como “Contato de Confiança” serão notificados se os sistemas da OpenAI detectarem que um usuário discutiu tópicos como automutilação ou suicídio com o chatbot.
“O Contato de Confiança é projetado em torno de uma premissa simples e validada por especialistas: quando alguém pode estar em crise, conectar-se com alguém que conhece e confia pode fazer uma diferença significativa”, disse a OpenAI em seu anúncio, presumivelmente com cara séria. “Oferece mais uma camada de apoio junto com as linhas de ajuda localizadas já disponíveis no ChatGPT.”
O recurso é opcional, porque nada diz “Estou bem, sério” como se inscrever voluntariamente para um robô dedurar você. Qualquer usuário adulto do ChatGPT pode ativá-lo adicionando detalhes de contato de outro adulto (18+ globalmente ou 19+ na Coreia do Sul, porque aparentemente os bots respeitam as leis internacionais de idade para beber) nas configurações da conta do ChatGPT. O Contato de Confiança deve aceitar o convite dentro de uma semana – então nada de ignorar passivo-agressivo. Os usuários podem remover ou editar o contato escolhido a qualquer momento, e o Contato de Confiança também pode sair quando quiser.
A OpenAI diz que a notificação é “intencionalmente limitada” e não compartilhará transcrições reais do chat – porque nada diz “confiança” como um alerta vago. Se os sistemas automatizados da OpenAI detectarem conversas sobre automutilação, o ChatGPT primeiro incentivará o usuário a entrar em contato com seu Contato de Confiança e avisará que o contato pode ser notificado. Uma “pequena equipe de pessoas especialmente treinadas” revisará a situação e, se for grave, o ChatGPT enviará um breve e-mail, texto ou notificação no aplicativo para o Contato de Confiança.
Isso se baseia no recurso de contato de emergência introduzido junto com os controles parentais do ChatGPT em setembro, depois que um adolescente de 16 anos tirou a própria vida após meses confidenciando ao chatbot. O Meta também adicionou um recurso semelhante que alerta os pais se seus filhos pesquisarem “repetidamente” tópicos de automutilação no Instagram – porque aparentemente a indústria de tecnologia descobriu que talvez, apenas talvez, ignorar a segurança do usuário não seja o melhor modelo de negócios.