OpenAI 正在推出一项新的可选安全功能，允许成年用户指定一个紧急联系人，用于心理健康和安全问题。被指定为“可信联系人”的朋友、家人或护理人员，如果 OpenAI 的系统检测到用户与聊天机器人讨论了自残或自杀等话题，将会收到通知。

“可信联系人的设计基于一个简单且经过专家验证的前提：当某人可能处于危机中时，与他们认识和信任的人联系可以产生有意义的影响，”OpenAI 在公告中说道，大概是一本正经的样子。“它提供了另一层支持，与 ChatGPT 中已有的本地求助热线相辅相成。”

该功能是自愿加入的，因为没有什么比自愿注册让机器人告密更能表达“我很好，真的”了。任何成年 ChatGPT 用户都可以通过在账户设置中添加另一位成年人（全球 18 岁以上，韩国 19 岁以上，因为显然机器人尊重国际饮酒年龄法）的联系方式来启用它。可信联系人必须在一周内接受邀请——所以不允许被动攻击式的忽略。用户可以随时删除或编辑他们选择的联系人，可信联系人也可以随时退出。

OpenAI 表示，通知是“有意限制的”，不会分享实际的聊天记录——因为没有什么比模糊的警报更能表达“信任”了。如果 OpenAI 的自动化系统检测到自残言论，ChatGPT 将首先鼓励用户联系他们的可信联系人，并警告他们联系人可能会收到通知。然后，一个“由经过专门培训的人员组成的小团队”将审查情况，如果情况严重，ChatGPT 将向可信联系人发送一封简短的电子邮件、短信或应用内通知。

这建立在 9 月份与 ChatGPT 家长控制功能一起推出的紧急联系人功能之上，此前一名 16 岁少年在与聊天机器人倾诉数月后自杀。Meta 也添加了类似功能，如果孩子“反复”在 Instagram 上搜索自残话题，就会提醒家长——因为显然科技行业已经发现，也许，只是也许，忽视用户安全并不是最好的商业模式。