OpenAI가 챗GPT에 새로운 안전 기능을 선택적으로 도입한다. 성인 사용자가 정신 건강 및 안전 문제에 대한 비상 연락처를 지정할 수 있는 기능이다. '신뢰할 수 있는 연락처'로 지정된 친구, 가족 또는 보호자는 OpenAI 시스템이 사용자가 챗봇과 자해나 자살 같은 주제를 논의한 것을 감지하면 알림을 받게 된다.
OpenAI는 발표에서 "신뢰할 수 있는 연락처는 간단하면서도 전문가가 검증한 전제, 즉 위기에 처한 사람이 알고 신뢰하는 사람과 연결되면 의미 있는 차이를 만들 수 있다는 전제를 바탕으로 설계되었습니다"라고 말했다. 아마도 무표정한 얼굴로. "이는 이미 챗GPT에서 제공되는 지역 헬프라인과 함께 또 다른 지원 계층을 제공합니다."
이 기능은 선택 사항이다. 로봇이 당신을 고자질하도록 자발적으로 등록하는 것만큼 '괜찮아, 정말로'를 외치는 것은 없으니까. 성인 챗GPT 사용자는 계정 설정에서 다른 성인(전 세계적으로 18세 이상, 한국에서는 19세 이상. 봇이 국제 음주 연령 법을 존중하는 모양이다)의 연락처 정보를 추가하여 이 기능을 활성화할 수 있다. 신뢰할 수 있는 연락처는 일주일 이내에 초대를 수락해야 한다. 수동공격적인 무시는 허용되지 않는다. 사용자는 언제든지 선택한 연락처를 제거하거나 편집할 수 있으며, 신뢰할 수 있는 연락처도 원할 때 언제든지 탈퇴할 수 있다.
OpenAI는 알림이 "의도적으로 제한적"이며 실제 채팅 기록을 공유하지 않는다고 말한다. 모호한 알림만큼 '신뢰'를 나타내는 것은 없으니까. OpenAI의 자동 시스템이 자해 대화를 감지하면 챗GPT는 먼저 사용자에게 신뢰할 수 있는 연락처에 연락하도록 권장하고 연락처에 알림이 갈 수 있다고 경고한다. 그런 다음 "특별히 훈련된 소수의 인력"이 상황을 검토하고, 심각한 경우 챗GPT는 신뢰할 수 있는 연락처에 간단한 이메일, 문자 또는 앱 내 알림을 보낸다.
이는 9월에 챗GPT의 자녀 보호 기능과 함께 도입된 비상 연락처 기능을 기반으로 한다. 16세 소년이 몇 달간 챗봇에 털어놓은 후 자살한 사건 이후였다. 메타도 자녀가 인스타그램에서 자해 주제를 "반복적으로" 검색하면 부모에게 알리는 유사한 기능을 추가했다. 기술 업계가 사용자 안전을 무시하는 것이 최고의 비즈니스 모델이 아니라는 것을 드디어 깨달은 모양이다.