OpenAI, ChatGPT için yeni bir isteğe bağlı güvenlik özelliği sunuyor: yetişkin kullanıcıların ruh sağlığı ve güvenlik endişeleri için bir acil durum kişisi belirlemesine izin veriyor. "Güvenilir Kişi" olarak atanan arkadaşlar, aile üyeleri veya bakıcılar, OpenAI sistemlerinin kullanıcının sohbet botuyla kendine zarar verme veya intihar gibi konuları tartıştığını tespit etmesi halinde bilgilendirilecek.
OpenAI, duyurusunda muhtemelen ciddi bir ifadeyle, "Güvenilir Kişi, basit ve uzmanlar tarafından onaylanmış bir öncül etrafında tasarlandı: Birisi krizde olabilirken, tanıdığı ve güvendiği biriyle bağlantı kurmak anlamlı bir fark yaratabilir," dedi. "ChatGPT'de zaten mevcut olan yerel yardım hatlarının yanında başka bir destek katmanı sunuyor."
Özellik isteğe bağlı, çünkü "İyiyim, gerçekten" demenin en iyi yolu, gönüllü olarak bir robotun size ispiyonlaması için kaydolmaktır. Herhangi bir yetişkin ChatGPT kullanıcısı, ChatGPT hesap ayarlarına başka bir yetişkinin (küresel olarak 18+ veya Güney Kore'de 19+, çünkü görünüşe göre botlar uluslararası içki yaşı yasalarına saygı duyuyor) iletişim bilgilerini ekleyerek bunu etkinleştirebilir. Güvenilir Kişi daveti bir hafta içinde kabul etmelidir - yani pasif-agresif görmezden gelmeye izin yok. Kullanıcılar istedikleri zaman seçtikleri kişiyi kaldırabilir veya düzenleyebilir ve Güvenilir Kişi de istediği zaman ayrılabilir.
OpenAI, bildirimin "kasıtlı olarak sınırlı" olduğunu ve gerçek sohbet dökümlerini paylaşmayacağını söylüyor - çünkü "güven" demenin en iyi yolu belirsiz bir uyarıdır. OpenAI'nin otomatik sistemleri kendine zarar verme konuşması tespit ederse, ChatGPT önce kullanıcıyı Güvenilir Kişisine ulaşmaya teşvik edecek ve kişinin bilgilendirilebileceği konusunda uyaracak. "Özel olarak eğitilmiş küçük bir ekip" durumu inceleyecek ve ciddiyse, ChatGPT Güvenilir Kişiye kısa bir e-posta, metin veya uygulama içi bildirim gönderecek.
Bu, Eylül ayında ChatGPT'nin ebeveyn kontrolleriyle birlikte tanıtılan acil durum kişisi özelliğinin üzerine inşa ediliyor; bir 16 yaşındaki, aylarca sohbet botuna dert yandıktan sonra hayatına son vermişti. Meta da benzer bir özellik ekledi; ebeveynleri, çocuklarının Instagram'da "tekrar tekrar" kendine zarar verme konularını araması durumunda uyarıyor - çünkü görünüşe göre teknoloji endüstrisi, belki de kullanıcı güvenliğini görmezden gelmenin en iyi iş modeli olmadığını keşfetti.