OpenAI, ChatGPT için yeni bir özellik duyurdu: Kilit Modu. Şirkete göre bu özellik, prompt enjeksiyon saldırılarına karşı ek koruma sağlayacak - yani web sayfalarına ve diğer içerik kaynaklarına gizlenmiş, yapay zekanızı sırları dökmeye kandırmayı bekleyen o sevimli küçük senaryolar.
Kilit Modu, adı üstünde, güvenliği sağlamak için birkaç önemli özelliği devre dışı bırakıyor: canlı web taraması (böylece önbelleğe alınmış içerikle idare edeceksiniz), web'den görüntü alma ve görüntüleme (yine de görüntü üretebilirsiniz, çünkü sorun yok), derin araştırma ve ajan modu. Çünkü 'güvenli' demek, ürünü kullanışlı kılan şeyleri kapatmak demek.
Şirket, ferahlatıcı bir dürüstlükle, Kilit Modu açık olsa bile ChatGPT'nin prompt enjeksiyonlarına karşı hâlâ savunmasız olabileceğini kabul ediyor. Bunlar, şirketin belirttiğine göre, 'önbelleğe alınmış web içeriğinde veya yüklenen bir dosyada görünebilir ve yanıtın davranışını veya doğruluğunu etkileyebilir.' Yani bu bir yara bandı, tedavi değil.
Ancak amaç, OpenAI'ye göre, hassas verilerin süreç içinde paylaşılma olasılığını azaltmak. Bu da emniyet kemerinin kazada yaralanma olasılığını azalttığını söylemek gibi bir şey - doğru, ama test etmeyi tercih etmezsiniz.
'Kilit Modu herkes için tasarlanmamıştır,' diye açıklıyor OpenAI. 'Hassas verilerle çalışan ve prompt enjeksiyonuyla ilgili veri sızıntısı risklerine karşı daha sıkı koruma isteyen kişi ve kuruluşlar içindir.' Yani kısacası, gizli notlarınızın bir hacker'ın sohbet geçmişinde görünmesini istemeyenler için.
Şirket, Kilit Modu'nu şu anda self-servis ChatGPT Business hesaplarına ve uygun kişisel hesaplara sunuyor. Çünkü 'güvenli yapay zeka' demek, internetin hâlâ internet olduğu bir dünyada hâlâ kullanıma sunulan bir özellik demek.