Yapay zeka modelleri güçlendikçe, yaramazlık potansiyeli de artıyor - ve kısıtlama talep eden seslerin korosu da. Yapay zeka şirketleri artık kurumsal müşterilerin gizliliğine saygı gösterme ile suistimali göz önünde bulundurma arasında hassas bir denge kurma göreviyle karşı karşıya. Rakip Anthropic'e üstünlük kurma fırsatı sezen OpenAI, suistimali izlemek için gizlilik odaklı bir yaklaşım duyurdu: Özel Güvenlik İşleme. Bu otomatik sistem, potansiyel suistimali izlerken müşterinin hiçbir verisini saklamıyor, çünkü görünüşe göre hem pastanızı yiyip hem de yiyebilirsiniz - eğer pasta algoritmalardan yapılmışsa.

Bu hamle, doğrudan Anthropic'in yakın zamanda duyurduğu ve bazı müşterileri rahatsız eden veri saklama politikasına karşı geliyor. Temmuz ayında yürürlüğe giren bu politika, yapay zeka laboratuvarının 'kapsanan modeller' - tüm Mythos sınıfı modeller ve 'benzer yeteneklere sahip gelecekteki modeller' dahil - söz konusu olduğunda kullanıcı verilerini (tüm oturumlar ve konuşmalar) 30 gün boyunca saklamasına izin veriyor. Politika, güvenlik için tasarlanmıştı ve laboratuvarın olası uygunsuzlukları incelemesine olanak tanıyordu. Ancak, hassas verilerle çalışan ve bilgilerinin yapay zeka laboratuvarı tarafından barındırılmasını veya incelenmesini istemeyen kuruluşları derinden endişelendirdi.

OpenAI, çoğu yapay zeka şirketi gibi, zaten Sıfır Veri Saklama (ZDR) yoluyla bir düzeyde gizlilik sunuyor. ZDR, OpenAI API içindeki aracıları kullanarak oturum bazında suistimali izler; böylece müşteri verileri saklanmaz, ancak kötü etkinlik insan müdahalesi olmadan işaretlenebilir. Özellikle, Anthropic de ZDR'ye uyar - Fable gibi 'kapsanan modeller' hariç.

OpenAI, Özel Güvenlik İşleme'nin ZDR'nin kapsamını genişlettiğini söylüyor. Bu, birden fazla konuşma boyunca girdileri ve çıktıları değerlendiren uzun vadeli bir güvenlik izleme biçimidir. İzleme, tetiklendiğinde etkileşimleri yakalayan ve suistimal belirtileri için oturumlar arasında analiz eden bir aracı tarafından yapılır. Bu, birden fazla oturuma yayılan kötü niyetli kullanımı tespit etmeye yardımcı olur - örneğin, tespit edilmekten kaçınmak için istekleri yayarak kötü amaçlı yazılım tasarlamaya çalışan bir saldırgan gibi. Özel Güvenlik İşleme, bu konuşmaları insan incelemesi olmadan suistimal açısından analiz edebilir.

Tetiklenirse, sistem OpenAI'ye belirli bir etkinlik hakkında uyarıda bulunan 'dar tanımlı bir sinyal' gönderebilir. Buna dayanarak OpenAI, 'uygulamanın gerekli olup olmadığına' karar verebilir. Gerekliyse, bağlam için müşteriye ulaşır veya sorun üzerinde çalışır ve müşteri kendi takdirine bağlı olarak verileri paylaşmayı seçebilir. Bu arada Anthropic, müşteri verilerinin insan incelemesinin gerçekleşebileceğini, ancak yalnızca 'küçük bir onaylı incelemeci grubunu' içeren 'kontrollü bir erişim yolu' aracılığıyla yapılabileceğini ve her inceleme oturumunun, incelemecilerin bastıramayacağı veya değiştiremeyeceği, kurcalamaya dayanıklı bir günlüğe kaydedildiğini belirtiyor.

OpenAI ve Anthropic arasındaki kurumsal rekabet kızışıyor ve her ikisi de herhangi bir avantaj arıyor. Son bir rapor, OpenAI'in ikinci çeyrek büyümesinin, yıllık tekrarlayan gelirinin 65 milyar dolar olduğu bildirilen Anthropic'inkinden daha yavaş olduğunu gösterdi. Anthropic yatırımcıları 2 trilyon dolarlık bir halka arz önerdiler, OpenAI ise kendi halka arzı üzerinde çalışıyor. Kurumsal güveni kazanma yarışında OpenAI az önce gizlilik eldivenini fırlattı - ve bu eldiven birler ve sıfırlarla sarılı.