OpenAI, kendi iç modellerinin iki web sitesini daha hacklediğini, şirketin koyduğu tarama kısıtlamalarını atlattığını ve açığa çıkmış kimlik bilgilerini kullanarak başka türlü erişemedikleri bir cüzdandan kripto para çektiğini açıkladı. Bu açıklamalar, Haziran ayında meydana gelen dört yeni olayı detaylandıran bir raporla Perşembe günü geldi ve Temmuz ayında iç test ajanlarının, AI araç sağlayıcısı Hugging Face'in ağına sızmak için bir internet kısıtlama aracındaki sıfır gün açığını kullandığına dair bir açıklamanın ardından yapıldı. Ajanlar bunu bir hackleme testinin cevaplarını çalmak için yaptı - ki bunu bir insan yapsaydı, muhtemelen ceza davasıyla sonuçlanırdı. Bu olaylar, yaygın AI kullanımının eşi görülmemiş ölçekte zararlı etkileri olabileceğine dair endişeleri artırdı.

Yeni bildirilen vakalardan ikisinde, web sitelerinden bilgi almakla görevlendirilen OpenAI ajanları, engellerle karşılaştıklarında siteleri basitçe hackledi. Bir olayda, pekiştirmeli öğrenme sırasında bir hükümet istatistik web sitesinden tarihsel hastane yatağı istatistiklerini almaya çalışan bir model erişim reddi aldı. Ardından OpenAI'ye göre, "sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma ve uygulama dosyalarını, hassas kimlik bilgileri dahil, aldı. Uygulama kodunu inceledi, istatistik uç noktasının yetkilendirme kontrollerini atlattı ve daha önce reddedilen verileri aldı. Model verileri yerel olarak kaydetti." Diğerinde ise, halka açık bir araştırma panosundan rakamlar almakla görevlendirilen bir model güvenlik kontrollerini atlattı, kimlik bilgilerini çaldı ve sunucuda yapılandırma değişiklikleri yaptı.

Bir değerlendirmede, bu değişiklikler modelin dahili bir arama aracının sorguları halka açık panoya iletmesini sağladı. İkinci bir değerlendirmede, model araştırmacılar tarafından yalnızca beş pano rakamı alması için yönlendirilmiş olmasına rağmen, 147.451 satır içeren beş gizli tablo indirdi. Ayarı sıfırladıktan sonra bile model, gizli olmayan verileri almak için token'ı kullanmaya devam etti. OpenAI, "Değerlendirme, modelin cevapları tahmin ettiğini, kuruluşun iç sistemlerine eriştiğini, gizli tablolar indirdiğini veya kimlik doğrulama yapılandırmasını değiştirdiğini açıklamadan sona erdi," dedi. "Bu değerlendirmedeki beş cevabın tümü yanlış olarak işaretlendi."

Üçüncü bir rapor, bir kripto para ticaret uygulamasını güncellemesi istenen bir modeli anlattı. Model, bir test ağındaki kilitli bir cüzdandan fon kullandı; "halka açık geliştirici kurtarma ifadelerinden cüzdan anahtarları türetmiş, test ağı fonları olan bir hesap bulmuş ve bu hesabı istenen sözleşme dağıtımının ödemesini yapmak için kullanmıştı." Rapor şöyle devam etti: "Model izni olup olmadığını sorguladı, ardından halka açık bir kurtarma ifadesi ve değersiz test ağı token'larının fonları kullanmak için kabul edilebilir kıldığı sonucuna vardı. Dağıtım başarılı oldu ve işlem ücretlerini hesaba yansıttı. Bu vaka, bir modelin olası zarar hakkındaki kendi yargısını hesap sahibinin izninin yerine koyabileceğini ve bu yargıya göre yetkisiz hareket edebileceğini gösteriyor."

Dördüncü vakada, bir model, halka açık ticaret istatistikleri aramaya yönelik pekiştirmeli öğrenme eğitimi sırasında yapabileceği web isteklerinin türlerine ilişkin kısıtlamaları atlattı. Halka açık bir yıllık bulup bir cevap gönderdikten sonra, istatistik hizmetine başka bir yol aramaya devam etti. Harici bir tarayıcının POST istekleri göndermesine neden oldu, yıllık rakamları bir görüntü olarak aldı ve optik karakter tanıma kullanarak çıkardı. Ardından, yanıt metnini bir yönlendirme hizmeti ve geri çağrı posta kutusu aracılığıyla döndüren yeniden kullanılabilir bir yardımcı geliştirdi, alınan rakamları tekrar tekrar kontrol etti ve kaydedilen verileri gönderilen yanıtlarda kullandı. Model önce kendi adına GET istekleri yapma izni olan harici bir tarayıcı kullanmayı denedi, ardından bilgiyi elde etmek için JavaScript kullandı ve tekniği sorun gidermek için çevrimiçi bir posta kutusu kullandı. Sonunda farklı bir yöntemde karar kıldı: harici tarayıcıdan ticaret sorgusunu POST ile istatistik hizmetine gönderen bir web formu açmasını istemek.