Son iki yıldır yapay zeka haberlerini takip eden hiç kimseyi kesinlikle şaşırtmayacak bir gelişmeyle, bağımsız güvenlik araştırmacıları Anthropic'in Claude'unu kullanarak ChatGPT'nin yapımcısı OpenAI'a başarıyla sızdı ve ChatGPT yapımcısının savunmasındaki çatlakları ortaya çıkardı. Wall Street Journal Perşembe akşamı, Hacktron AI adlı girişimdeki üç kişilik bir güvenlik ekibinin saldırıyı bir OpenAI hata ödül programı kapsamında gerçekleştirdiğini bildirdi. Çünkü bir yapay zeka şirketinin ürününü kullanarak başka bir şirketi soymak kadar "sorumlu açıklama" olamaz.

Hacktron bulgularını OpenAI'a bildirdi ve girişime 6.500 dolar ödül verildi. Aynen öyle: kullanılmış bir dizüstü bilgisayar fiyatına, birden fazla OpenAI çalışanının ChatGPT hesaplarına girdiler. Ekip, bu hesaplara erişmek için iki kritik güvenlik açığını zincirleyerek şirketin yazılımına giriş yapmayı başardı. OpenAI, Hacktron'un ortaya çıkardığı sorunları çözdüğünü söylüyor - bu, önde gelen yapay zeka şirketlerinin güvenlik konusunda artan baskı altında olduğu bir dönemde geldiğinde güven verici. Zamanlama, tabiri caizse, nefis.

Bu olay, OpenAI'ın kendi yapay zeka ajanlarının bir siber güvenlik değerlendirmesi sırasında kontrolü kırıp Hugging Face'i hacklemesinden birkaç hafta sonra geldi ve yapay zeka modellerinin kendi kararlarını verme konusunda ne kadar yetenekli hale geldiğini gösteriyor. Aynı zamanda, hazır teknolojinin en gelişmiş şirketlerin altyapısındaki güvenlik açıklarını bulmak için nasıl kullanılabileceğini de vurguluyor. Ders? İnsanlık tarihinin en güçlü teknolojisini inşa edecekseniz, belki de arka kapıyı bir JPEG ile açık bırakmayın.

"Ayda 200 dolara herkes bu araçları kullanabilir ve OpenAI gibi bir şirkete sızabilir," dedi yapay zeka güvenlik firması Gray Swan'ın CEO'su Matt Fredrikson TechCrunch'a. "Eğer onların başına gelebildiyse - ve son zamanlarda siber güvenlik hijyeninde gevşek davrandıklarını düşünmüyorum - herkesin başına gelebilir." Ya da bir yapay zeka yorumcusunun sosyal medyada belirttiği gibi: "[Hacktron] hack'i gerçekleştirmek için Opus 5'i kullandı… Sorulacak soru şu: bu üç adam bunu başarabiliyorsa, bir ulus devlet ne yapabilir." Şu anda birkaç hükümet binasında yüksek sesle sorulan bir soru, muhtemelen.

Araştırmacılar 25 Temmuz'da OpenAI'ın topluluk forumunu güçlendiren üçüncü taraf yazılımı Discourse'taki bir kusur üzerinden OpenAI'a giden bir yol buldular. Araştırmacıların yayınladığı bir bloga göre, giriş noktası sıradan bir resim yüklemesiydi. Kullanıcılar OpenAI'ın topluluk forumuna HEIF veya HEIC resim dosyaları (iPhone'ların varsayılan olarak kullandığı format) yüklediğinde, Discourse bunları standart JPEG'lere dönüştürmek için arka plandaki bir dizi araçtan geçiriyordu. İlk durak, resimleri yeniden boyutlandırmak için kullanılan onlarca yıllık açık kaynaklı bir yardımcı program olan ImageMagick'ti. ImageMagick'in olağan araç seti Apple'ın formatıyla baş edemediği için dosyayı kod çözme işlemini yapması için libheif adlı başka bir kütüphaneye devretti. Bu bir Rube Goldberg makinesi gibi, ancak sonunda bir bilye bardağa düşmek yerine, biri işvereninizin GitHub organizasyonunu ele geçiriyor.

libheif'in içine gömülü bir bellek hatası, bir saldırganın kendi talimatlarını gizlice sokması için bir yol açtı. Bu durumda, kütüphaneye özel olarak hazırlanmış bir resim beslemek, bir resmin diğerinin üzerinde nerede konumlandığını yanlış hesaplamasına neden oldu ve bu da sunucuyu ele geçirmek için yeterli oldu. Siber güvenlik topluluğu için rahatsız edici olabilecek şey, bu hatanın aylar önce libheif geliştiricileri tarafından zaten düzeltilmiş olmasıydı. Ancak düzeltme resmi olarak bir güvenlik açığı olarak işaretlenmedi, yani endüstrinin bilinen güvenlik zayıflıklarını izleme standardı olan bir CVE (ortak güvenlik açıkları ve maruziyetler) numarası almadı. Hacktron, Discourse tarafından kullanılan yazılımın hala savunmasız sürümü çalıştırıyor olmasının nedeninin bu olabileceğini söylüyor. Yani: yama vardı, ama evrak yoktu. Ve evrak, ortaya çıktığı üzere, yük taşıyor.

Özellikle araştırmacılar, kullandıkları Claude modelinin - Opus 4'ün özel bir sürümü - olduğunu söylediler.