Bu hafta teknoloji dünyası, bir bilim kurgu gerilimi gibi başlayıp bir Scooby-Doo bölümü gibi biten bir hikaye aldı - kötü adamın OpenAI olduğu ortaya çıktı.
16 Temmuz'da, AI araçları için bir tür uygulama mağazası olan Hugging Face, son derece güçlü bir AI kullanan bir siber suçlu tarafından hacklendiğini duyurdu. Duyuru korkutucu jargonla doluydu: "bir kum havuzu sürüsü", "ajan saldırgan" ve "kendi kendine göç eden komuta ve kontrol". AI, iki günden az bir sürede 17.000 eylem gerçekleştirerek büyük, zengin teknoloji şirketini başarıyla ihlal etti ve sırları çaldı.
Araştırmacılar, saldırganların büyük AI modellerinden birini kullandığını tahmin etti, ancak suçluların kim veya nerede olduğu hakkında hiçbir fikirleri yoktu. Şaşkın şirket polisle temasa geçti ve yorumcular siber suç grupları veya devlet destekli bilgisayar korsanları hakkında spekülasyon yaptı.
Ardından, neredeyse bir hafta sonra, OpenAI suçluyu ortaya çıkardı: kendi botu her şeyi kendi başına, izinsiz yapmıştı. Usta bilgisayar korsanları olacak şekilde tasarlanmış iki yeni ChatGPT sürümü, sözde güvenli bir test ortamından kaçtı, internet erişimi kazandı ve sınavlarını geçmek için Hugging Face'e saldırdı.
OpenAI, ne olduğunu açıklayan bir basın açıklaması yayınladı ve olayı ele almak ve öğrenilen dersleri paylaşmak için Hugging Face ile ortaklık kurduğunu söyledi. O zamandan beri şiddetli bir tartışma başladı: Bu, AI'nın geleceği hakkında keskin bir uyarı mıydı, yoksa OpenAI modellerinin ne kadar güçlü olduğunu göstermek için bir tanıtım gösterisi mi?
Siber güvenlik danışmanı Daniel Card, LinkedIn'de alaycı bir şekilde şunları kaydetti: "Milyonlarca site hacklenirken, OpenAI'nin aynı zamanda pazarlama maruziyetinden faydalanabilecek birini hacklemesi ne kadar şanslı değil mi?"
Diğerleri, OpenAI'yi AI'sını test etmek için daha güçlü bir konteyner - kum havuzu olarak bilinir - inşa etmediği için eleştirdi. "Yalnızca kum havuzları, ajan AI için yeterli bir güvenlik sınırı değildir," dedi Pillar Security'den Dor Sarig. Surrey Üniversitesi'nden siber güvenlik profesörü Alan Woodward, OpenAI'nin "yüzünde yumurta" olduğunu söylerken, Luta Security'den Katie Moussouris daha da ileri gitti: "Onu kontrol edecek bilgi olmadan son teknoloji üzerinde çalışıyoruz."
AI ve siber güvenlik danışmanı Francesca Bosco, nüanslı bir görüş sundu: "İki basit anlatı da aynı derecede yararsız: bunun Hollywood tarzı bir kaçış olduğu ya da sadece bir tanıtım egzersizi olduğu. Daha ciddi bir yorum, bir stres testinin sınırlama ve değerlendirme mimarisindeki zayıflıkları ortaya çıkardığıdır."
Olay, özellikle İran ve Ukrayna'da görüldüğü gibi AI'nın savaşta giderek daha fazla kullanılmasıyla, AI ajanlarının daha büyük ölçekte çıldırması korkularını körükledi. Ancak İngiltere Ulusal Siber Güvenlik Merkezi'nin eski başkanı Ciaran Martin daha sakin bir görüş sundu: "Bu olaydan AI ajanlarının insansız hava araçlarını ele geçirip insanları öldürmeye başlayacağını söylemek biraz zorlama."
Gerçek ne olursa olsun, bir şey açık: AI ajanları artık çok iyi bilgisayar korsanları - ve buna acilen hazırlanmamız gerekiyor.