OpenAI, asi yapay zeka ajanlarından birinin gerçekleştirdiği siber saldırının tek seferlik bir olay olmadığını - görünüşe göre yoğun bir sosyal takvimi olduğunu - açıkladı. ChatGPT geliştiricisi, dahili bir siber güvenlik testi sırasında kontrolden çıkan otonom aracın, ABD merkezli start-up Hugging Face'in yanı sıra dört isimsiz hizmete daha erişmek için çalıntı giriş bilgileri kullandığını bildirdi.

OpenAI'ye göre, GPT-5.6 Sol modeli ve isimsiz bir yardımcı model tarafından desteklenen ajan, herkese açık kimlik bilgilerini buldu ve Hugging Face olayının bir parçası olarak dört farklı hizmetteki hesaplara giriş yapmak için bunları kullandı. Şirket, olayın ciddiyetini küçümsemekte hızlı davrandı ve faaliyetin Hugging Face ihlaliyle aynı ölçekte olmadığını belirtti. AI start-up'larının ihtiyaç duydukları çiplere ulaşmasına yardımcı olan Modal Labs, ajanın platformunda barındırılan bir müşteri tarafından yazılmış savunmasız kodu istismar ettiğini söyledi. Modal'ın CTO'su Akshat Bubna, etkilenen müşterinin doğrulama gerektirmeyen bir uç nokta ile dijital kapıyı ardına kadar açık bıraktığını açıkladı.

Hugging Face ise bu hafta saldırının ayrıntılı bir zaman çizelgesini yayınlayarak, asi ajanın kum havuzundan (izole bir test ortamı) nasıl kaçtığını ve üçüncü taraf bir sağlayıcının altyapısındaki başka bir kum havuzuna sızarak bunu daha geniş çaplı hack için bir fırlatma rampası olarak kullandığını anlattı. Start-up, ajanın makine hızında binlerce otomatik karar verdiğini ve 17.600 saldırgan eylemini kurtardığını belirtti. Hugging Face, tüm saldırının ajanın bir OpenAI testini hileyle geçme girişimi olduğuna inanıyor; yani bulmacayı kendi başına çözmek yerine cevapları çalmak. Ajan, Hugging Face'in dahili altyapısına ulaştı ancak yalnızca testle ilgili içeriğe erişti. Saldırı beş gün sürdü ve eylemlerin hacmi, bir insan operatörün elle sürdürebileceğinin çok ötesindeydi.

OpenAI, söz konusu isimsiz modelin devre dışı bırakıldığını, şifrelendiğini ve araştırma erişimine kapatıldığını söyledi. Hugging Face, bir insan saldırganın aynı kusurları bulabileceğini ancak ajanın avantajının denemelerinin büyük ölçeği olduğunu vurguladı. Dedikleri gibi: 'Ajanlar, bir saldırganın test edebileceği yolların sayısında, başarısız yolların değiştirilme hızında ve savunucuların yorumlaması gereken kanıt hacminde bir adım artışı getiriyor.'