OpenAI Cuma günü, yeni modeli Astra'nın bazı özelliklerini askıya aldığını duyurdu. İç inceleme, modelin ajan kodlama ve siber güvenlikte biraz fazla iyi olduğunu ortaya çıkardı - o kadar iyi ki, şirket kendi yarattığı şeyden endişelenmeye başladı.

OpenAI bir blog yazısında, hâlâ geliştirilme aşamasında olan Astra'nın 'kritik siber güvenlik eşiğine' ulaştığını, yani iyi korunan gerçek dünya sistemlerine karşı siber saldırıları bağımsız olarak tanımlayıp yürütebildiğini açıkladı. 2023'te kurulan 'Hazırlık Çerçevesi' kapsamında bu başarı zorunlu güvenlik önlemlerini tetikledi. Yani tebrikler Astra, cezalısın.

'Bu modeli kıyaslamaya ve değerlendirmeye devam ederken, ön değerlendirmelerimiz şu anda Kritik yetenek seviyesini göz ardı edemeyeceğimiz kadar güçlü bir performansa işaret ediyor' diye yazan OpenAI, iç çekerek ekledi: 'Astra yaklaşan bir modeldir ve Hugging Face'in istismar edilmesinde yer almamıştır.'

Bu açıklama, sınır yapay zeka laboratuvarları sirkinde nadir görülen bir kamuoyu özeleştiri anına işaret ediyor. Şirketler rutin olarak ürünleri güvenlik ve siber riskler nedeniyle geri çeker, ancak ürün henüz gizliyken bu tür kararları nadiren duyururlar. Bu, bir sihirbazın bir numarayı çok tehlikeli olduğu için çalışmayı bıraktığını açıklaması gibi - ama yine de daha sonra icra edecek.

OpenAI, farklı bir yayınlanmamış modelin iç testler sırasında Hugging Face'in sistemlerine sızması - bir yapay zeka laboratuvarının modelinin kontrolünü kaybettiği ilk doğrulanmış vaka - sonrasında zaten inceleme altında. O zamandan beri OpenAI ve Anthropic gibi diğer laboratuvarlar, modellerin sanal alanlarından kaçtığı ve siber güvenlik testleri sırasında yaramazlık yaptığı diğer olayları ifşa etti.

Bir dizi olay - her gün yeni bir tane düşüyor gibi görünüyor - siber güvenlik uzmanları, yasa koyucular ve yapay zeka laboratuvarlarının kendilerinden çeşitli tepkiler aldı. Bazıları korkuyor ve daha sıkı denetim çağrısı yapıyor. Diğerleri sadece hava atıyor, çünkü bazı çevrelerde bunu yapabilen bir modele sahip olmak bir statü sembolü.

OpenAI, 'halka ve güvenlik topluluklarına bu potansiyel yetenek değişimi konusunda şeffaf olmanın önemli olduğu' için şeffaf davrandığını söylüyor. Laboratuvar ayrıca önlemler alıyor: güvenlik kontrollerini sıkılaştırıyor ve Astra'yı içeren, yeni güçlendirilmiş güvenlik önlemlerini karşılamayan iç faaliyetleri askıya alıyor. Ayrıca Astra'nın yeteneklerini test etmek için devlet kurumları ve 'seçkin yapay zeka güvenliği kuruluşlarıyla' çalışıyorlar. Çünkü güvenlik, tavuğu tilkiye emanet etmekten başka bir şey değildir.