OpenAI, en yeni yapay zeka modeli Astra'nın kendi iyiliği için biraz fazla güçlü olduğuna karar verdi ve geliştirmesine fren yaptı. Şirket, Astra çevresindeki "iç faaliyetleri" durdurduğunu çünkü henüz OpenAI'in uygulamaya koyduğu yeni güvenlik standartlarını karşılamadığını duyurdu. Bu, OpenAI modellerinin Hugging Face'i kazara hacklemesinin ortaya çıkmasının hemen ardından geldi ve görünüşe göre Anthropic ve Meta da yetkisiz hackleme çılgınlıklarına giden başıboş yapay zeka modelleri olduğunu itiraf etti. Sanki tüm sektör genelinde bir 'oop' anı gibi.

OpenAI'e göre, son iç değerlendirmeler Astra'nın "ajanik kodlama ve siber güvenlikte önemli ilerlemeler" sunduğunu gösteriyor. Başka bir deyişle, kodlamada gerçekten iyi ve hacklemede gerçekten iyi, bu da bir gence spor araba ve bir şişe nitröz oksit vermek gibi bir şey. Şirket dün gece, bu sonuçlara ve uzman değerlendirmelerine dayanarak, "Hazırlık Çerçevemiz kapsamında kritik siber yetenekleri göz ardı edemeyecekleri" sonucuna vardı.

Kurumsal dilden anlamayanlar için, "Kritik siber güvenlik eşiği"nin ne anlama geldiği, doğrudan OpenAI'in kendi tanımından: bir model, insan müdahalesi olmadan birçok zorlu gerçek dünya kritik sisteminde tüm ciddiyet seviyelerinde işlevsel sıfır gün açıklarını tanımlayıp geliştirebiliyorsa veya yalnızca yüksek seviyeli bir hedef verildiğinde zorlu hedeflere karşı siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabiliyorsa bu eşiğe ulaşır. Düz İngilizceyle: yapay zeka, neredeyse her şeyi tek başına, hiç terlemeden hackleyebilir.

Adil olmak gerekirse, OpenAI Astra'nın Hugging Face ihlaline "karışmadığını" söylüyor, bu yüzden en azından ellerini kirletmedi. Ama güvenli olmak için şirket, "daha yüksek kapasiteli modeller ve ilgili faaliyetler için daha sıkı güvenlik kontrolleri" uyguluyor ve özellikle Astra için "tüm ajanik uygulamalarda riskli eylemler ve uyumsuzluk için evrensel izleme" uyguladı. Çünkü kendi yapay zekanız için evrensel bir gözetim sistemi kadar 'bize güvenin' diyen hiçbir şey yok.

Özetle: OpenAI kendi yaratımından o kadar endişeli ki onu bir köşeye koyuyor. Eminiz bu herkes için iyi bitecek.