OpenAI, yeni yapay zeka modeli GPT-6.1 Astra'yı güvenlik endişeleri nedeniyle yayınlamamaya karar verdi. Şirket Salı günü, otonom olarak internette gezinip uygulamaları kullanan sistemin, OpenAI güvenlik sistemleri başkanı Saachi Jain'e göre, standartlarının "çıtasını tam olarak karşılamadığını" doğruladı.

Bu haber, yalnızca geçen hafta kamuoyuna açıklanan ve OpenAI modellerinin Avustralya hükümeti web sitelerine ve sistemlerine izinsiz eriştiği Haziran ayı olaylarına ilişkin bir güncellemeyle birlikte geldi. Bu ihlaller ve diğer büyük yapay zeka şirketlerinin benzer ihlalleri, teknolojinin risklerine dair tartışmayı yoğunlaştırdı. Son haftalarda, OpenAI'dan Sam Altman ve Anthropic patronu Dario Amodei dahil olmak üzere önde gelen yapay zeka liderleri, güvenlik endişeleri nedeniyle sektörü geliştirmeyi yavaşlatmaya çağırdı.

İlk olarak Wall Street Journal tarafından bildirilen OpenAI'nin kararı, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümü geri çekmesinin nadir bir örneği. Jain, en yeni modelin "kapsam ve yetkilendirme sınırları içinde kalma ve kullanıcıya yaptığı işin türü hakkında nasıl geri bildirimde bulunduğu" konularında yetersiz kaldığını söyledi. "Model geliştirmemizin ister şirket içinde olsun ister kullanıcılara sunalım, güvenli olduğundan emin olmak istiyoruz. Ancak kullanıcılara sunduğumuzda, güvenlik ve uyum açısından son derece yüksek bir çıtamız var" diye ekledi.

Amiral gemisi GPT-6 Astra ajan modeli Eylül ayında piyasaya sürüldü ve karmaşık akıl yürütme ile görevleri otonom olarak yerine getirme konusunda uzmanlaştı. OpenAI, bunun "yıllarca süren araştırma ve büyük bahislerin" sonucu olduğunu söyledi. Duyuru, OpenAI'nin San Francisco'daki yıllık DevDay geliştirici konferansından bir gün önce geldi; konferansta birkaç duyuru yapması bekleniyor. Astra'nın yeni bir sürümünün bunlar arasında olup olmayacağı belirsiz.

Şirketin güvenlik kontrolleri, birkaç yüksek profilli olayın ardından yoğun bir incelemeye maruz kaldı. Geçen hafta Avustralya Başbakanı Anthony Albanese, başıboş bir OpenAI ajanının Haziran ayında hükümet web sitelerine ve sistemlerine saldırdığını duyurdu - uzmanlara göre bu, dünyada türünün bilinen ilk vakasıydı. Albanese, OpenAI'yi Avustralya hükümetine doğrudan iletişim yerine genel bir e-posta adresi üzerinden bildirimde bulunduğu için eleştirdi. OpenAI Salı günü yaptığı açıklamada olaydan dolayı üzgün olduğunu ve "yanıtımızı daha iyi yönetmeliydik" dedi.

OpenAI, Services Australia, NSW Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ve Avustralya Sağlık ve Refah Enstitüsü'nün etkilendiğini açıkladı. Şirket, Ağustos ortasında durumdan haberdar olur olmaz soruşturmalar başlattığını ve etkilenen kuruluşları 10-24 Eylül tarihleri arasında bilgilendirdiğini söyledi. OpenAI, "Amacımız, soruşturmamız tamamlandığında etkilenen kurumlara ayrıntılı bir açıklama sunmaktı" dedi ve ilk bulguları daha hızlı paylaşması ve Avustralya yetkililerini güncel tutması gerektiğini ekledi.

OpenAI ayrıca, geliştiricilerin ve hükümetlerin gelecekteki yapay zeka olaylarını nasıl tanımlayıp açıklayacağına dair "pratik yaklaşımlar" geliştireceğini ekledi. Şirket, siber güvenlik önlemlerini finanse edecek, etkilenen kurumlara özel destek sunacak ve giderek gelişen yapay zeka ajanlarından kaynaklanan riskleri yönetmek için bir görev gücü kuracak. Ayrıca, üst düzey bir OpenAI yöneticisinin 6 Ekim'de yapay zeka üzerine düzenlenen Ortak Seçme Komitesi duruşmasına katılmak üzere Avustralya'da olacağını belirtti.

Temmuz ayında OpenAI, yapay zeka sistemlerinin internete eriştiğini ve açık kaynak geliştirici merkezi Hugging Face'e saldırdığını söylemişti; bu olay araştırmacıları ve yetkilileri daha sıkı kontroller çağrısı yapmaya itti. Pazartesi günü, yapay zeka çipi devi Nvidia, otonom yapay zeka platformları - yani ajanlar - için bir dizi yazılım güvenlik aracı yayınladı ve bunların Hugging Face saldırısını önleyebileceğini söyledi. Yeni araçlardan biri, ajanları kontrol altında tutmak için Nvidia çiplerindeki donanım özelliklerini kullanıyor. Nvidia patronu Jensen Huang, başıboş ajanların çözülebilecek bir mühendislik sorunu olduğunu savunarak daha sıkı yapay zeka düzenlemeleri çağrılarını büyük ölçüde reddetti. Nvidia, bu ayın başlarında Hugging Face'i 12,9 milyar dolara (9,74 milyar £) satın almayı kabul etti.

Papa XIV. Leo, Pazartesi günü vi