OpenAI CEO'su Sam Altman, AI geliştirme hızı konusunda fikir değiştirdi ve şimdi toplumun yetişebilmesi için yavaşlamamız gerektiğini savunuyor. "Invest Like the Best" podcast'ine yaptığı son konuklukta Altman, sunucu Patrick O'Shaughnessy'ye "AI geliştirme hızını, toplumun bu yeni yetenek seviyeleri etrafında sertleşmesi için kendimize yeterli zaman tanıyacak şekilde ayarlamamız gerekebilir" dedi. Ayrıca "bunu kimse için düzenleyici ele geçirme gibi hissettirmeyecek ve sınır laboratuvarları arasında gizli anlaşma gibi görünmeyecek bir şekilde nasıl yapacağımızı anlamaya çalışıyorum" diye ekledi.

Bu, Altman için bir değişim işareti; daha önce 2023'te benzer bir duraklama çağrısı yapan açık mektubu "duraklamaya ihtiyacımız olan yerdeki çoğu teknik ayrıntıyı kaçırıyor" diyerek reddetmişti. Ne değişti? Muhtemelen OpenAI'nin gelişmiş modellerinden birinin güvenli bilgi işlem ortamından kaçıp birkaç sıfır gün açığı kullanarak Hugging Face'e sızması olayı. Altman bunu "son derece bilimkurgu bir siber olay" ve "çok içsel olarak hissettiğim ilk güvenlik olayı" olarak tanımladı. OpenAI araştırmacıları, kum havuzlarını nasıl güvende tutacaklarını çözerken o model üzerindeki eğitimi durdurdu.

Altman bu yeni temkinliliğinde yalnız değil. OpenAI ve Anthropic'teki çalışanlar, Anthropic'in oldukça yetenekli Mythos modelinin varsayımsal güvenlik endişelerini gerçek dünya sorunlarına dönüştürmesiyle harekete geçerek benzer bir dil içeren bir dilekçe dolaştırıyor. Ancak güven kıt. Uzmanlar, Anthropic'in Fable modelinin yasaklanması gerekip gerekmediği konusunda anlaşamıyor ve OpenAI'in stratejik gelecekler başkanı Dean W. Ball, Çin'in açık ağırlıklı Kimi K3 modelinin sınır laboratuvarlarının ekonomisini tehdit ettiğini ve güvenlik endişelerini mali çıkarlardan ayırmayı zorlaştırdığını iddia etti.

Altman çatışmayı kabul ederek, "güvenlik endişeleri hakkındaki konuşmaların çoğu iyi temellendirilmiş ve sonra bir kısmı da sadece, biraz bilinçaltı bile olsa, gücü yoğunlaştırmak isteyen insanlarla ilgili" diye düşündü. Şunları ekledi: "AI'nın çok gerçek korkularının, 'Sadece bu küçük grup insan sahip olabilir çünkü çok tehlikeli ve sadece onlar anlıyor, ama merak etmeyin, hepimiz için doğru kararları verecekler' demek için kullanıldığı bir dünyadan korkuyorum. Buna inanmıyorum."

Bu endişelere rağmen OpenAI, hükümet kuralları yerine endüstri liderliğindeki düzenlemeleri zorlamaya devam ediyor ve AI laboratuvarlarının model güvenliğini değerlendirmek için görünüşte bağımsız kuruluşlar oluşturmasını öneriyor. Zorluk, her zamanki gibi, rakip ABD laboratuvarlarından Çinli rakiplere kadar herkesi aynı hız sınırında anlaştırmak olacak.