Anthropic, Claude Mythos adlı yapay zeka modeli hakkında küresel finans gözetimcisiyle çok ciddi bir görüşme yapmak üzere. Model, siber savunmaları yerle bir etme potansiyeliyle uzmanların tuz koklamasına neden oluyor.
ABD merkezli girişim, İngiltere Merkez Bankası Başkanı Andrew Bailey'nin başkanlığını yaptığı Finansal İstikrar Kurulu'na (FSB) Mythos'un etkileri hakkında bilgi verecek. Çünkü BT sistemlerindeki açıkları bulmakta gerçekten iyi olan bir yapay zekayı dünyaya salmakta yanlış gidebilecek ne olabilir ki?
Anthropic, Mythos'u kamuya açıklamama kararı alarak, modelin BT sistemlerinde daha önce bilinmeyen ve bilgisayar korsanlarının sömürmek isteyeceği açıkları tespit etme konusunda ileri yeteneklere sahip olduğunu duyurdu. Bunun yerine şirket, Apple ve JP Morgan da dahil olmak üzere seçkin bir grup teknoloji şirketi ve bankaya, yapay zekanın tespit edebileceği zayıflıkları belirlemelerine yardımcı olmak için erişim izni verdi. Financial Times tarafından ilk kez bildirilen FSB planı, düzenleyicinin Anthropic ile yaptığı görüşmelere aşina bir kaynak tarafından doğrulandı.
Gelişmiş yapay zeka modellerini değerlendiren İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), geçen hafta bankalara ve teknoloji şirketlerine sunulan sürümü inceledikten sonra Mythos hakkında güncellenmiş bir değerlendirme yayınladı. En son yinelemenin, bir önceki ay test edilen önizleme sürümüne kıyasla "kayda değer bir yetenek sıçraması" temsil ettiğini belirtti. AISI, Mythos'un en son sürümünün, "soğutma kulesi" adı verilen daha önce çözülmemiş bir siber güvenlik testini 10 denemeden üçünde tamamladığını kaydetti - bu, enstitü tarafından test edilen herhangi bir model için bir ilk.
"Sınır yapay zekanın otonom siber ve yazılım yeteneği hızla ilerliyor: sınır modellerinin otonom olarak tamamlayabildiği siber görevlerin uzunluğu yıllar değil, aylar mertebesinde ikiye katlandı," dedi AISI ve yapay zeka modellerinin ilerlemesini takip etmek için yeni, daha zorlu hack testleri geliştirdiğini ekledi. Çünkü görünüşe göre eski testler artık yeterli değil.
FSB, küresel finansal sistemi izler ve tavsiyelerde bulunur; ABD, İngiltere, Avustralya ve Çin dahil önde gelen ekonomilerden yetkililer içerir. Yürütme komitesinde üst düzey merkez bankası ve maliye bakanlığı yetkilileri bulunur. Bu ay Uluslararası Para Fonu, yapay zekadaki "hızlı hareket eden" gelişmeler nedeniyle finansal istikrar risklerinin arttığını söyledi ve koordineli bir yanıt çağrısında bulundu. "Siber risk sınır tanımaz. Yapay zeka yetenekleri ülkeler arasında yayıldıkça, tutarsız denetim küresel olarak birbirine bağlı bir sistemi zayıflatabilir," dedi IMF bir blog yazısında, açıkça abartı yapacak havada değildi.
Geçen ay Goldman Sachs CEO'su David Solomon, Mythos'un yeteneklerinin "son derece farkında" olduğunu söylerken, JP Morgan'daki meslektaşı Jamie Dimon, yapay zekanın sonuçta şirketlerin bilgisayar korsanlarına karşı kendilerini savunmasına yardımcı olabilse bile siber savunmayı "daha zor" hale getirdiğini belirtti. Diğer uzmanlar, Mythos'un siber tehditlerde bir devrimden ziyade bir evrimi temsil ettiğini savunarak suları sakinleştirmeye çalıştı. Siber güvenlik uzmanları, ihlallerin çoğunun hâlâ zayıf kimlik doğrulama ve yamalanmamış bilinen güvenlik açıkları gibi köklü risklerden kaynaklandığı konusunda uyarıyor. Yani, şifrelerinizi güncellemeyi unutmayın.
Financial Conduct Authority CEO'su Nikhil Rathi, Londra'daki City Week konferansında FSB'nin Mythos'un risklerini değerlendireceği haberleri sorulduğunda, yapay zeka gelişmelerinin geçen ay Washington'daki IMF toplantılarında "önemli bir konuşma konusu" olduğunu söyledi. Bailey'nin konuyla "ilgilendiğini" ve ABD'li yetkililerle işbirliği yapıldığını belirtti. Rathi ayrıca, geçen hafta İngiliz düzenleyiciler ve Hazine tarafından yayınlanan ve firmaları "temel siber hijyene" "ağırlık vermeye" yönlendiren rehberliğe dikkat çekti. Bu, "eski sistemlerinize bakmak, iyi tespit mekanizmalarına sahip olmak, iyi bir yönetişime sahip olmak, nasıl kurtarılacağınızı düşünmek, sigortanızı düşünmek" anlamına geliyordu, dedi. Rathi, "Anthropic oldukça adil davrandı" diye ekledi.