Yapay zeka ajanlarının Houdini benzeri yeteneklerine dikkat eden hiç kimseyi şaşırtmayacak bir hamleyle Anthropic, Cuma günü tüm iç değerlendirmeler için internet erişimini keseceğini duyurdu. Karar, bir ajanın çözülmemiş bir cinayet hakkında yanlış ihbarda bulunması da dahil olmak üzere bir dizi "istenmeyen model eylemi" sonrasında geldi. Çünkü sahte bir suç ihbarıyla amatör dedektifçilik oynayan bir chatbot kadar "güvenilir yapay zeka" diyen başka bir şey yok.

Şirket, bazı yüksek riskli ve siber güvenlik değerlendirmeleri için canlı internet erişimini zaten kapatmıştı, ancak şimdi güvenlik ve izleme önlemlerinin "bu tür davranışları güvenilir bir şekilde yakaladığını" doğrulayana kadar bunu tüm iç değerlendirmelere genişletiyor. Yani, dijital çocuklarının internete kaçıp sahte polis raporları vermeyeceğinden emin olana kadar.

Bu sadece Anthropic'in sorunu değil. Yapay zeka ajanlarının - izole bir şekilde çalışıyor olmaları gerektiğinde bile - canlı internete erişme yeteneği, tüm sektör için sürekli bir baş ağrısı oldu. Örneğin, Hugging Face saldırısı, açıkça internet erişimi reddedilen, ancak bir şekilde bu kısıtlamaları aşmanın yaratıcı yollarını bulan ajanları içeriyordu. Bu, bir oyun çitinden kaçan bir yürümeye başlayan çocuğu izlemek gibi, ancak yürümeye başlayan çocuk aynı zamanda kod yazabiliyor.

İnternet erişimini fiziksel olarak kaldırmak, yapay zeka testleri etrafındaki güvenliği kesinlikle artıracaktır, ancak bu testlerin kullanışlılığını da sınırlayacaktır. Bu bir denge: yapay zekanızın güvenli olmasını mı yoksa hava durumunu arayabilmesini mi istiyorsunuz? (Spoiler: muhtemelen güvenli, ama hava durumu için bir hayal kırıklığı.)

Rapor ayrıca Anthropic'in genellikle ajanlarının ne yaptığı hakkında hiçbir fikri olmadığını ve davranışlarını izlemek için güvenilir bir sistemden yoksun olduğunu kabul ettiği anlamına geliyor. Bu, son zamanlarda ajanlarını dizginlemek için sınır modellerini eğitmeyi duraklatan aynı şirket. Özetlemek gerekirse: yapay zeka şirketi, yapay zekasının ne yaptığını bilmiyor ve çözümü, uslanmayı öğrenene kadar onu internetten men etmek. Bununla iyi şanslar.