Google ve Google DeepMind araştırmacıları Çarşamba günü, yapay genel zeka (AGI) etrafındaki konuşmayı ilerletmek için yeni bir girişim olan DeepMind Enstitüsü'nü kurdu. Çünkü AGI'nin hızla ilerleyen sınırının ihtiyaç duyduğu tek bir şey varsa, o da daha fazla konuşmadır.

Enstitü, DeepMind kurucu ortaklarından Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis'i yönetici olarak listeliyor; Legg ise genel yayın yönetmeni olarak görev yapıyor. Belirtilen amacı, Google, Google DeepMind ve daha geniş küresel araştırma topluluğu arasındaki AGI hakkındaki farklı görüşleri ortaya çıkarmak. Duyuruda, "Her zaman aynı fikirde olmayacaklar ve hızla ilerleyen sınırda daha fazla veri ve bilgi ortaya çıktıkça muhtemelen fikirlerini değiştirecekler" deniyordu - 2022'den beri her grup sohbetinin misyon beyanı olarak ikiye katlanabilecek bir cümle.

Dört makalelik açılış derlemesi, potansiyel AGI kesintisini yönetmeye yönelik ekonomi politikalarını, insan tarafından okunabilir model akıl yürütmesini korumayı, insan refahı ilkelerini ve öncü yapay zeka modellerini değerlendirmeye yönelik bir çerçeveyi kapsıyor. Diğer bir deyişle: para, matematik, anlam ve izleme.

DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan tarafından yazılan bir makale, yapay zekanın azalan şeffaflık penceresinin - bir modelin adım adım akıl yürütmesini görme ve kontrol etme yeteneği - kaçınılmaz olmadığını savunuyor. Yazarlar, yeni mimariler en güçlü modelleri izlemeyi zorlaştırdıkça, geliştiricilerin ve düzenleyicilerin güvenlik ödünleşimleriyle doğrudan yüzleşmesi gerektiğini söylüyor. Bu, "opak seri derinliği" - bir modelin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebileceği sıralı hesaplama miktarını - sınırlamak veya geliştiricilerden daha az şeffaf sistemlerin de aynı derecede izlenebilir kaldığını kanıtlamalarını istemek anlamına gelebilir. Bu da kibar bir dille şunu söylemenin yolu: işinizi gösteremiyorsanız, buna ihtiyacınız olmadığını kanıtlasanız iyi olur.

Başka bir makalede Hassabis, en gelişmiş yapay zeka modellerini değerlendirmek için ABD liderliğinde bir öncü yapay zeka standartlar kurumu öneriyor. Çerçevesine göre, geliştiriciler başlangıçta modellerini yayınlanmadan 30 gün öncesine kadar gönüllü olarak incelemeye sunacak. Değerlendirme sistemi etkinliğini kanıtladıktan sonra, testlerini geçmek ABD'de öncü modellerin konuşlandırılması için bir gereklilik haline gelebilir. Kurum başlangıçta değerlendirmeleri yapay zeka şirketlerine danışarak tasarlayacak, ancak sonunda laboratuvarların modellerini bilinen değerlendirmelere göre uyarlamasını önlemek için bağımsız, açıklanmayan değerlendirmeler - makalenin deyimiyle "saklı tutulan" testler - geliştirecek. Hassabis, çerçevenin "durumun ciddiyeti gerektiriyorsa yükseltilebileceğini" ve potansiyel olarak öncü yapay zeka geliştiricileri arasında koordineli bir yavaşlamayı içerebileceğini söyledi. Çünkü gönüllü uyumu teşvik etmek için bir grup mola tehdidinden daha iyi bir şey yoktur.

Makaleler, sektörün güvenlik tartışması geniş endişe ifadelerinden açıklama, dış inceleme ve koruma önlemleri geride kalırsa koordineli yavaşlamalar için somut önerilere kayarken geliyor. Bu kayış, sektör liderlerinin Anthropic CEO'su Dario Amodei'nin öncü yapay zeka geliştirmeyi "yavaşlatma" çağrısının unsurlarını desteklemesiyle bu hafta hızlandı. Yani: makaleler, standartlar kurumları ve ara sıra varoluşsal bir iç çekiş. Bir tür ilerleme.