Yapay zeka şirketleri süper zekalı yapay zekadan bahsederken sanki bir sonraki iPhone lansmanıymış gibi konuşuyorlar - kaçınılmaz, heyecan verici ve kesinlikle bizi yiyebilecek bir şey değilmiş gibi. Ancak OpenAI'in Hugging Face ihlali gibi son güvenlik olayları, insanlardan daha yetenekli sistemleri devreye soktuğunuzda ve beklenmedik bir şey yaptıklarında şaşırdığınızda ne olduğunu gösteriyor. Bu, bir yürümeye başlayan çocuğa alev makinesi verip en iyisini ummak gibi.

TechCrunch'ın Equity podcast'inin bu bölümünde Rebecca Bellan, yapay zeka araştırmacısı, girişimci ve şimdi kar amacı gütmeyen ControlAI'nin ABD İcra Direktörü olan Connor Leahy ile bir araya geliyor. Leahy oldukça radikal bir çözüm öneriyor: süper zeka inşa etmeyin. Hiç. Leahy, risklerin yalnızca hizalama ve sınırlama ile yönetilemeyecek kadar büyüdüğünü savunuyor; bu, sızan bir barajı koli bandıyla onarmaya çalışmak gibi. Altı ay önce paranoyak bilim kurgu gibi görünen şeyin artık yeni bir mevzuat dalgasına ilham verecek kadar ciddiye alındığını belirtiyor. Çünkü 'mahvolduk' demenin en iyi yolu, zar zor anladıkları bir şeyi düzenlemek için çabalayan yasa koyuculardır.

Bölümün tamamı için - Leahy'nin neden 'daha fazla güvenlik araştırmacısı eklemenin' işe yaramayacağını kaçınılmaz olarak açıkladığı kısım dahil - Equity'ye YouTube, Apple Podcasts, Overcast, Spotify ve tüm podcast platformlarında abone olun. Ayrıca Equity'yi X ve Threads'te @EquityPod adresinden takip edebilirsiniz. Bilirsiniz, yaklaşan robot kıyameti hakkında güncel kalmak isterseniz.