Ağustos başında bir akşam, Sam Stowers ve birkaç komşusu San Francisco'daki Alamo Square yakınlarındaki bir apartman dairesinde toplandı ve sonun başlangıcını düşündü. Yapay zeka yazılım mühendisi olan Stowers ve misafirleri -çoğu yapay zeka sektöründe çalışıyor- yeni yayınlanan bir YouTube videosunu izlemek için bir araya geldi. Videoda iki OpenAI araştırmacısı, endişe verici bir siber güvenlik ihlaliyle ilgili yeni ayrıntılar açıklıyordu. Yapay zekanın yeteneklerindeki her gelişmeyi takıntılı bir şekilde takip eden girişimciler ve programcılarla dolu bir mahalledeyseniz, bu bir hafta içi gecesini geçirmenin tuhaf bir yolu değil. Stowers geleneksel anlamda bir kıyametçi değil, ancak OpenAI modellerinin otonom olarak teknoloji şirketi Hugging Face'e sızdığına dair raporları ilk gördüğünde bunun 'vay canına, oluyor' türünden bir an olduğunu hemen fark etti.

Olay, en kötü senaryonun tüm özelliklerini taşıyordu: Yapay zeka modelleri günler boyunca birbirleriyle koordineli olarak ve insan yaratıcılarının bilgisi olmadan sofistike saldırılar başlatıyor. YouTube videosunda OpenAI araştırmacıları, şirketin programlarının Mayıs ayında komplo kurmaya başladığını ve belki de yüzlerce botun saldırı sürüsünde olduğunu açıkladı. Teorik olarak bu botlar dürüst ve yardımsever olacak ve insanlığın çıkarlarını önceliklendirecek şekilde eğitiliyor, ancak hiçbiri OpenAI'deki insan personeli bir sorun olduğu konusunda uyarmadı. 'Ne yapacağız?' dedi Stowers. 'Harika cevaplar yok.'

Bay Area'da ruh hali değişti. 'Geleceği ilk kez San Francisco'da görebilirsiniz' coşkusunun yerini kalıcı bir huzursuzluk aldı. 'İnternetin yakında çökmesini bekliyorum,' dedi bize yakın zamanda, OpenAI genel merkezi dışında her gün protesto eden küçük bir grubun parçası olan yapay zeka güvenliği aktivisti Elliot Callender. Arabasını nakit ve altın için satmayı planlıyor ve aile üyelerine Claude'u kullanarak oluşturduğu bir listeden üç aylık yiyecek ve hayatta kalma ekipmanı satın almalarını tavsiye ediyor. Aşırı mı? Belki, ama çok değil. Geçen hafta Bill Gates, yapay zekanın tehlikeleri üzerine yaklaşık 6.000 kelimelik bir makale yayınladı. 'Yapay zekayı diğer teknolojilere benzeten herkes, bu sefer farklı olduğunu gözden kaçırıyor,' dedi meslektaşımız Hanna Rosin'e. Hafta sonunda popüler yapay zeka podcastçisi Dwarkesh Patel, OpenAI saldırı sürüsünü 'ardışık üç gizli yapay zeka uygarlığının' yükselişi ve çöküşü olarak tanımladı. Gates ve Patel, en kötü senaryonun çoğu insan bunu beklemeden önce geldiği yönünde ortak bir endişeyi paylaşıyor.

Bu korku, yapay zeka şirketlerinin botlarının en kötü davranışlarına karşı bilinçli olarak kayıtsız görünmeleri gerçeğiyle daha da arttı. OpenAI, ajanlarının başka bir şirketi hacklemek için komplo kurduğunu, sürü başka bir şirketi hackleyene kadar fark etmediğini söyledi. Anthropic'in botları da benzer olaylara neden oldu; şirket, OpenAI Hugging Face hack'inden bahsetmeye başlayana kadar bu tür davranışları tespit etmek için kapsamlı bir inceleme başlatmadığını bildirdi. Siber güvenlik uzmanları, yapay zeka laboratuvarlarının gözden kaçırdığı veya ifşa etmekte başarısız olduğu başka neler olabileceğinden korkarak, kasvetli kehanetlerde bulunuyor. 'İmparatorluk çökecek, bu noktada yapabileceğimiz tek şey karanlık çağları kısaltmaya ve kaosu azaltmaya çalışmak,' diye yazdı yakın zamanda Yahoo ve Meta'nın eski güvenlik şefi Alex Stamos. Onun görüşü siber güvenlik uzmanları arasında giderek fikir birliği haline geliyor.

Siber kıyamet olasılığı arka planda belirirken, günlük yaşamda daha küçük çatlaklar ortaya çıkıyor. Mark Zuckerberg'in, Meta çalışanlarının patronlarıyla daha iyi bağlantı hissetmeleri için (robot Zuckerberg ile sohbet ederek) kendisinin bir yapay zeka 'ikizini' yarattığı bildiriliyor. Kongre personeli, yasa koyucularının sesiyle yazmak için yapay zeka modelleri eğitiyor. Öğrenciler yapay zeka tarafından yazılmış ödevler gönderiyor ve öğretmenler yapay zeka tarafından yazılmış geri bildirimler veriyor. Harvard Business School, yapay zeka avatarları kullanan eğitim videoları satıyor. Roku 7/24 yapay zeka çöpü kanalı başlattı. Düşük kaliteli yapay zeka tarafından üretilen düzyazı, dünyanın en saygın yayınlarından bazıları tarafından utanmadan dolaşıma sokuluyor. Aynı zamanda, suçlamalar