Bir araştırmacı, önde gelen yapay zeka şirketlerinin "sorumlu davranmadığı" ve ürünlerinin "hepimizi öldürme" yolunda olabileceği uyarısıyla Anthropic'teki işinden dört gün önce istifa ettikten sonra, şirketin CEO'su Dario Amodei özünde şunu söyledi: evet, haklısın. Amodei bugün kişisel web sitesinde yayımlanan ve sosyal medyada paylaşılan 3.800 kelimelik bir makalesinde, "Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız" diye yazdı.

Artık hepimiz yapay zeka yöneticilerinin, piyasaya sürmek için yarıştıkları ürünler hakkında korkunç kehanetlerde bulunmasına alıştık. Amodei'nin makalesini dikkate değer kılan şey, aciliyeti ve zamanlaması. Yapay zeka ajanlarının kontrolden çıkmasıyla ilgili endişeler, OpenAI, Anthropic ve diğerlerinin son haftalarda rahatsız edici olaylar bildirmesinin ardından varsayımsal olmaktan endişe verici biçimde gerçeğe dönüştü. Soru şu: Bu uyarı öncekilerden daha fazla etki yaratacak mı - yani hiç etki yaratacak mı? Yaratabileceğini düşündüren nedenler var.

Amodei, "sınırı yavaşlatmak" dediği şey için üç adımlı bir plan ortaya koydu - güvenliğe öncelik vermek için en iyi yapay zeka modellerinin ne kadar hızlı geliştiğini dizginlemek. Bunun, işlerin ters gitme olasılığını azaltacağını savundu; örneğin bir OpenAI modelinin, başka bir şirketin sistemlerine gizlice sızmak ve dahili bir testte hile yapmak için gizlice işbirliği yapan yapay zeka ajanları ordusu üretmesi gibi. Kendi şirketi de dahil olmak üzere en iyi yapay zeka firmalarının, internetin tamamen ele geçirilmesi gibi daha ciddi siber saldırılara yol açabilecek tehlikeli bir "dibe yarış" içinde kilitlendiğini söyledi. Bunun yerine, şirketlerin en güçlü değil en güvenli modelleri inşa etmek için rekabet ettiği bir "zirveye yarış" çağrısı yaptı - Başkan Obama'nın bir zamanlar eğitim politikası için kullandığı bir ifade. Amodei, "Sınırı güvenli bir hızda ilerletmek için önerdiğim önlemler kolay olmayacak" diye yazdı. "Ama denemeyi insanlığa borçlu olduğumuza inanıyorum."

İlk adım: Yapay zeka laboratuvarları, tehlikeleri izlemek için dış denetçiler getirmeyi taahhüt ediyor. Amodei, Anthropic'in bunu derhal taahhüt edeceğini ve rakiplerinin de aynısını yapmasını umduğunu söyledi. İkincisi: Demokratik ülkelerdeki yapay zeka firmaları - muhtemelen hükümet desteğiyle - belirli sınırlar ve güvenlik standartları üzerinde anlaşacak. Üçüncüsü ve en zor görev: "küresel koordinasyon", yani çoğunlukla Çin'i de işin içine katmak. Teknoloji dünyası bu konuda bölünmüş durumda. Bazıları sıfır toplamlı bir yarışmada işbirliğinin imkansız olduğunu savunuyor; diğerleri ise alternatifin karşılıklı yıkım olduğunu kabul ederlerse ülkelerin ortak zemin bulabileceğine inanıyor.

Yapay zeka yıldızlarının kamuya yaptığı ihtiyat çağrıları, neredeyse ChatGPT kadar eski bir gelenek. İlk büyük çağrı, Mart 2023'te binlerce endüstri ve akademi figürünün "dev yapay zeka deneylerine" altı ay ara verilmesini isteyen bir Future of Life Institute mektubunu imzalamasıyla geldi. Amodei bugün, o zamanlar bu fikrin "çok az anlam ifade ettiğini" düşündüğünü, çünkü GPT-4'ün bu kadar korkutucu olacak kadar güçlü olmadığını söyledi. "Ancak bugün tablo tamamen farklı" diye yazdı. Bu arada, halk da dikkat etmeye başladı. Anketler, Amerikalıların kontrolsüz yapay zeka konusunda daha fazla endişelendiğini ve öfkelendiğini gösteriyor; bu da teknolojiye karşı dikkat çekici derecede iki partili bir popülist hareketi körüklüyor.

Bazıları Amodei'nin makalesini, teknolojisinin eşi benzeri görülmemiş olduğuna insanların inanmasında çıkarı olan bir yöneticinin en son ciddi poz vermesi olarak reddedecek. (The Wall Street Journal'a göre, önümüzdeki ay planlanan Anthropic'in halka arzı, yaklaşık 100 milyar dolar yatırım getirerek şirketi 2 trilyon dolar değerinde yapabilir.) Yapay zeka şüphecileri ve hızlandırmacılar da bu tür uyarıları "kıyametçilik" olarak alaya alma eğiliminde. Şüpheciler ayrıntılı bir pazarlama sunumu görüyor: Eyvah, ürünlerimiz çok güçleniyor! Hızlandırmacılar ise bunu yerleşik oyuncuların teknolojiyi kapıda tutmaya yönelik alaycı bir oyunu olarak görüyor.

Ama Occam'ın usturası, Amodei'nin aşağı yukarı samimi olduğunu gösteriyor. Bir işi ve vicdanı olan neredeyse herkes, gerçekten yavaşlamanız ve daha dikkatli çalışmanız gerektiğini hissetmeyi anlayabilir - ama bunu karşılayamazsınız, çünkü bir rakip sizden önce davranacaktır. Ben de son dakika haberi yazarken bunun (kabul edelim, daha az kıyametvari) bir versiyonunu hissediyorum. Bu