OpenAI'da her büyük model sürümüyle birlikte yayınlanan güvenlik raporlarını yazan David Robinson, bu hafta istifa etti ve endişelerini The Atlantic'te bir başyazıyla kamuoyuna açıkladı. Evet, bunlardan bir tane daha. Hayır, inşa etmeye yardım ettikleri şey konusunda bizi uyaran insanlara karşı biraz alaycı hissetmekte haksız değilsiniz. Ancak uyarılar, ne yazık ki, okumaya değer olmaya devam ediyor.

Robinson'ın argümanı, sorunun eksik bir kural ya da şurada burada gevşek bir düzenleme olmadığı - sorunun kültürün kendisi olduğu yönünde. Ona göre Silikon Vadisi, "aşırı özgüven" ve "bitmek bilmeyen sprintler" üzerinde çalışıyor; bu modellerin beraberinde getirdiği potansiyel sorunları görmezden gelerek ya da küçümseyerek "engellenmemiş iyimserlik"le daha büyük ve daha iyi modeller üretiyor.

Önerdiği çözüm pek de incelikli değil. Ona göre yapay zeka şirketlerinin alçakgönüllülüğe ve teknolojinin içine kapanık, hızlı hareket et ve işleri boz dünyasının ötesine bakma isteğine ihtiyacı var. Özellikle, sınır laboratuvarlarının startup'lar gibi değil, nükleer santraller ya da yoğun havalimanları gibi işlemesi gerektiğini söylüyor - katmanlı yedeklilik ve dikkatli, zaman alıcı planlama ile, böylece ara sıra ve kaçınılmaz olan insan hatası felakete kapı aralamasın.

Robinson, önde gelen yapay zeka firmalarından ayrılan araştırmacılar ve güvenlik çalışanlarının giderek uzayan geçit töreninin en yenisi. Jacob Coxon, Anthropic'ten istifa edip ardından yapay zekanın "on yılın sonuna kadar hepimizi öldürebileceğini" açıkça söyleyerek bu kaçışı başlatmış gibi görünüyor. Onu Google DeepMind'dan Robert O'Callahan, Bilal Chughtai ve Josh Engels ile Anthropic'ten Joe Benton izledi.