Geçen ayın sonunda OpenAI oldukça büyük bir misyon başlattı: her şeye gücü yeten makineler çağında bireysel siyasi özgürlüğü savunmak. Şirketin 'Stratejik Gelecek' ekibi, bir anlamda kendisini Amerika'nın Kurucu Babaları'nın görevini devralmış olarak konumlandırdı: 'Biz, ABD Anayasası'nın mütevazı parşömeninde yer alan ifade özgürlüğü ve bireysel özgürlük ideallerinin hizmetinde çalışıyoruz,' diye yazdı ekip lideri Dean Ball, yeni bir OpenAI blog yazısında. (Yazı, Federalist Yazılar'dan James Madison'dan bir alıntıyla başlıyor.)

Ball, gelişmiş yapay zekanın, onu kontrol edenlerin elinde radikal bir şekilde güç yoğunlaşmasına yol açabileceğinden ve işgücünü insanları güçsüzleştirecek şekilde yerinden edebileceğinden endişeleniyor. Aşırı bir senaryoda, savaşları yürütecek robotlar ve bürokrasiyi yönetecek her şeyi bilen yazılımlar varsa, hükümetlerin vatandaşlarını dinlemesine gerek kalmayabilir. Ball, bu kaderden kaçınmak için hangi yeni siyasi kurumlara ihtiyaç duyulabileceğini incelemekle ilgileniyor.

Birçok Amerikalı - çoğunluğu yapay zeka endüstrisine güvensizlik ifade ediyor, veri merkezlerine öfke duyuyor ve iş güvenliği konusunda korkular taşıyor - bu ajans kaybını zaten derinden hissediyor gibi görünüyor. Ve yapay zeka patlaması, yalnızca bir avuç teknoloji şirketinde - OpenAI dahil - muazzam miktarda zenginlik yarattı. En hafif tabirle, dünyanın en güçlü endüstrisindeki en etkili şirketlerden birinin, yapay zekanın sağladığı güç yoğunlaşmasını kınaması paradoksal. Bu yüzden, çalıştığı sektöre dair huzursuzluğunu ve Amerika Birleşik Devletleri'nin yapay zekaya nasıl uyum sağlamasını görmek istediğini daha iyi anlamak için Ball'a ulaştım.

Yapay zeka politikası üzerine çalışan Ball, sektörde küçük bir ünlü sayılır. Geçen yıl Beyaz Saray'a yapay zeka danışmanı olarak katıldı ve Trump yönetiminin Yapay Zeka Eylem Planı'nın yazılmasına yardımcı oldu. Sonunda, görünüşe göre iyi niyetle, yönetimden ayrıldı ve bu yılın başlarında Anthropic ile olan anlaşmazlığı sırasında yönetimi alenen eleştirdi. Ardından, Temmuz'da OpenAI'ye katıldı. 'Benim görüşüm, artık dünyada temel olarak dönüştürücü yapay zekaya sahip olduğumuz yönünde,' dedi Ball bana. 'Dönüştürülmekte olan bir dünyada yaşıyorsun. Bu oluyor.'

Bu konuşma uzunluk ve netlik için düzenlenmiştir.

Matteo Wong: Yapay zeka yoluyla güç yoğunlaşmasının ABD Anayasası'nda yer alan temel insan özgürlüklerini alt üst edebileceğini yazıyorsunuz. Bunun nasıl olacağını açıklayabilir misiniz?

Dean Ball: Temel olarak, siyasi güç, meşru güç ve şiddet tekeli üzerinde coğrafi olarak sınırlandırılmış bir yetenektir. Bunu yapmak şimdiye kadar çok sayıda insanın işbirliğini gerektirdi. Ordulara ihtiyacınız vardı, bu ordularda insanlara ihtiyacınız vardı ve bu orduları besleyip tedarik edecek insanlara ihtiyacınız vardı. Ve tüm bunları vergilendirme yoluyla ödeyecek insanlara ihtiyacınız vardı. Bu yüzden insanlar masada bir sandalyeye sahipti çünkü bir anlamda her şey onlar tarafından sağlanıyordu.

Şimdi, robotik teknolojisinin genel dijital zeka ile aynı şekilde yakında ilerleyeceğini varsaymalısınız. Belki düşündüğümden daha uzun sürer. Ancak o noktada, şiddet uygulama yeteneği artık insan gerektirmez. Ve yapay zekanın hükümetin insanlardan vergi toplamasına gerek kalmayacak kadar yeterli gelir üretmesi de düşünülebilir.

Yapay zeka politikasına bakarsanız, Amerikalıların akıllı olduğunu ve masadaki sandalyelerinin küçülebileceğine dair bir hisleri olduğunu düşünüyorum. Korkmakta haklılar.

Wong: Hükümetteki güç yoğunlaşmasından bahsediyorsunuz, ancak üretken yapay zeka özel sektörde geliştirilen bir teknoloji. Endüstride nadir ve hatta benzeri görülmemiş bir güç yoğunlaşması potansiyeli var. Bu ne gibi riskler oluşturuyor?

Ball: Amaç tüm güç yoğunlaşmasından kaçınmak değil, onu dengelemektir. Bu çağ dünyada muazzam güce sahip şirketler ortaya çıkarırsa, bunun iyi olduğunu düşünüyorum - bu kuruluşlar yönetildiği sürece. Başka bir deyişle, onları denetleyen hükümet olduğu sürece