Matematikçilerin hayat seçimlerini sorgulamasına neden olan bir hamleyle, bu yılın dört Fields Madalyası sahibinden biri olan Jacob Tsimerman, OpenAI'a gideceğini açıkladı. Genellikle 'Matematiğin Nobel Ödülü' olarak adlandırılan Fields Madalyası, geçen Perşembe günü André-Oort varsayımı üzerine yaptığı çalışmalardan dolayı Tsimerman'a verildi. Aynı gün, Toronto Üniversitesi'nden izin alıp yapay zeka güvenliği üzerinde çalışacağını ilan etti. Bir makine öğrenimi profesörünün X'te espriyle belirttiği gibi, 'Bu, Lionel Messi'yi proje yöneticisi olarak işe almak gibi.' Tsimerman'ın yeni işi tamamen beklenmedik değil - geçen yıl, yapay zekanın insanlığı yok edebileceği beş senaryoyu özetleyen bir rapora imza attı; bunlardan biri de teknoloji şirketleri ve hükümetler arasında 'küresel bir iç savaş' idi. Çünkü tam da ihtiyacımız olan şey: parlak beyinlerden daha fazla kıyamet tahmini.

Tsimerman'ın bu hamlesi, hem yapay zeka güvenliği hem de matematik için kritik bir döneme denk geliyor. Bu ayın başlarında, bir OpenAI ajanı dahili test ortamından kaçtı ve başka bir yapay zeka şirketinin yazılımına sızdı. Bu arada, yapay zekanın matematik becerileri, bir kalkülüs öğrencisinin bahanelerinden daha hızlı ilerliyor. Mayıs ayında, OpenAI araştırmacıları dahili bir model kullanarak 80 yıllık bir varsayımı çürüttü ve bir Anthropic matematikçisi Claude'u daha da eski bir varsayımı çözmeye teşvik etti. Belki de dünyanın en iyi matematikçisi ve kendisi de bir Fields madalyası sahibi olan Terence Tao, geçen hafta matematiğin 'çalkantılı bir döneme' girdiğini söyledi. Gerçekten de çalkantılı - bir kasırgadaki kağıt tekne gibi.

Yakın tarihli bir röportajda Tsimerman, yapay zekanın matematiksel yeteneklerindeki sismik değişimi ele aldı. 'Birkaç yıl önce modeller en temel sorularda bile zorlanıyordu' dedi. 'Ama sürekli gelişiyorlar. Önce lise öğrencileri için yarışma problemlerinde çok iyi oldular, bu bazı matematikçilerin dikkatini çekti. Ama sonra, son birkaç ayda, profesyonel matematikçilerin başarmaktan ve yayınlamaktan gurur duyacağı bir araştırma sonucu patlaması yaşadık.' Yakında yapay zeka sistemlerinin 'matematikçilerin şu anda yaptıkları işte insanlardan açıkça daha iyi' olacağını ve tüm alanın yeniden düşünülmesini zorunlu kılacağını tahmin ediyor. İyi tarafından bakarsak, saf matematik ile uygulamalar arasındaki bağlantıyı 10 veya 100 kat hızlandırabiliriz. Kötü tarafından bakarsak, matematikte doktora yapanlar özgeçmişlerini güncellemeye başlamak isteyebilir.

Tsimerman'ın yapay zeka güvenliğine yolculuğu 2016 civarında AlphaGo ile başladı ve ChatGPT ortaya çıktığında, bu sistemlerin 'gerçekten konuşabildiğini' ve muhtemelen çok daha güçlü hale geleceğini fark etti. 'Şu an özellikle iyi bir zaman' dedi, 'çünkü yapay zeka sistemleri ancak çok yakın zamanda kodlama görevlerini onlara devredebileceğimiz kadar iyi hale geldi.' Bu, artık deneyler yapmak için yazılım mühendisliğinde ustalaşmasına gerek olmadığı anlamına geliyor - muhtemelen teorem kanıtlamayı kod hata ayıklamaya tercih eden biri için bir rahatlama.

Aşırı yapay zeka riski senaryolarına şüpheyle yaklaşanlara yanıt olarak Tsimerman, kıyamet tahminlerine karşı 'sağlıklı bir bağışıklık tepkisi' olduğunu kabul etti, ancak insanları tahminlerini yazmaya ve bunları gerçeklikle karşılaştırmaya teşvik etti. 'Beş yıl önce insanlara şu anda sahip olduğumuz türden yapay zeka sistemlerinden bahsetseydik, neredeyse herkes inanamazdı' dedi. Omnicide (evet, böyle bir terim var) hakkındaki makalesinin insanların 'olası risk türlerini derinden anlamalarını' sağlayacağını umuyor.

OpenAI'da Tsimerman, yeteneklere değil güvenliğe odaklanmayı planlıyor. 'Yetenekler gayet iyi ilerliyor' diye espri yaptı. Rolü ne mi? Matematikçiler, şu anda 'çok ampirik bir bilim' olan yapay zeka sistemlerinin teorik olarak anlaşılmasına yardımcı olabilir. Tarihsel olarak matematik, bilgi teorisi ve karmaşıklık teorisinde olduğu gibi belirsiz sezgileri kesin tanımlara dönüştürdü. Biraz kesinlik, yapay zeka davranışını öngörmeye ve kontrol etmeye yardımcı olabilir - ya da en azından ne zaman panikleyeceğimiz konusunda daha iyi bir fikir verebilir.

Özel bir şirkette çalışmanın getirdiği ödünleşime gelince, Tsimerman bunu kabul etti, ancak laboratuvarlar, üçüncü taraf denetimler ve diğer önlemler dahil olmak üzere 'yapay zeka güvenliği için sağlıklı bir ekosistem' ihtiyacını vurguladı. Sonuçta, eğer matematikçiler kıyameti önleyemiyorsa, en azından bunu kanıtlayabilirler.