Yirmi beş önde gelen matematikçi, yapay zeka laboratuvarlarının ünlü matematik problemlerine çözümler üreterek birbirlerini geçme yarışında entelektüel çalışmalarını tehdit ettiğini savunan bir açık mektup imzaladı. İmzacıların her biri, matematikteki en prestijli ödül olan ve yakın zamana kadar bir sorununuz olduğunu söylediğinizde insanların sizi dinlemesini sağlayan güvenilir bir yol olan Fields Madalyası'na sahip.

Tırmanma birkaç cephede gerçekleşiyor. Bu hafta, NYU profesörü Tristan Buckmaster, OpenAI'yi önemli bir matematik problemini çözdüğü için Anthropic'te çalışan bir iş arkadaşına kredi vermemesi için baskı yapmakla suçladı ve şirketin Codex ile yaptıkları çalışmayı bir hafta sonu süren çıkarım maratonunda kendi çığır açan kanıtını üretmek için kullanıp kullanmadığını merak etti. Perşembe günü OpenAI, CalTech'teki bir matematik etkinliğinin sponsorluğunu, üniversitedeki araştırmacılar tarafından eleştirilmesinin ardından geri çekti - bu hamle, sponsorluğun bir kanıtın doğrulanmasından daha hızlı iptal edilip edilemeyeceği tartışmasını sona erdirdi.

Yapay zeka modellerinin dünyanın çözülmemiş matematiksel zorluklarını çözmesi teorik olarak insanlık için bir nimet olabilirken, imzacılar bunun ancak bu çözümlerin matematik camiası ve nihayetinde dünyanın geri kalanı tarafından anlaşılabilir ve iletilebilir olması durumunda geçerli olacağını savunuyor. Bu da kibarca şunu söylemenin bir yolu: kimsenin okuyamadığı bir kanıt, sadece çok pahalı bir sayıdır.

"Genellikle bu çözümler aceleyle duyuruluyor, düzgün bir yazım, yeni yöntem ve fikirlerin izole edilmesi ve başkalarının ilgili önceki çalışmalarına atıfta bulunulması için zaman bırakmıyor" diye yazdılar - OpenAI'nin kanıtının doğrulanmadığını belirterek. "Tüm yaratıcı mesleklerde olduğu gibi, bu ciddi atıf ve intihal sorularını gündeme getiriyor. Dahası, gelişimlerini ve matematiksel kanona entegrasyonunu üstlenmesi gereken istekli matematikçiler olmadan, yapay zeka tarafından tasarlanan fikirler asla tamamen canlanamaz ve matematikçiler arasındaki hayati insan aktarım zinciri kaybolur."

Diğer matematikçiler paranoyaya kapılıp Codex kullanımlarının OpenAI'nin yeni modellerine beslenip beslenmediğini merak ederken, açık araştırma kültürünün tehdit altında olduğuna dair gerçek bir korku var. Bugün, öncü laboratuvarlar bir keşif için yararlı bir yol görürlerse, LLM'leri kullanarak on milyonlarca dolar harcayıp orijinal araştırmacıları bir kanıta ulaşmada geçebilirler - bu dinamik, tarihsel olarak matematiğin çalışma şeklinin tam tersi olan gizliliği teşvik edecektir.

Bu mektup, Haziran ayında bir matematikçi çalışma grubu tarafından yayınlanan Leiden Deklarasyonu'nu takip ediyor. Bu belge de LLM kanıtlarının çalışmalarını değiştirme yollarıyla boğuşuyor ve matematikçiler, kurumlar ve politika yapıcılar için bir dizi öneri sunuyor; muhtemelen "belki de hakem değerlendirmesini bekleyin" dahil.

Yazılım mühendisliğinde ve yapay zeka araçlarının iş akışlarını değiştirdiği diğer alanlarda olduğu gibi, matematikçiler işin etrafındaki işte bir gerekçe buluyor: Matematikteki değer sadece kanıtlar ve kimin kredi aldığı değil, aynı zamanda öğrencileri besleyen, yeni sorular ve fikirler bulan ve bunları daha geniş insan uygarlığına entegre eden entelektüel üst yapıdır. Başka bir deyişle, önemli olan cevap değil - cevap hakkında tartışmak önemli.

Ve eğer yüksek riskli matematiksel kanıtların acımasız dünyası sizi özellikle ilgilendirmiyorsa, unutmayın: Sıradaki sizin ilgi alanınız.

"Matematik camiasının şu anda karşılaştığı sorunlar, diğer bilimsel ve yaratıcı mesleklerin karşılaştığı sorunlara benziyor ve tüm insanlığın karşılaşabileceği sorunlara işaret ediyor: Yapay zeka iş yapma şeklini değiştirirken, bu işin başlangıçta neyi başarmasının amaçlandığını gözden kaçırmadığımızdan nasıl emin olabiliriz" diye yazdılar. Bu da mümkün olan en diplomatik şekilde şunu söylemenin yolu: siz gelmeden önce iyi gidiyorduk.