Yapay zeka dünyasının yeni bir takıntısı var ve üç harften oluşuyor: RSI. Hayır, tekrarlayan zorlanma yaralanması değil - sektörün çılgınca moda sözcük benimsemesi buna da yol açabilir. Bu RSI, Recursive Self-Improvement (Özyinelemeli Kendini Geliştirme) anlamına geliyor; girişimlerin ve araştırmacıların, can sıkıcı insan müdahalesi olmadan kendini yükseltebilen bir yapay zeka vizyonunun peşinden koşmasını sağlayan en yeni moda sözcük.

Teoride RSI basit: Kendi yeteneklerini sürekli geliştiren, sonunda döngüyü kapatarak insanları isteğe bağlı - ya da daha kötüsü, gereksiz - hale getiren bir yapay zeka sistemi. Pratikte ise, daha önceki AGI'de olduğu gibi, kimse bunun tam olarak ne anlama geldiği veya ne zaman geleceği konusunda hemfikir değil. Ama bu, abartı trenini durdurmadı.

Bu ayın başlarında, ünlü yapay zeka araştırmacısı Richard Socher, Recursive Superintelligence adında bir girişim başlattı; ana odak noktası "ölçekte gerçekten özyinelemeli, kendini geliştiren süper zeka" inşa etmek. Socher, TechCrunch'a hedefin "araştırma fikirlerinin tüm sürecini - fikir üretme, uygulama ve doğrulama - otomatikleştirmek" olduğunu söyledi. Yani kısaca, kendi ödevini bulup yapan ve kendini notlandıran bir yapay zeka. Yanlış gidebilecek ne var ki?

Socher yalnız değil. Tesla ve OpenAI mezunu, şimdi Anthropic'te olan Alex Karpathy, basit görevlerde LLM'leri eğitmek için ajan sürüleri kullanan Auto-Research adlı bir proje üzerinde çalışıyor. Şimdiye kadar çalışmaları, GPT-2 ölçeğindeki bir modelde küçük iyileştirmelerle sınırlı kaldı - Karpathy'nin de belirttiği gibi, "henüz yeni, çığır açan 'araştırma' değil." Ama hayali canlı tutmaya yetiyor.

Cohere ve Google mezunu Sara Hooker tarafından kurulan Adaption, yakın zamanda sınır eğitimini otomatikleştirmeyi amaçlayan AutoScientist adlı bir araç başlattı. Karpathy'nin sistemi gibi, ajanları kademeli iyileştirmeler yapmak için eğitiyor - ancak tam ölçekli bir sınır modeli eğitme büyük hedefiyle. Bu işe yararsa, sistem hızla çok RSI benzeri bir şeye dönüşebilir.

Disarray kurucusu Doris Xin daha pratik bir yol izledi: kendi kendini eğiten makine öğrenimi ajanı, son Kaggle yarışmasında 28 madalya kazanarak birçok insan eğitimli ajanı yendi. Xin, sonsuz hesaplama ve zamanla "zaten orada olduğumuzu" savunuyor. Bunun yaratıcılıkla ilgili olmadığında, sadece "sıradan mühendislik" olduğunda ısrar ediyor.

Ancak sektörün abartıldığı kadar yakın olmadığına dair kanıtlar var. Google CEO'su Sundar Pichai yakın zamanda "Henüz orada değiliz" diyerek RSI'yi "birçok etkisi olan bir sonraki hızlanma seviyesi" olarak tanımladı. Bu arada, Anthropic'in Claude Code aracının, kendi ekibinin kodunun neredeyse %100'ünü yazdığı bildiriliyor. Yakın tarihli bir anket, 18 Anthropic mühendisinden beşinin Mythos'un yakında bir L4 mühendisinin - orta seviye bir programcı - yerini alabileceğine inandığını ortaya koydu. Ancak rapor, kendi kendini yönlendirmede zayıflıklar kaydetti: "kendi kendine haftalık belirsiz görevleri yönetme, organizasyon önceliklerini anlama, zevk, doğrulama, talimat takibi ve epistemikler." Başka bir deyişle, RSI'yi gerçekten çalıştıran her şey.

Georgetown'un Güvenlik ve Gelişen Teknoloji Merkezi geçen yıl uzmanları bir araya getirdi ve büyük bir bölünme buldu: bazıları yakın bir "süper zeka" patlaması beklerken, diğerleri daha yavaş ilerleme ve bir plato öngördü. CSET direktörü ve eski OpenAI yönetim kurulu üyesi Helen Toner, araştırma için yapay zeka araçlarını kullanmanın RSI olarak nitelendirilmediğini açıkladı. "Yapabildikleri kadar yapay zekayı kullanıyorlar," dedi. "RSI gerçekten insana ihtiyaç olmamasıdır."

METR'den Ayeja Cotra kilometre taşlarını sıraladı: "yeterlilik" (yapay zeka insan olmadan araştırma yapabilir, kötü de olsa), "eşitlik" (yapay zeka insanlarla eşleşir) ve "üstünlük" (yapay zeka insan-yapay zeka işbirliğinden daha iyi performans gösterir). Yeterliliğin birkaç yıl içinde gelebileceğini düşünüyor, ancak eşitlik daha bulanık. Eşitlik sağlandığında, bir yıl içinde üstünlüğün geleceğini tahmin ediyor.

Toner tarihsel bir paralellik çiziyor: "Makine dillerinden assembly diline ve derlenmiş dillere geçtik; bilgisayarın içinden uzaklaşıyorsunuz. Ama insan hâlâ, sezgisel bir anlamda, ipleri elinde tutuyor." Bu paradigmanın ötesine geçmek, çözülmesi gereken temel bir sorunu çözmeyi gerektiriyor.