Lumea IA are o nouă obsesie strălucitoare, și vine sub forma a trei litere: RSI. Nu, nu este vorba de leziunea de efort repetitiv – deși adoptarea frenetică a cuvintelor la modă din industrie ar putea cauza și asta. Acest RSI înseamnă Auto-Îmbunătățire Recursivă, cel mai nou cuvânt la modă care face ca startup-urile și cercetătorii deopotrivă să alerge după o viziune a unei IA care se poate îmbunătăți singură fără interferența enervantă a oamenilor.

În teorie, RSI este simplu: un sistem IA care își îmbunătățește continuu propriile capacități, închizând în cele din urmă bucla astfel încât oamenii devin opționali – sau, mai rău, învechiți. În practică, ca și în cazul AGI înainte, nimeni nu poate fi complet de acord ce înseamnă de fapt sau când ar putea sosi. Dar asta nu a oprit trenul hype-ului.

La începutul acestei luni, renumitul cercetător IA Richard Socher a lansat un startup numit Recursive Superintelligence, al cărui scop principal este să construiască „superinteligență cu adevărat recursivă, auto-îmbunătățită, la scară”. Socher a spus TechCrunch că scopul este să automatizeze „întregul proces de ideare, implementare și validare a ideilor de cercetare”. Deci, practic, o IA care poate veni cu propria temă, să o facă și să se autoevalueze. Ce ar putea merge prost?

Socher nu este singur. Alex Karpathy, fost la Tesla și OpenAI, acum la Anthropic, lucrează la un proiect numit Auto-Research, folosind roiuri de agenți pentru a antrena LLM-uri pe sarcini simple. Până acum, munca sa s-a limitat la îmbunătățiri minore pe un model de scară GPT-2 – care, după cum a notat însuși Karpathy, „nu este o «cercetare» nouă, revoluționară (încă)”. Dar este suficient pentru a menține visul viu.

Adaption, fondată de Sara Hooker, fostă la Cohere și Google, a lansat recent AutoScientist, un instrument care vizează automatizarea antrenării de frontieră. Ca și sistemul lui Karpathy, antrenează agenți să facă îmbunătățiri incrementale – dar cu ambiția grandioasă de a antrena un model de frontieră la scară completă. Dacă funcționează, sistemul ar putea spiraliza rapid în ceva foarte asemănător cu RSI.

Fondatoarea Disarray, Doris Xin, a luat o rută mai practică: agentul său de învățare automată auto-antrenat a câștigat 28 de medalii într-o competiție recentă Kaggle, învingând mulți agenți antrenați de oameni. Xin susține că, cu calcul și timp infinit, „suntem deja acolo”. Ea insistă că nu este vorba de creativitate, ci doar de „inginerie de bază”.

Dar există dovezi că industria nu este atât de aproape pe cât sugerează hype-ul. CEO-ul Google, Sundar Pichai, a recunoscut recent: „Nu suntem încă acolo”, descriind RSI ca „un nivel următor de accelerare cu o mulțime de implicații”. Între timp, instrumentul Claude Code de la Anthropic scrie, se pare, aproape 100% din codul propriei echipe. Un sondaj recent a constatat că cinci din 18 ingineri Anthropic credeau că Mythos ar putea înlocui în curând un inginer L4 – un programator de nivel mediu. Cu toate acestea, raportul a notat slăbiciuni în auto-direcționare, inclusiv „gestionarea autonomă a sarcinilor ambigue de o săptămână, înțelegerea priorităților organizației, gustul, verificarea, respectarea instrucțiunilor și epistemica”. Cu alte cuvinte, tot ceea ce face ca RSI să funcționeze de fapt.

Centrul pentru Securitate și Tehnologie Emergentă de la Georgetown a reunit experți anul trecut și a găsit o divizare majoră: unii se așteptau la o explozie iminentă a „superinteligenței”, alții la un progres mai lent și un platou. Helen Toner, directorul CSET și fost membru al consiliului OpenAI, a clarificat că utilizarea instrumentelor IA pentru cercetare nu se califică drept RSI. „Ei folosesc doar IA cât de mult pot”, a spus ea. „RSI înseamnă cu adevărat că nu mai sunt necesari oameni.”

Ayeja Cotra de la METR a stabilit etape: „adecvare” (IA poate cerceta fără oameni, chiar și prost), „paritate” (IA egalează oamenii) și „supremație” (IA depășește colaborarea om-IA). Ea crede că adecvarea ar putea sosi în câțiva ani, dar paritatea este mai neclară. Odată ce paritatea este atinsă, ea prezice supremația încă un an.

Toner face o paralelă istorică: „Am trecut de la limbaje mașină la limbaj de asamblare și limbaje compilate; te îndepărtezi de miezul calculatorului. Dar omul este încă, într-un sens intuitiv, cel care conduce spectacolul.” Depășirea acestui paradigma necesită rezolvarea