AI-världen har en ny glänsande besatthet, och den kommer i form av tre bokstäver: RSI. Nej, inte repetitive strain injury – även om branschens frenetiska buzzword-adoption kan orsaka det också. Denna RSI står för Recursive Self-Improvement, det senaste modeordet som får startups och forskare att jaga en vision av AI som kan uppgradera sig själv utan besvärlig mänsklig inblandning.

I teorin är RSI enkelt: ett AI-system som kontinuerligt förbättrar sina egna förmågor, och så småningom sluter loopen så att människor blir valfria – eller värre, föråldrade. I praktiken, precis som med AGI tidigare, kan ingen riktigt enas om vad det faktiskt betyder eller när det kan komma. Men det har inte stoppat hype-tåget.

Tidigare denna månad lanserade den välkände AI-forskaren Richard Socher en startup som heter Recursive Superintelligence, vars huvudfokus är att bygga ”verkligt rekursiv, självförbättrande superintelligens i stor skala.” Socher berättade för TechCrunch att målet är att automatisera ”hela processen för idé, implementering och validering av forskningsidéer.” Så i princip AI som kan komma på sina egna läxor, göra dem och betygsätta sig själv. Vad kan möjligen gå fel?

Socher är inte ensam. Alex Karpathy, en Tesla- och OpenAI-alumn nu på Anthropic, har arbetat med ett projekt som heter Auto-Research, där man använder agentsvärmar för att träna LLM:er på enkla uppgifter. Hittills har hans arbete begränsats till mindre förbättringar på en GPT-2-skalamodell – vilket, som Karpathy själv noterade, är ”inte ny, banbrytande ’forskning’ (än).” Men det räcker för att hålla drömmen vid liv.

Adaption, grundat av Cohere- och Google-alumnen Sara Hooker, lanserade nyligen AutoScientist, ett verktyg som syftar till att automatisera frontlinjeträning. Liksom Karpathys system tränar det agenter att göra inkrementella förbättringar – men med den stora ambitionen att träna en fullskalig frontlinjemodell. Om det fungerar kan systemet snabbt spiralera in i något mycket RSI-liknande.

Disarray-grundaren Doris Xin tog en mer praktisk väg: hennes självtränade maskininlärningsagent vann 28 medaljer i en nyligen Kaggle-tävling och slog många mänskligt tränade agenter. Xin hävdar att med oändlig beräkningskraft och tid, ”är vi redan där.” Hon insisterar på att det inte handlar om kreativitet, bara ”kött-och-potatis-ingenjörskonst.”

Men det finns bevis för att branschen inte är så nära som hypen antyder. Googles vd Sundar Pichai medgav nyligen: ”Vi är inte riktigt där än,” och beskrev RSI som ”en nästa nivå av acceleration med många implikationer.” Samtidigt rapporteras Anthropics Claude Code-verktyg skriva nästan 100% av sitt eget teams kod. En nyligen genomförd undersökning visade att fem av 18 Anthropic-ingenjörer trodde att Mythos snart skulle kunna ersätta en L4-ingenjör – en medelnivåprogrammerare. Rapporten noterade dock svagheter i självstyrning, inklusive ”självhantering av veckolånga tvetydiga uppgifter, förståelse av organisationsprioriteringar, smak, verifiering, instruktionsföljning och epistemik.” Med andra ord allt som gör att RSI faktiskt fungerar.

Georgetowns Center for Security and Emerging Technology samlade experter förra året och fann en stor splittring: vissa förväntade en förestående ”superintelligens”-explosion, andra långsammare framsteg och en platå. Helen Toner, CSET-direktör och tidigare OpenAI-styrelsemedlem, förtydligade att användning av AI-verktyg för forskning inte kvalificerar som RSI. ”De använder bara AI så mycket de kan,” sa hon. ”RSI är verkligen att inga människor behövs.”

METR:s Ayeja Cotra lade fram milstolpar: ”tillräcklighet” (AI kan forska utan människor, även om det är dåligt), ”paritet” (AI matchar människor) och ”överlägsenhet” (AI överträffar mänsklig-AI-samarbete). Hon tror att tillräcklighet kan komma inom ett par år, men paritet är mer oklart. När paritet väl uppnåtts förutspår hon överlägsenhet inom ytterligare ett år.

Toner drar en historisk parallell: ”Vi gick från maskinspråk till assemblerspråk och kompilerade språk; man kommer längre från datorns innanmäte. Men människan är fortfarande, på något intuitivt sätt, den som styr showen.” Att gå bortom det paradigmet kräver att man löser