De AI-wereld heeft een glimmende nieuwe obsessie, en die komt in de vorm van drie letters: RSI. Nee, niet Repetitive Strain Injury – hoewel de koortsachtige buzzword-adoptie van de industrie dat ook zou kunnen veroorzaken. Deze RSI staat voor Recursieve Zelfverbetering, het nieuwste modewoord waar zowel startups als onderzoekers achteraan jagen, op zoek naar een visie van AI die zichzelf kan upgraden zonder vervelende menselijke inmenging.

In theorie is RSI eenvoudig: een AI-systeem dat continu zijn eigen capaciteiten verbetert, waardoor uiteindelijk de cirkel rond is en mensen optioneel worden – of erger, overbodig. In de praktijk, net als bij AGI ervoor, kan niemand het echt eens worden over wat het precies betekent of wanneer het zal komen. Maar dat heeft de hypetrein niet gestopt.

Eerder deze maand lanceerde de gerenommeerde AI-onderzoeker Richard Socher een startup genaamd Recursive Superintelligence, met als hoofddoel het bouwen van “echt recursieve, zelfverbeterende superintelligentie op schaal.” Socher vertelde TechCrunch dat het doel is om “het hele proces van ideevorming, implementatie en validatie van onderzoeksideeën” te automatiseren. Dus eigenlijk AI die zijn eigen huiswerk kan bedenken, maken en beoordelen. Wat kan er misgaan?

Socher staat niet alleen. Alex Karpathy, een Tesla- en OpenAI-alumnus nu bij Anthropic, werkt aan een project genaamd Auto-Research, waarbij hij agentzwermen gebruikt om LLM's te trainen op eenvoudige taken. Tot nu toe beperkt zijn werk zich tot kleine verbeteringen aan een GPT-2-schaalmodel – wat, zoals Karpathy zelf opmerkte, “nog geen nieuw, baanbrekend ‘onderzoek’” is. Maar het is genoeg om de droom levend te houden.

Adaption, opgericht door Cohere- en Google-alumnus Sara Hooker, lanceerde onlangs AutoScientist, een tool gericht op het automatiseren van frontier-training. Net als Karpathy's systeem traint het agenten om incrementele verbeteringen aan te brengen – maar met de grote ambitie om een volledig frontier-model te trainen. Als dat werkt, zou het systeem snel kunnen uitgroeien tot iets heel RSI-achtigs.

Disarray-oprichter Doris Xin koos een praktischere route: haar zelfgetrainde machine learning-agent won 28 medailles in een recente Kaggle-competitie en versloeg daarmee veel menselijk getrainde agenten. Xin stelt dat met oneindige rekenkracht en tijd “we er al zijn.” Ze benadrukt dat het niet om creativiteit gaat, maar om “degelijk engineering-werk.”

Maar er zijn aanwijzingen dat de industrie niet zo dichtbij is als de hype suggereert. Google-CEO Sundar Pichai gaf onlangs toe: “We zijn er nog niet helemaal,” en beschreef RSI als “een volgende versnelling met veel implicaties.” Ondertussen schrijft Anthropic's Claude Code-tool naar verluidt bijna 100% van de code van het eigen team. Een recente enquête wees uit dat vijf van de 18 Anthropic-ingenieurs geloofden dat Mythos binnenkort een L4-ingenieur – een mid-level programmeur – zou kunnen vervangen. Het rapport merkte echter zwaktes op in zelfsturing, waaronder “het zelfstandig managen van weeklange ambigue taken, begrijpen van organisatieprioriteiten, smaak, verificatie, instructie-opvolging en epistemica.” Met andere woorden, alles wat RSI daadwerkelijk laat werken.

Het Center for Security and Emerging Technology van Georgetown verzamelde vorig jaar experts en vond een grote splitsing: sommigen verwachtten een dreigende “superintelligentie”-explosie, anderen langzamere vooruitgang en een plateau. Helen Toner, CSET-directeur en voormalig OpenAI-bestuurslid, verduidelijkte dat het gebruik van AI-tools voor onderzoek niet kwalificeert als RSI. “Ze gebruiken AI gewoon zoveel mogelijk,” zei ze. “RSI is echt dat er geen mensen nodig zijn.”

METR's Ayeja Cotra schetste mijlpalen: “adequaatheid” (AI kan onderzoek doen zonder mensen, ook al is het slecht), “gelijkwaardigheid” (AI evenaart mensen) en “superioriteit” (AI presteert beter dan mens-AI-samenwerking). Ze denkt dat adequaatheid binnen een paar jaar kan komen, maar gelijkwaardigheid is onduidelijker. Zodra gelijkwaardigheid is bereikt, voorspelt ze superioriteit binnen nog een jaar.

Toner trekt een historische parallel: “We gingen van machinetalen naar assembleertaal en gecompileerde talen; je komt verder van de kern van de computer. Maar de mens heeft nog steeds, op een intuïtieve manier, de touwtjes in handen.” Voorbij dat paradigma gaan vereist het oplossen van