Il mondo dell'AI ha una nuova ossessione luccicante, e si presenta sotto forma di tre lettere: RSI. No, non la lesione da sforzo ripetitivo - anche se la frenetica adozione di parole d'ordine dell'industria potrebbe causare anche quella. Questa RSI sta per Recursive Self-Improvement, l'ultima parola d'ordine che fa sì che startup e ricercatori inseguano una visione di AI che possa aggiornarsi senza la fastidiosa interferenza umana.
In teoria, la RSI è semplice: un sistema di AI che migliora continuamente le proprie capacità, chiudendo infine il ciclo in modo che gli umani diventino opzionali - o peggio, obsoleti. In pratica, come per l'AGI prima di essa, nessuno riesce a mettersi d'accordo su cosa significhi realmente o quando potrebbe arrivare. Ma questo non ha fermato il treno dell'hype.
All'inizio del mese, il rinomato ricercatore di AI Richard Socher ha lanciato una startup chiamata Recursive Superintelligence, il cui obiettivo principale è costruire "superintelligenza veramente ricorsiva e auto-migliorante su larga scala". Socher ha detto a TechCrunch che l'obiettivo è automatizzare "l'intero processo di ideazione, implementazione e validazione delle idee di ricerca". Quindi, in pratica, un'AI che può inventarsi i propri compiti, farli e valutarsi da sola. Cosa potrebbe mai andare storto?
Socher non è solo. Alex Karpathy, ex Tesla e OpenAI ora ad Anthropic, ha lavorato a un progetto chiamato Auto-Research, usando sciami di agenti per addestrare LLM su compiti semplici. Finora, il suo lavoro si è limitato a miglioramenti minori su un modello di scala GPT-2 - che, come ha notato lo stesso Karpathy, "non è ricerca nuova, rivoluzionaria (ancora)". Ma è abbastanza per mantenere vivo il sogno.
Adaption, fondata da Sara Hooker, ex Cohere e Google, ha recentemente lanciato AutoScientist, uno strumento volto ad automatizzare l'addestramento di frontiera. Come il sistema di Karpathy, addestra agenti a fare miglioramenti incrementali - ma con la grande ambizione di addestrare un modello di frontiera su larga scala. Se funziona, il sistema potrebbe rapidamente degenerare in qualcosa di molto simile alla RSI.
Doris Xin, fondatrice di Disarray, ha preso una strada più pratica: il suo agente di machine learning auto-addestrato ha vinto 28 medaglie in una recente competizione Kaggle, battendo molti agenti addestrati da umani. Xin sostiene che con calcolo e tempo infiniti, "ci siamo già". Insiste che non si tratta di creatività, ma solo di "ingegneria semplice e sostanziosa".
Ma ci sono prove che l'industria non è così vicina come l'hype suggerisce. Il CEO di Google Sundar Pichai ha recentemente ammesso: "Non ci siamo ancora", descrivendo la RSI come "un prossimo livello di accelerazione con molte implicazioni". Nel frattempo, lo strumento Claude Code di Anthropic sta apparentemente scrivendo quasi il 100% del codice del proprio team. Un recente sondaggio ha rilevato che cinque su diciotto ingegneri di Anthropic credevano che Mythos potesse presto sostituire un ingegnere L4 - un programmatore di medio livello. Tuttavia, il rapporto ha notato debolezze nell'autodirezione, tra cui "gestione autonoma di compiti ambigui di una settimana, comprensione delle priorità organizzative, gusto, verifica, seguimento delle istruzioni ed epistemica". In altre parole, tutto ciò che fa funzionare realmente la RSI.
Il Center for Security and Emerging Technology di Georgetown ha riunito esperti l'anno scorso e ha trovato una grande divisione: alcuni si aspettavano un'imminente esplosione di "superintelligenza", altri un progresso più lento e un plateau. Helen Toner, direttrice del CSET ed ex membro del consiglio di OpenAI, ha chiarito che l'uso di strumenti AI per la ricerca non qualifica come RSI. "Stanno solo usando l'AI per quanto possibile", ha detto. "La RSI è davvero che non sono necessari umani".
Ayeja Cotra di METR ha delineato traguardi: "adeguatezza" (l'AI può fare ricerca senza umani, anche se male), "parità" (l'AI eguaglia gli umani) e "supremazia" (l'AI supera la collaborazione umano-AI). Pensa che l'adeguatezza potrebbe arrivare entro un paio d'anni, ma la parità è più nebulosa. Una volta raggiunta la parità, prevede la supremazia entro un altro anno.
Toner traccia un parallelo storico: "Siamo passati dai linguaggi macchina al linguaggio assembly e ai linguaggi compilati; ti stai allontanando dalle viscere del computer. Ma l'umano è ancora, in un certo senso intuitivo, a comandare lo spettacolo". Andare oltre quel paradigma richiede di risolvere