AI業界に新たな輝く執着が生まれた。それは三文字の形でやってきた：RSI。いや、反復性過緊張障害（repetitive strain injury）ではない——とはいえ、業界の狂ったようなバズワード採用がそれを引き起こす可能性はあるが。このRSIはRecursive Self-Improvement（再帰的自己改善）の略で、スタートアップや研究者たちが、人間の邪魔な介入なしに自らをアップグレードできるAIのビジョンを追いかける最新のバズワードだ。
理論上、RSIは単純だ：自身の能力を継続的に改善し、最終的にループを閉じて人間をオプション——あるいはもっと悪く、時代遅れにするAIシステム。実際には、以前のAGIと同様、それが実際に何を意味するのか、いつ到来するのかについて誰も一致していない。しかし、それで誇大広告の列車が止まることはなかった。
今月初め、著名なAI研究者リチャード・ソーチャーは、Recursive Superintelligenceというスタートアップを立ち上げ、その主な焦点は「真に再帰的で自己改善する超知能を大規模に構築する」ことだ。ソーチャーはTechCrunchに対し、目標は「研究アイデアの着想、実装、検証の全プロセスを自動化する」ことだと語った。つまり、基本的に、自分で宿題を考え出し、それをやり、自分で採点するAI。何が悪くなる可能性があるだろうか？
ソーチャーだけではない。テスラとOpenAIの出身で現在Anthropicにいるアレックス・カーパシーは、Auto-Researchというプロジェクトに取り組んでおり、エージェント群を使ってLLMを簡単なタスクで訓練している。これまでのところ、彼の研究はGPT-2スケールモデルの小さな改善に限られている——カーパシー自身が指摘したように、「まだ斬新で画期的な『研究』ではない」が。しかし、夢を生き続けるには十分だ。
CohereとGoogleの出身であるサラ・フッカーが設立したAdaptionは、最近AutoScientistを立ち上げた。これはフロンティア訓練を自動化することを目的としたツールだ。カーパシーのシステムと同様、エージェントを訓練して漸進的な改善を行うが、壮大な野心としてフルスケールのフロンティアモデルを訓練することを目指している。それがうまくいけば、システムはすぐに非常にRSI的なものにスパイラルする可能性がある。
Disarrayの創業者ドリス・シンは、より実用的なルートを選んだ：彼女の自己訓練機械学習エージェントは最近のKaggleコンペティションで28個のメダルを獲得し、多くの人間訓練エージェントを打ち負かした。シンは、無限の計算能力と時間があれば、「私たちはすでにそこにいる」と主張する。彼女はそれが創造性の問題ではなく、単なる「地味なエンジニアリング」だと強調する。
しかし、業界が誇大広告が示すほど近くにいないという証拠もある。GoogleのCEOサンダー・ピチャイは最近、「まだそこまで到達していない」と認め、RSIを「多くの影響を伴う次のレベルの加速」と表現した。一方、AnthropicのClaude Codeツールは、自社チームのコードのほぼ100%を書いていると報告されている。最近の調査では、Anthropicのエンジニア18人中5人が、MythosがすぐにL4エンジニア——中級プログラマー——の代わりになると信じていた。しかし、報告書は自己方向性の弱点を指摘し、「週単位の曖昧なタスクの自己管理、組織の優先順位の理解、センス、検証、指示追従、認識論」を挙げた。言い換えれば、RSIを実際に機能させるすべてのものだ。
ジョージタウン大学の安全保障・新興技術センターは昨年専門家を集め、大きな分裂を見つけた：ある者は差し迫った「超知能」爆発を予想し、他の者はより遅い進歩と停滞を予想した。CSETのディレクターで元OpenAI取締役のヘレン・トナーは、研究にAIツールを使うことはRSIには該当しないと明確にした。「彼らは単にAIをできる限り使っているだけだ」と彼女は言う。「RSIは本当に人間が必要ないことだ。」
METRのアジェヤ・コトラはマイルストーンを提示した：「適切さ」（AIが人間なしで研究できる、たとえ下手でも）、「同等性」（AIが人間に匹敵する）、「優位性」（AIが人間とAIの協力を上回る）。彼女は適切さが数年以内に到来する可能性があると考えているが、同等性はより曖昧だ。同等性が達成されれば、彼女はさらに1年以内に優位性が来ると予測する。
トナーは歴史的な類似点を引く：「私たちは機械語からアセンブリ言語、コンパイル言語へと進んだ。コンピュータの内部から遠ざかっている。しかし、人間は直感的な意味でまだショーを運営している。」そのパラダイムを超えるには、