AI 세계에 반짝이는 새로운 집착이 생겼다. 그 형태는 세 글자: RSI. 아니, 반복성 긴장 손상이 아니다. 업계의 광적인 유행어 채택이 그걸 유발할 수도 있겠지만. 이 RSI는 재귀적 자기 개선(Recursive Self-Improvement)을 의미하며, 스타트업과 연구자들이 인간의 성가신 간섭 없이 스스로 업그레이드할 수 있는 AI 비전을 쫓게 만드는 최신 유행어다.

이론적으로 RSI는 간단하다: AI 시스템이 지속적으로 자신의 능력을 개선하여 결국 인간이 선택 사항이 되거나, 더 나쁘게는 쓸모없게 되는 루프를 닫는 것이다. 실제로는, 이전의 AGI처럼, 그것이 실제로 무엇을 의미하는지 또는 언제 도래할지에 대해 아무도 합의하지 못한다. 하지만 그게 과대광고 열차를 막지는 못했다.

이달 초, 저명한 AI 연구자 리처드 소셔는 '재귀적 초지능(Recursive Superintelligence)'이라는 스타트업을 설립했으며, 주요 초점은 "진정으로 재귀적이고 자기 개선하는 초지능을 대규모로 구축"하는 것이다. 소셔는 TechCrunch에 "연구 아이디어의 구상, 구현 및 검증의 전체 프로세스를 자동화"하는 것이 목표라고 말했다. 즉, 기본적으로 자신의 숙제를 만들고, 수행하고, 스스로 채점하는 AI. 잘못될 일이 뭐가 있겠는가?

소셔만 있는 게 아니다. 현재 Anthropic에 있는 테슬라와 OpenAI 출신 알렉스 카파시는 Auto-Research라는 프로젝트를 진행 중이며, 에이전트 떼를 사용해 LLM을 간단한 작업에 훈련시키고 있다. 지금까지 그의 작업은 GPT-2 규모 모델에 대한 사소한 개선에 국한되었는데, 카파시 자신이 언급했듯이 "새롭거나 획기적인 '연구'는 아직 아니다." 하지만 꿈을 살리기에는 충분하다.

Cohere와 Google 출신 사라 후커가 설립한 Adaption은 최근 AutoScientist를 출시했는데, 이는 프론티어 훈련을 자동화하는 도구다. 카파시의 시스템과 마찬가지로 에이전트를 훈련시켜 점진적 개선을 이루지만, 전체 규모 프론티어 모델을 훈련시키는 대담한 야망을 가지고 있다. 그것이 작동한다면, 시스템은 매우 RSI 같은 것으로 빠르게 치닫을 수 있다.

Disarray의 창립자 도리스 신은 더 실용적인 경로를 택했다: 그녀의 자체 훈련된 머신러닝 에이전트는 최근 Kaggle 대회에서 28개의 메달을 획득하여 많은 인간 훈련 에이전트를 이겼다. 신은 무한한 컴퓨팅과 시간이 있다면 "우리는 이미 거기에 있다"고 주장한다. 그녀는 그것이 창의성에 관한 것이 아니라 "기본적인 엔지니어링"이라고 강조한다.

하지만 업계가 과대광고가 암시하는 만큼 가깝지 않다는 증거가 있다. 구글 CEO 순다르 피차이는 최근 "우리는 아직 거기에 도달하지 못했다"고 인정하며 RSI를 "많은 함의를 가진 다음 수준의 가속"이라고 묘사했다. 한편, Anthropic의 Claude Code 도구는 자체 팀 코드의 거의 100%를 작성하고 있다고 한다. 최근 설문조사에 따르면 18명의 Anthropic 엔지니어 중 5명이 Mythos가 곧 L4 엔지니어(중급 프로그래머)를 대체할 수 있다고 믿었다. 그러나 보고서는 자기 방향성의 약점, 즉 "일주일 동안의 모호한 작업 자체 관리, 조직 우선순위 이해, 취향, 검증, 지시 따르기, 인식론"을 지적했다. 즉, RSI가 실제로 작동하게 만드는 모든 것이다.

조지타운의 안보 및 신흥 기술 센터는 작년에 전문가들을 모았고, 주요 분열을 발견했다: 일부는 임박한 '초지능' 폭발을 예상했고, 다른 이들은 더 느린 진전과 정체를 예상했다. CSET 소장이자 전 OpenAI 이사인 헬렌 토너는 연구에 AI 도구를 사용하는 것이 RSI에 해당하지 않는다고 분명히 했다. "그들은 가능한 한 AI를 많이 사용하고 있을 뿐이다"라고 그녀는 말했다. "RSI는 정말로 인간이 필요하지 않은 것이다."

METR의 아예자 코트라는 이정표를 제시했다: '적절성'(AI가 인간 없이도 연구할 수 있음, 비록 형편없더라도), '동등성'(AI가 인간과 일치), '우월성'(AI가 인간-AI 협업보다 성능이 뛰어남). 그녀는 적절성이 2년 이내에 도래할 수 있다고 생각하지만, 동등성은 더 모호하다. 동등성이 달성되면, 그녀는 1년 이내에 우월성을 예측한다.

토너는 역사적 유사점을 그린다: "우리는 기계어에서 어셈블리 언어와 컴파일 언어로 갔다. 컴퓨터의 내부에서 더 멀어지고 있다. 그러나 인간은 여전히 직관적인 의미에서 쇼를 운영하고 있다." 그 패러다임을 넘어서려면 해결해야 할 문제가 있다.