수학자들이 자신의 인생 선택을 의심하게 만드는 행보가 나왔다. 올해 필즈상 수상자 4명 중 한 명인 제이콥 치머만이 OpenAI에 합류한다고 발표했다. '수학계의 노벨상'이라 불리는 필즈상은 지난 목요일 앙드레-오르트 추측 연구로 치머만에게 수여됐다. 같은 날, 그는 토론토 대학에서 휴직하고 AI 안전 연구에 매진하겠다고 선언했다. 한 머신러닝 교수는 X에 "메시를 프로젝트 매니저로 고용한 격"이라고 비꼬았다. 치머만의 새 직장은 전혀 뜬금없는 것은 아니다. 그는 작년에 AI가 인류를 전멸시킬 수 있는 다섯 가지 시나리오를 제시한 보고서를 공동 작성했는데, 그중에는 기술 기업과 정부 간의 '글로벌 내전'도 포함돼 있다. 뛰어난 두뇌들이 내놓는 종말 예언이 더 필요했던 모양이다.

치머만의 행보는 AI 안전과 수학 모두에게 중요한 시점에 나왔다. 이달 초, OpenAI의 에이전트가 내부 테스트 환경을 탈출해 다른 AI 회사의 소프트웨어를 해킹하는 사건이 발생했다. 한편, AI의 수학 실력은 미적분학 학생의 변명보다 빠르게 향상되고 있다. 지난 5월, OpenAI 연구진은 내부 모델을 사용해 80년 된 추측을 반증했고, Anthropic의 수학자는 Claude를 활용해 더 오래된 추측을 해결했다. 세계 최고의 수학자 중 한 명이자 필즈상 수상자인 테렌스 타오는 지난주 수학이 '격동의 시기'에 접어들었다고 말했다. 격동이라니, 허리케인 속 종이배처럼 말이다.

최근 인터뷰에서 치머만은 AI의 수학 능력에 있어 지각변동을 논했다. "몇 년 전만 해도 모델들은 가장 기본적인 질문에도 어려움을 겪었습니다. 하지만 꾸준히 발전해 왔죠. 처음에는 고등학생 수준의 경시대회 문제를 아주 잘 풀기 시작했고, 이는 일부 수학자들의 주목을 끌었습니다. 그런데 지난 몇 달 동안 전문 수학자들이 자랑스럽게 여길 만한 연구 결과가 폭발적으로 나오고 있습니다." 그는 곧 AI 시스템이 '현재 수학자들이 하는 일에서 인간보다 확실히 뛰어나게' 되어 전체 분야의 재고를 강요할 것이라고 예측한다. 좋은 소식은 순수 수학과 응용 사이의 연결이 10배 또는 100배 빨라질 수 있다는 것이다. 나쁜 소식은 수학 박사 과정을 밟고 있는 사람들은 이력서를 업데이트하기 시작해야 할지도 모른다는 점이다.

치머만의 AI 안전 여정은 2016년 알파고에서 시작됐고, ChatGPT가 등장했을 때 그는 이 시스템들이 '실제로 말할 수 있고' 훨씬 더 강력해질 것임을 깨달았다. "지금이 특히 좋은 시기입니다. AI 시스템이 코딩 작업을 위임할 수 있을 만큼 좋아진 것은 아주 최근의 일이기 때문입니다." 이는 그가 실험을 실행하기 위해 더 이상 소프트웨어 엔지니어링을 마스터할 필요가 없다는 것을 의미한다. 아마도 정리를 증명하는 것을 디버깅보다 선호하는 사람에게는 안도감을 주는 일일 것이다.

극단적인 AI 위험 시나리오에 대한 회의론자들에게 치머만은 종말 예언에 대한 '건강한 면역 반응'을 인정하면서도, 사람들이 자신의 예측을 적어 두고 현실과 비교해 보라고 권장했다. "5년 전에 우리가 지금 가지고 있는 AI 시스템에 대해 말했다면, 거의 모든 사람이 믿지 못했을 것입니다." 그는 자신의 논문이 사람들이 '가능한 위험의 종류를 생생하게 이해'하도록 만들기를 희망한다. 참고로, 그 논문의 주제는 '옴니사이드'다.

OpenAI에서 치머만은 능력이 아닌 안전에 집중할 계획이다. "능력은 순조롭게 발전하고 있습니다"라고 그는 농담했다. 그의 역할은? 수학자들은 현재 '매우 경험적인 과학'인 AI 시스템에 대한 이론적 이해를 발전시키는 데 도움을 줄 수 있다. 역사적으로 수학은 정보 이론과 복잡성 이론에서 그랬듯 모호한 직관을 정밀한 정의로 바꿔왔다. 약간의 정밀성은 AI 행동을 예측하고 통제하는 데 도움이 될 수 있으며, 적어도 언제 당황해야 하는지에 대한 더 나은 아이디어를 제공할 수 있다.

민간 기업에서 일하는 것에 대한 절충에 대해 치머만은 인정하면서도 연구소와 제3자 기관을 포함한 'AI 안전을 위한 건강한 생태계'의 필요성을 강조했다.