150년 넘게 리만 가설은 수학계에서 '언젠가 풀어야지 하면서도 좀처럼 손대지 못하는 퍼즐'과 같은 존재였습니다. 단, 상금 100만 달러와 영원한 명예가 걸려 있다는 점이 저녁 파티에서의 자랑거리와는 다르죠. 소수의 분포에 관한 이 가설은 여전히 증명되지 않았고, 그 100만 달러는 아무도 손에 넣지 못한 채 그대로 남아 있습니다.

그런데 앤트로픽이 월요일 발표에서 미공개 AI 모델이 이 문제에 상당한 진전을 이루었다고 밝혔습니다. 구체적으로, 가설이 성립하는 해의 하한을 높였다는 것입니다. 완전한 증명은 아니지만, 로마가 하루아침에 지어지지 않았듯, 천년 묵은 수학 문제도 마찬가지겠죠.

특히 흥미로운 점은 그 방법입니다. 수학적 훈련을 제대로 받지 않은 앤트로픽 직원이 모델에게 가설 증명을 '진지하게 시도'하라고 프롬프트를 주고, 하루 반 동안 방치해 두었습니다. 그 결과, 모델은 650개의 서로 다른 아이디어를 시험하고, 60개의 하위 에이전트를 조정하며, 3100만 개의 출력 토큰을 소진했습니다. 이는 상당히 많은 양으로, 가장 말 많은 AI도 부끄러워할 정도입니다.

논문의 각주는 마치 기업 팀워크 훈련을 연상시킵니다. 60개의 하위 에이전트 중 2개가 핵심 수학 아이디어를 개발했고, 13개가 그 아이디어에 기여했으며, 30개는 새로운 아이디어를 내려다 실패했고, 13개는 검증자 역할을 했으며, 마지막 2개는 초기 논문 작성에 도움을 주었습니다. 마치 모든 사람에게 역할이 있는 수학과 같습니다. 그 역할이 단지 검산하고 문제를 일으키지 않는 것일지라도 말이죠.

앤트로픽의 사내 수학자들은 결과를 확인했고, 오픈소스 증명 보조 도구인 Lean을 사용해 공식화했습니다. 왜냐하면 형식 검증을 조금 섞어 놓는 게 나쁠 게 없으니까요. AI가 수학적 능력을 과시한 것은 이번이 처음이 아닙니다. 지난 1년 동안 AI 모델은 여러 에르되시 문제를 해결했고, OpenAI의 내부 모델 '아스트라'는 최근 10개의 주요 결과를 증명했습니다. 또한 앤트로픽은 앞서 오랫동안 유지되어 온 야코비안 추측을 반증하기도 했는데, 이는 '아, 그게 사실이라고 생각했던 것? 아니야'라고 말하는 것과 같습니다.

이 모든 진전은 수학계에서 흥분과 우려를 동시에 불러일으키고 있습니다. 지난 6월, 저명한 수학자들은 AI가 수학의 핵심 가치, 즉 증명이 특정 저자에게 귀속되어야 하고 그들이 공로와 책임을 져야 한다는 기대를 훼손할 수 있다는 우려를 담은 선언문에 서명했습니다. 왜냐하면 증명이 틀렸을 때 책임질 사람이 없다는 생각은 견디기 어렵기 때문이죠.

하지만 모두가 우려하는 것은 아닙니다. 필즈상 수상자 티머시 가워스는 선언문에 대한 블로그 게시글에서 정리가 수학자와 연결되지 않는 세상이 천문학자의 이름을 따서 별이 명명되지 않는 것보다 더 문제가 되지 않을 수도 있다고 생각했습니다. 터치, 가워스 박사님. 터치. 따라서 리만 가설은 여전히 미해결 상태이지만, AI가 언젠가 그것을 풀어낸다면 우리는 누구를 축하해야 할지 고민할 필요 없이 60개의 하위 에이전트와 3100만 개의 토큰에 감사하며 하루를 마무리할 수 있다는 위안이 있습니다.