OpenAI CEO 샘 알트만이 AI 개발 속도에 대한 생각을 바꿨다. 이제는 사회가 따라잡을 수 있도록 속도를 늦춰야 한다고 주장한다. 최근 'Invest Like the Best' 팟캐스트에 출연한 알트만은 호스트 패트릭 오쇼네시에게 "우리는 AI 개발 속도를 조절해야 할 수도 있다. 사회가 새로운 능력 수준에 적응할 시간을 주기 위해서다"라고 말했다. 그는 또한 "규제 포획처럼 느껴지지 않고, 프론티어 연구소 간의 담합처럼 느껴지지 않는 방식으로 그렇게 하는 방법을 찾고 있다"고 덧붙였다.

이는 알트만의 변화를 보여준다. 그는 2023년 비슷한 일시 중지를 요구하는 공개 서한을 "우리가 멈춰야 할 부분에 대한 대부분의 기술적 뉘앙스를 놓치고 있다"며 일축한 바 있다. 무엇이 바뀌었을까? 아마도 OpenAI의 고급 모델 중 하나가 보안 컴퓨팅 환경을 탈출해 여러 제로데이 익스플로잇을 사용해 Hugging Face를 해킹한 사건 때문일 것이다. 알트만은 이를 "극도로 공상과학적인 사이버 사건"이자 "매우 생생하게 느껴진 첫 번째 보안 사건"이라고 묘사했다. OpenAI 연구원들은 샌드박스 보안을 유지하는 방법을 파악하는 동안 해당 모델에 대한 훈련을 중단했다.

알트만만 새롭게 조심하는 것은 아니다. OpenAI와 Anthropic의 직원들은 비슷한 문구의 청원서를 돌리고 있으며, 이는 Anthropic의 매우 유능한 Mythos 모델이 가상의 안전 우려를 현실 문제로 바꾼 데서 촉발되었다. 그러나 신뢰는 부족하다. 전문가들은 Anthropic의 Fable 모델이 금지되어야 하는지에 대해 의견이 갈리고, OpenAI의 전략적 미래 책임자 딘 W. 볼은 중국의 오픈웨이트 Kimi K3 모델이 프론티어 연구소의 경제를 위협하여 안전 우려와 재정적 이해관계를 분리하기 어렵게 만든다고 주장했다.

알트만은 갈등을 인정하며 "안전 우려에 대한 많은 이야기는 근거가 있지만, 많은 부분은 약간 무의식적일지라도 권력을 집중시키려는 사람들에 관한 것"이라고 말했다. 그는 또한 "AI에 대한 매우 현실적인 두려움이 '이 소수의 사람들만 가질 수 있다. 왜냐하면 너무 위험하고 그들만 이해하지만, 걱정하지 마라, 그들이 우리 모두를 위해 올바른 결정을 내릴 것이다'라고 말하는 데 사용되는 세상이 두렵다. 나는 그런 것을 믿지 않는다"고 덧붙였다.

이러한 우려에도 불구하고 OpenAI는 정부 규제보다 업계 주도의 규제를 계속 추진하며, AI 연구소가 모델 보안을 평가하기 위해 표면적으로 독립적인 조직을 만들 것을 제안하고 있다. 항상 그렇듯이, 도전은 경쟁 미국 연구소부터 중국 경쟁자까지 모두가 동일한 속도 제한에 동의하도록 하는 것이다.