지난달 말, 오픈AI는 거창한 임무를 시작했다: 전능한 기계의 시대에 개인의 정치적 자유를 수호하겠다는 것이다. 이 회사의 '전략적 미래' 팀은 어떤 의미에서 미국 건국의 아버지들의 임무를 계승한다고 자처하고 있다. 팀의 리더인 딘 볼은 새 오픈AI 블로그 게시물에서 "우리는 미국 헌법이라는 소박한 양피지에 새겨진 표현의 자유와 개인의 자유라는 이상을 위해 일한다"고 썼다. (게시물은 제임스 매디슨의 『연방주의자 논고』 인용으로 시작된다.)

볼은 고급 AI가 그것을 통제하는 자의 손에 권력을 급격히 집중시킬 수 있고, 인간의 권한을 약화시키는 방식으로 노동을 대체할 수 있다고 우려한다. 극단적인 시나리오에서, 전쟁을 치를 로봇과 관료제를 운영할 전지전능한 소프트웨어가 있다면 정부는 시민의 말을 들을 필요가 없을 것이다. 볼은 이러한 운명을 피하기 위해 어떤 새로운 정치 제도가 필요한지 연구하는 데 관심이 있다.

많은 미국인들 - 과반수가 AI 산업에 대한 불신, 데이터 센터에 대한 분노, 직업 안정성에 대한 두려움을 표출하고 있다 - 은 이미 이러한 권한 상실을 깊이 느끼고 있는 것 같다. 그리고 AI 붐은 이미 소수의 기술 기업, 특히 오픈AI 자체에 엄청난 부를 창출했다. 세계에서 가장 영향력 있는 산업의 가장 영향력 있는 기업 중 하나가 AI로 인한 권력 집중을 비난하는 것은 가히 역설적이다. 그래서 나는 그가 일하는 산업에 대한 그의 불안과 미국이 AI에 적응하는 방식을 어떻게 보고 싶은지 이해하기 위해 볼에게 연락했다.

AI 정책을 연구하는 볼은 업계에서 약간의 유명인사다. 작년에 그는 백악관에 AI 고문으로 합류해 트럼프 행정부의 AI 행동 계획(AI Action Plan) 작성을 도왔다. 그는 결국 행정부에서 좋은 관계로 보이는 상태로 떠났지만, 올해 초 Anthropic과의 분쟁 중에 공개적으로 행정부를 비난했다. 그 후 7월에 오픈AI에 합류했다. 볼은 나에게 "우리는 기본적으로 지금 세상에 변혁적 AI를 가지고 있다고 본다"고 말했다. "당신은 변혁이 일어나고 있는 세상에 살고 있다. 그것은 일어나고 있다."

이 대화는 길이와 명확성을 위해 편집되었다.

마테오 웡: 당신은 AI를 통한 권력 집중이 미국 헌법에 명시된 기본적 인간의 자유를 전복시킬 수 있다고 썼다. 어떻게 그럴 수 있는지 설명해 줄 수 있나?

딘 볼: 근본적으로 정치 권력은 합법적 힘과 폭력에 대한 독점을 행사할 수 있는 지리적으로 한정된 능력이다. 지금까지 그러기 위해서는 많은 인간의 협력이 필요했다. 군대가 필요했고, 그 군대에 사람이 필요했으며, 군대에 식량과 보급품을 유지할 사람들이 필요했다. 그리고 세금을 통해 그 모든 비용을 지불할 사람들이 필요했다. 그래서 사람들은 어떤 의미에서 모든 것이 그들에 의해 제공되기 때문에 협상 테이블에 자리를 가졌다.

이제 로봇 공학이 일반 디지털 지능과 같은 방식으로 곧 발전할 것이라고 가정해야 한다. 아마도 내가 생각하는 것보다 더 오래 걸릴 수도 있다. 그러나 그 시점에서 폭력을 투사하는 능력은 더 이상 사람을 필요로 하지 않는다. 또한 AI가 정부가 사람들에게 세금을 의존하지 않아도 될 만큼 충분한 수익을 창출할 수도 있다.

AI 정치를 보면, 나는 미국인들이 똑똑하고 그들의 협상 테이블 자리가 줄어들고 있다는 것을 감지한다고 생각한다. 그들이 두려워하는 것은 당연하다.

웡: 당신은 정부의 권력 집중에 대해 말하고 있지만, 생성 AI는 민간 부문에서 개발된 기술이다. 산업에서 드물고 전례 없는 권력 집중이 발생할 가능성이 있다. 그 위험은 무엇인가?

볼: 당신은 모든 권력 집중을 피하려는 것이 아니라 균형을 잡으려는 것이다. 만약 이 시대가 엄청난 권력을 가진 기업을 탄생시킨다면, 나는 그것이 좋다고 생각한다 - 그 조직들이 통치되는 한. 다시 말해, 그것들을 감독하는 정부가 있는 한.