先月末、OpenAIはかなり壮大な使命を立ち上げた。それは、全能の機械の時代における個人の政治的自由を守ることに他ならない。同社の「戦略的未来」チームは、ある意味でアメリカ建国の父たちの任務を引き継いだと自称している。「我々は、米国憲法という謙虚な羊皮紙に謳われた表現の自由と個人の自由という理想に奉仕するために働く」と、チームのリーダーであるディーン・ボール氏はOpenAIの新しいブログ投稿に書いている。（この投稿は、ザ・フェデラリスト・ペーパーズにおけるジェームズ・マディソンの引用で始まる。）

ボール氏は、高度なAIがそれを支配する者の手に権力を根本的に集中させ、労働を置き換えることで人間の力を奪う可能性を懸念している。極端なシナリオでは、戦争を遂行するロボットや官僚機構を運営する全知のソフトウェアがあれば、政府は市民の声に耳を傾ける必要がなくなるだろう。ボール氏は、この運命を回避するためにどのような新しい政治制度が必要になるかを研究することに関心を持っている。

多くのアメリカ人（大多数がAI産業への不信感、データセンターへの怒り、雇用の不安定さへの恐怖を表明している）は、すでにこの主体性の喪失を深く感じているようだ。そしてAIブームは、OpenAI自身を含むほんの一握りのテック企業に莫大な富をもたらしている。控えめに言っても、世界で最も強力な産業の最も影響力のある企業の一つが、AIによる権力集中を非難するのは逆説的だ。そこで私はボール氏に連絡を取り、彼が働く業界に対する不安と、米国がAIにどのように適応すべきかについての彼の考えをより深く理解しようとした。

AI政策を研究するボール氏は、業界ではちょっとした有名人だ。昨年、彼はホワイトハウスにAI顧問として加わり、トランプ政権のAI行動計画（技術に関する政策ロードマップ）の作成を支援した。彼は最終的に、政権とは良好な関係で離れたようだが、その後、今年初めにAnthropicとの紛争中に政権を公に非難した。そして7月、彼はOpenAIに入社した。「私の見解では、我々は今、世界に変革的なAIを基本的に持っている」とボール氏は私に語った。「あなたは変革されつつある世界に生きている。それは起こっているのだ。」

この会話は、長さと明確さのために編集されている。

マッテオ・ウォン：あなたは、AIによる権力の集中が、米国憲法に謳われた基本的な人権を覆す可能性があると書いています。どのようにしてそれが起こり得るのか、詳しく説明していただけますか？

ディーン・ボール：根本的に、政治権力とは、正当な力と暴力の独占を行使する地理的に限定された能力です。これまでそうするには、非常に多くの人間の協力が必要でした。軍隊が必要であり、その軍隊に人が必要であり、軍隊に食料と物資を供給する人々が必要でした。そして、課税を通じてそのすべてを支払う人々が必要でした。したがって、ある意味で全てが人々によって提供されているため、人々は交渉の席に座っていたのです。

今、ロボット工学が一般的なデジタル知能と同じようにすぐに進歩すると仮定しなければなりません。もしかしたら私が考えるより時間がかかるかもしれません。しかしその時点で、暴力を投射する能力はもはや人を必要としません。また、AIが十分な収入を生み出し、政府が人々に課税に依存する必要がなくなる可能性も考えられます。

AIの政治を見ると、アメリカ人は賢く、自分たちの交渉の席が小さくなっているかもしれないと感じていると思います。彼らが怖がるのは正しいです。

ウォン：あなたは政府における権力の集中について話していますが、生成AIは民間部門で開発された技術です。産業界における稀で前例のない権力の集中の可能性があります。それはどのようなリスクをもたらしますか？

ボール：あなたはすべての権力の集中を避けようとしているのではなく、それをバランスさせようとしているのです。もしこの時代が世界で莫大な力を持つ企業を生み出すなら、それは良いことだと思います - それらの組織が統治されている限り。言い換えれば、それらを監督する政府が存在する限り。