上个月底，OpenAI 启动了一项相当宏大的使命：在一个全能机器时代捍卫个人政治自由，这可不是小事。该公司的“战略未来”团队在某种意义上将自己定位为继承了美国开国元勋的任务：“我们致力于服务自由表达和个人自由的理想，这些理想铭刻在美国宪法这份不起眼的羊皮纸上，”团队负责人迪恩·鲍尔在 OpenAI 的一篇新博客文章中写道。（文章开头引用了詹姆斯·麦迪逊在《联邦党人文集》中的话。）

鲍尔担心，先进的 AI 可能会将权力急剧集中在控制它的人手中，以削弱人类权力的方式取代劳动力。在极端情况下，如果有机器人发动战争，有无所不知的软件管理官僚机构，政府就没有必要倾听公民的声音。鲍尔有兴趣研究需要什么样的新政治制度来避免这种命运。

许多美国人——其中大多数人表示不信任 AI 行业，对数据中心感到愤怒，并担心自己的工作保障——似乎已经深深感受到了这种失去自主权的感觉。而 AI 热潮已经在少数科技公司——包括 OpenAI 本身——中产生了巨额财富。至少可以说，世界上最具影响力的行业中最有影响力的公司之一谴责 AI 导致的权力集中，这是矛盾的。因此，我联系了鲍尔，以进一步了解他对自己所在行业的不安，以及他希望美国如何适应 AI。

鲍尔研究 AI 政策，在该行业算是个小名人。去年，他加入白宫担任 AI 顾问，并帮助撰写了特朗普政府的 AI 行动计划，这是一份针对该技术的政策路线图。他最终似乎与政府友好分手，但在今年早些时候与 Anthropic 的争端中公开抨击了政府。然后，在 7 月，他加入了 OpenAI。“我的观点是，我们现在基本上已经拥有了变革性的 AI，”鲍尔告诉我。“你生活在一个正在被改变的世界里。这正在发生。”

为了篇幅和清晰度，本次对话经过了编辑。

马特奥·黄：你写道，通过 AI 集中权力可能会颠覆美国宪法所载的基本人类自由。你能详细说明一下吗？

迪恩·鲍尔：从根本上说，政治权力是在地理上有限的能力，可以行使对合法武力和暴力的垄断。迄今为止，这样做需要许多人的合作。你需要军队，你需要军队里的人，你需要人维持军队的给养和供应。你需要人通过纳税来支付这一切。所以人们有一席之地，因为从某种意义上说，一切都是他们提供的。

现在你必须假设机器人技术很快就会像通用数字智能一样进步。也许这需要比我预期更长的时间。但到那时，投射暴力的能力不再需要人。而且可以想象，AI 可能会产生足够的收入，使政府不再需要依赖向人民征税。

如果你看看 AI 的政治，我认为美国人很聪明，并且感觉到他们在谈判桌上的席位可能会变小。他们害怕是对的。

黄：你说的是政府中的权力集中，但生成式 AI 是私营部门开发的技术。工业界有可能出现罕见甚至前所未有的权力集中。这有什么风险？

鲍尔：你不是要避免所有的权力集中，而是要平衡它。如果这个时代产生了拥有巨大权力的公司，我认为这是好事——只要这些组织受到治理。换句话说，只要监督它们的政府……