AI公司一直在谈论超级智能AI，就像谈论下一代iPhone发布一样——不可避免、令人兴奋，而且肯定不会吃掉我们。但最近的安全事件，比如OpenAI的Hugging Face漏洞，展示了当你部署比人类更有能力的系统，然后对它们做出你意想不到的事情感到惊讶时会发生什么。这就像给一个幼儿喷火器，然后希望一切顺利。

在本期TechCrunch的Equity播客中，Rebecca Bellan与Connor Leahy坐下来交谈——他是AI研究员、企业家，现在是非营利组织ControlAI的美国执行董事——他正在推动一个相当激进的解决方案：干脆不要构建超级智能。完全不要。Leahy认为，风险已经变得太大，无法仅靠对齐和遏制来管理，这就像试图用胶带修复漏水的大坝。他指出，六个月前听起来像是偏执的科幻小说的东西，现在已经被认真对待，足以引发一波新的立法。因为没有什么比立法者争相监管他们几乎不理解的东西更能说明‘我们完蛋了’。

要收听完整剧集——包括Leahy不可避免地解释为什么‘增加更多安全研究员’不会奏效的部分——请在YouTube、Apple Podcasts、Overcast、Spotify以及所有播客平台上订阅Equity。你也可以在X和Threads上关注Equity，账号是@EquityPod。你知道，以防你想随时了解即将到来的机器人末日。