Anthropic正在加倍押注一个想法:最好的人类监督就是没有监督。从8月14日起,Claude Code的自动模式将成为Pro、Max和Team账户的默认设置,这意味着程序员将不得不更加信任AI。因为当你有一个AI只在“不可逆、破坏性或针对你环境之外”的行动时才会停下来时,谁还需要那些烦人的权限提示呢?当然,这涵盖了很多情况,但那些微小的、可逆的、非破坏性的错误呢?它们仍然会毁掉你的星期二。

Anthropic在3月份首次预告了自动模式,称其为速度与控制的完美平衡。现在,他们将其推向大众,并附上一项研究,显示自动模式在1053名付费测试者的测试中捕获了89%的有害行为,而可怜的、分心的人类只捕获了13.6%。该公司暗示,人工审查是徒劳的,因为用户无论如何都会批准97%的权限提示——这个统计数据要么说明了人类的自满,要么说明了提示是荒谬地合理。

Claude Code负责人Boris Cherny全力支持,在X上宣称:“我和团队只使用自动模式,已经好几个月了。我无法想象回到权限提示!”与此同时,Anthropic一直在悄悄添加安全网,如提示注入筛查和可自定义的硬拒绝规则,以防止数据泄露。因为当你让AI成为老板并给它一个“硬拒绝”按钮时,还能出什么差错呢?