Anthropicは、最高の人間による監視は監視しないことだという考えを強めている。8月14日から、Claude CodeのオートモードがPro、Max、Teamアカウントのデフォルトとなり、プログラマーはAIをもっと信頼しなければならなくなる。なぜなら、「不可逆的、破壊的、または環境外を対象とした」アクションのためだけに停止するAIがあれば、面倒な許可プロンプトなんて必要ないからだ。確かにそれは多くのことをカバーしているが、小さくて可逆的で破壊的ではない、それでも火曜日を台無しにするようなミスはどうだろう？

Anthropicは3月にオートモードを初めて予告し、スピードとコントロールの完璧なバランスだと宣伝していた。今、彼らはそれを大衆に解き放ち、1,053人の有償テスターによるテストでオートモードが有害なアクションの89%を検出したのに対し、不注意な人間はわずか13.6%しか検出できなかったという研究結果を盾にしている。同社は、手動レビューは無駄な試みだと示唆している。なぜなら、ユーザーは許可プロンプトの97%を承認するからだ。この統計は、人間の自己満足か、プロンプトが途方もなく合理的であることのどちらかを物語っている。

Claude Codeの責任者であるBoris Cherny氏は、Xで「チームと私は数ヶ月間、オートモードのみを使用しています。許可プロンプトに戻るなんて考えられません！」と宣言し、全面的に賛成している。一方、Anthropicは、プロンプトインジェクションのスクリーニングやデータ流出を防ぐためのカスタマイズ可能なハード拒否ルールなどの安全策を静かに追加している。AIをボスにして「ハード拒否」ボタンを与えたら、何が悪くなるというのだろうか？