앤트로픽은 최고의 인간 감독은 아무 감독이 없는 것이라는 생각에 더욱 박차를 가하고 있다. 8월 14일부터 클로드 코드의 자동 모드가 Pro, Max, Team 계정의 기본값이 되며, 프로그래머들은 AI를 더욱 신뢰해야 할 것이다. '되돌릴 수 없거나, 파괴적이거나, 환경 외부를 겨냥한' 작업에만 멈추는 AI가 있는데, 왜 귀찮은 권한 프롬프트가 필요하겠는가? 물론 그게 많은 것을 다루지만, 화요일을 망치는 작고 되돌릴 수 있고 파괴적이지 않은 실수는 어떨까?

앤트로픽은 3월에 처음 자동 모드를 선보이며 속도와 제어의 완벽한 균형이라고 홍보했다. 이제 그들은 1,053명의 유료 테스터를 대상으로 한 테스트에서 자동 모드가 유해한 행동의 89%를 잡아낸 반면, 불쌍하고 산만한 인간은 13.6%만 잡아냈다는 연구 결과를 앞세워 대중에게 공개하고 있다. 회사는 사용자가 권한 프롬프트의 97%를 승인하기 때문에 수동 검토는 소용없다고 제안한다. 이 수치는 인간의 안일함이나 프롬프트가 터무니없이 합리적이라는 것을 말해준다.

클로드 코드 책임자 보리스 체르니는 X에 '팀과 저는 자동 모드만 사용하며 몇 달째 그렇게 해왔습니다. 권한 프롬프트로 돌아가는 것은 상상할 수 없습니다!'라고 열광적으로 말했다. 한편, 앤트로픽은 프롬프트 인젝션 검사와 데이터 유출을 방지하기 위한 맞춤형 하드 거부 규칙 같은 안전망을 조용히 추가하고 있다. AI를 보스로 만들고 '하드 거부' 버튼을 주면 무슨 문제가 생길 수 있겠는가?