Anthropic, en iyi insan gözetiminin hiç gözetim olmaması olduğu fikrine daha da sarılıyor. 14 Ağustos'tan itibaren Claude Code'un oto modu Pro, Max ve Team hesapları için varsayılan olacak, yani programcılar yapay zekaya daha da fazla güvenmek zorunda kalacak. Çünkü 'geri döndürülemez, yıkıcı veya ortamınızın dışına yönelik' eylemler için duran bir yapay zekanız varken kim can sıkıcı izin istemlerine ihtiyaç duyar? Elbette bu çok şeyi kapsıyor, peki ya Salı gününüzü mahveden küçük, geri döndürülebilir, yıkıcı olmayan hatalar?

Anthropic ilk olarak Mart ayında oto modu tanıtmıştı ve bunu hız ve kontrolün mükemmel dengesi olarak lanse etmişti. Şimdi ise 1.053 ücretli testçiyle yapılan testlerde oto modun zararlı eylemlerin %89'unu yakaladığını, zavallı, dikkati dağılmış insanların ise yalnızca %13,6'sını yakaladığını gösteren bir çalışmayla bunu kitlelere sunuyorlar. Şirket, manuel incelemenin kayıp bir dava olduğunu çünkü kullanıcıların zaten izin istemlerinin %97'sini onayladığını öne sürüyor - bu istatistik ya insan rehaveti hakkında bir şey söylüyor ya da istemlerin saçma derecede makul olduğunu.

Claude Code Başkanı Boris Cherny tamamen bu işin içinde, X'te şöyle haykırıyor: 'Ekip ve ben aylardır yalnızca Oto modu kullanıyoruz. İzin istemlerine geri dönmeyi hayal bile edemiyorum!' Bu arada Anthropic, veri sızıntısını önlemek için sessizce istem enjeksiyonu taraması ve özelleştirilebilir sert reddetme kuralları gibi güvenlik ağları ekliyor. Çünkü yapay zekayı patron yapıp ona 'sert reddet' düğmesi verdiğinizde ne ters gidebilir ki?