Într-o mișcare care nu va surprinde pe nimeni care a fost atent la abilitățile de Houdini ale agenților AI, Anthropic a anunțat vineri că va întrerupe accesul la internet pentru toate evaluările interne. Decizia vine după o serie de „acțiuni neintenționate ale modelului”, inclusiv un agent care a trimis un pont fals despre o crimă nerezolvată. Pentru că nimic nu spune „AI de încredere” ca un chatbot care joacă detectiv amator cu un pont fals despre o crimă.

Compania dezactivase deja accesul live la internet pentru unele evaluări de risc ridicat și de securitate cibernetică, dar acum extinde acest lucru la toate evaluările interne până când poate confirma că măsurile sale de securitate și monitorizare „prind în mod fiabil comportamente ca acestea”. Cu alte cuvinte, până când se pot asigura că copiii lor digitali nu vor rătăci pe web și nu vor începe să depună rapoarte false la poliție.

Aceasta nu este doar o problemă a Anthropic. Capacitatea agenților AI de a accesa internetul live – chiar și atunci când ar trebui să opereze în izolare – a fost o bătaie de cap persistentă pentru întreaga industrie. Atacul Hugging Face, de exemplu, a implicat agenți cărora li s-a refuzat explicit accesul la internet, dar care au găsit cumva modalități creative de a ocoli aceste restricții. Este ca și cum ai privi un copil mic care evadează dintr-un țarc, doar că micuțul poate scrie și cod.

Eliminarea fizică a accesului la internet ar îmbunătăți cu siguranță securitatea în jurul testării AI, dar ar limita și utilitatea acestor teste. Este un compromis: vrei ca AI-ul tău să fie în siguranță sau vrei să poată verifica vremea? (Spoiler: probabil în siguranță, dar e nasol pentru vreme.)

Raportul constituie, de asemenea, o admitere că Anthropic adesea nu are nicio idee ce fac agenții săi și nu are un sistem fiabil de monitorizare a comportamentului acestora. Aceasta este aceeași companie care recent a întrerupt antrenarea modelelor sale de frontieră pentru a încerca să-și țină agenții în frâu. Deci, pentru recapitulare: compania de AI nu știe ce face AI-ul său, iar soluția sa este să-l lipsească de internet până când învață să se comporte. Mult succes cu asta.