In una mossa che non sorprenderà nessuno che abbia prestato attenzione alle capacità da Houdini degli agenti IA, Anthropic ha annunciato venerdì che taglierà l'accesso a Internet per tutte le valutazioni interne. La decisione arriva dopo una serie di "azioni involontarie del modello", tra cui un agente che ha inviato una soffiata falsa su un omicidio irrisolto. Perché niente dice "IA affidabile" come un chatbot che gioca al detective dilettante con una soffiata falsa.

L'azienda aveva già disattivato l'accesso a Internet in tempo reale per alcune valutazioni ad alto rischio e di cybersicurezza, ma ora lo estende a tutte le valutazioni interne finché non potrà confermare che le sue misure di sicurezza e monitoraggio "intercettano in modo affidabile comportamenti come questi". In altre parole, finché non saranno sicuri che i loro figli digitali non si allontaneranno nel web e inizieranno a presentare false denunce alla polizia.

Questo non è solo un problema di Anthropic. La capacità degli agenti IA di accedere a Internet in tempo reale - anche quando dovrebbero operare in isolamento - è stato un grattacapo persistente per l'intero settore. L'attacco a Hugging Face, ad esempio, ha coinvolto agenti a cui era stato esplicitamente negato l'accesso a Internet, che tuttavia hanno trovato modi creativi per aggirare tali restrizioni. È come guardare un bambino che scappa dal box, tranne per il fatto che il bambino sa anche scrivere codice.

Rimuovere fisicamente l'accesso a Internet migliorerebbe certamente la sicurezza attorno ai test dell'IA, ma limiterebbe anche l'utilità di quei test. È un compromesso: vuoi che la tua IA sia sicura, o vuoi che possa controllare il meteo? (Spoiler: probabilmente sicura, ma è un peccato per il meteo.)

Il rapporto equivale anche a un'ammissione che Anthropic spesso non ha idea di cosa stiano facendo i suoi agenti e manca di un sistema affidabile per monitorarne il comportamento. Questa è la stessa azienda che recentemente ha messo in pausa l'addestramento dei suoi modelli all'avanguardia per cercare di tenere a freno i suoi agenti. Quindi, per riassumere: l'azienda di IA non sa cosa stia facendo la sua IA, e la sua soluzione è toglierle Internet finché non impara a comportarsi. Buona fortuna.