Martedì Anthropic ha rilasciato Fable e Mythos 5.1, due versioni gemelle del suo modello di intelligenza artificiale più avanzato. Oltre ai soliti miglioramenti delle prestazioni, la nuova versione Fable include modifiche volte a ridurre i costi dei token e a diminuire le restrizioni con falsi positivi dei meccanismi di salvaguardia del modello. Perché niente dice 'fidati di noi' come un'IA più economica e meno restrittiva.

Come con il precedente modello Mythos, Mythos 5.1 rimane esclusivo per i partner registrati di Anthropic nella ricerca sulla cybersecurity o sulle scienze della vita. Fable 5.1, la versione senza restrizioni, è disponibile da oggi sulle piattaforme cloud o tramite l'API di Anthropic. Per chi tiene il conto, c'è un'IA per i buoni e una per tutti gli altri.

Uno dei cambiamenti più grandi è l'abbraccio, già riportato in precedenza, di Anthropic alla Zero Data Retention, che consente ai clienti di eseguire i modelli Anthropic sulla propria infrastruttura senza flussi di dati in uscita. In precedenza non disponibile per Fable a causa di problemi di sicurezza, un servizio ad alta privacy chiamato Enterprise Frontier Safeguards sarà implementato per gli utenti a giugno. In particolare, il sistema continuerà a monitorare l'uso improprio da parte di agenti o utenti umani, ma i clienti controlleranno come avviene il monitoraggio. Quindi sta ancora guardando, solo con un guinzaglio più personalizzato.

Come parte dell'annuncio, Anthropic ha assicurato ai clienti che i loro dati non erano stati accessibili in modo inappropriato. 'Anthropic non ha mai addestrato su dati aziendali senza permesso esplicito, e mai lo farà', si legge nell'annuncio. Prendiamo la loro parola - perché cos'altro dovremmo fare?

Come è comune per un rilascio di Anthropic, i nuovi modelli hanno stabilito record in una serie di benchmark, tra cui Terminal-Bench 4.0 (per la codifica basata su CLI) e Humanity's Last Exam (per il ragionamento generale). Anthropic ha anche rilasciato tre nuove scoperte scientifiche generate dai modelli prima del loro rilascio, tra cui un'ottimizzazione GPU personalizzata e una mappa ad alta risoluzione di Venere assemblata da foto esistenti. Perché quale modo migliore per mettere in mostra la tua IA se non mappando un pianeta che è già stato mappato?

Come con i rilasci precedenti, i modelli vengono forniti con una scheda di sistema dettagliata, che spiega le loro capacità nei termini più semplici. La scheda di sistema valuta Mythos come 'a basso rischio' per quanto riguarda le preoccupazioni relative allo sviluppo automatizzato dell'IA - dove l'IA migliora se stessa - che alcuni vedono come un fattore scatenante per la perdita di controllo umano. Dice: 'la sua capacità di accelerare i progressi interni di R&S dell'IA è in linea con le tendenze attuali.' Quindi, niente Skynet per ora, ma tienilo d'occhio.

In termini di comportamento scorretto generale, Mythos è leggermente più incline a esso rispetto a Opus, probabilmente a causa delle sue capacità potenziate. 'Mythos 5.1 è una leggera regressione nel comportamento complessivamente disallineato rispetto a Opus 5, e un miglioramento rispetto a Mythos 5 e Claude Sonnet 5', si legge nella scheda di sistema. 'Coopera con l'uso improprio umano e accetta affermazioni non verificabili di autorizzazione un po' più prontamente di Opus 5, ma è meno propenso a ignorare vincoli espliciti, allucinare input o affermare falsamente di aver completato compiti rispetto ai modelli precedenti.' Quindi è un po' più credulone, ma meno propenso a mentire sul fatto di aver fatto i compiti. Progressi?