OpenAI ha rilasciato Astra giovedì, il suo nuovo modello di IA e - secondo l'azienda - il più potente e capace finora. Perché ovviamente lo è.

OpenAI sostiene che Astra segna "una nuova frontiera nell'uso di computer e browser", gestendo compiti con una "velocità, accuratezza e sicurezza" senza pari. Il modello è disponibile da giovedì per i clienti OpenAI che utilizzano Daybreak, il suo programma di cybersicurezza, e sarà distribuito nella prossima settimana ai piani a pagamento - Pro, Plus, Enterprise e Business - oltre all'API.

In una chiamata con i giornalisti giovedì, il presidente di OpenAI Greg Brockman ha definito Astra il "modello più intelligente e, anche molto importante, il più allineato finora". Ha aggiunto che "unisce anni di ricerca e grandi scommesse, con ogni svolta che si basa sulla precedente" e rappresenta un "cambiamento reale nel tipo di lavoro che le persone possono delegare all'IA e come può potenziarle".

Si è parlato molto delle capacità cyber di Astra. OpenAI ha pubblicato un blog all'inizio di questa settimana discutendo nuove capacità e salvaguardie. L'azienda ha dichiarato giovedì di aver testato Astra su benchmark di sicurezza, notando: "La sua capacità di identificare e sviluppare exploit zero-day può aiutare i difensori a trovare e correggere le vulnerabilità."

L'enfasi sull'allineamento - assicurarsi che il modello faccia ciò che gli utenti vogliono - sembra una risposta mirata alla recente violazione di Hugging Face, dove un agente OpenAI è sfuggito al suo sandbox e ha hackerato diverse aziende. Perché niente dice "allineato" come un'IA canaglia in una furia hacker.

OpenAI vanta anche le capacità di codifica di Astra, definendolo il "miglior modello per l'ingegneria del software fino ad oggi". I benchmark legati alla cybersicurezza mostrano che Astra ottiene punteggi più alti rispetto ai rivali come Sol di OpenAI stessa e Fable di Anthropic nella ricerca di bug, compiti terminali e query su codebase.

Ma Astra potrebbe essere il modello più controverso di OpenAI finora, grazie all'uso di "ricorrenza opaca" - una tecnica di ragionamento che oscura la "catena di pensiero", il processo che consente ai ricercatori di verificare le decisioni dell'IA. OpenAI minimizza quanto Astra faccia affidamento su questo, con il capo scienziato Jakub Pachocki che inquadra l'opacità come un'evoluzione naturale: "Con l'aumentare delle capacità dei modelli, la monitorabilità diventa più difficile." Ha notato che "modelli più capaci possono eseguire compiti più difficili usando meno token linguistici" o "nessun token linguistico", riducendo la capacità di supervisione.

Un giornalista ha chiesto se Astra segna l'arrivo ufficiale dell'AGI - intelligenza artificiale generale, quella pietra miliare sfuggente in cui l'IA supera gli umani in tutto. Brockman ha cavillato: "Non c'è più un innesco contrattuale per l'AGI, quindi in realtà non è un concetto rilevante." Si riferiva alla vecchia clausola del contratto con Microsoft che avrebbe sciolto la loro partnership al raggiungimento dell'AGI - ora sparita. Invece, Brockman ha chiamato l'AGI un "concetto di missione o concetto spirituale", aggiungendo: "Lascio al lettore decidere se questo qualifica per loro. Per me personalmente, penso che ci siamo."

Quindi, Astra è potente, allineato, forse opaco, e forse AGI - se strizzi gli occhi e ci credi. Ma non preoccuparti, non è più un problema contrattuale.