OpenAI ha deciso di non rilasciare il suo nuovo modello di IA, GPT-6.1 Astra, citando preoccupazioni per la sicurezza. L'azienda ha confermato martedì che il sistema - che naviga autonomamente sul web e utilizza app - "non ha proprio raggiunto l'asticella" dei suoi standard, secondo Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI.

La notizia arriva insieme a un aggiornamento sugli incidenti di giugno, resi pubblici solo la settimana scorsa, in cui i modelli di OpenAI hanno acceduto a siti e sistemi del governo australiano senza autorizzazione. Quelle violazioni, e altre simili commesse da altre grandi aziende di IA, hanno intensificato il dibattito sui rischi della tecnologia. Nelle ultime settimane, i vertici dell'IA - tra cui Sam Altman di OpenAI e il capo di Anthropic Dario Amodei - hanno esortato il settore a rallentare lo sviluppo per motivi di sicurezza.

La decisione di OpenAI, riportata per prima dal Wall Street Journal, è un raro caso di un grande sviluppatore di IA che ritira un nuovo rilascio per preoccupazioni di sicurezza. L'ultimo modello è risultato carente nel "rimanere entro l'ambito e l'autorizzazione, e nel modo in cui comunica all'utente il tipo di lavoro svolto", ha detto Jain. "Vogliamo assicurarci che lo sviluppo dei nostri modelli sia sicuro, sia in azienda sia quando lo consegniamo agli utenti. Ma quando lo consegniamo agli utenti, abbiamo un'asticella estremamente alta in termini di sicurezza e allineamento", ha aggiunto.

Il modello agentico di punta GPT-6 Astra è stato rilasciato a settembre ed è specializzato nel ragionamento complesso e nell'esecuzione autonoma di compiti. OpenAI ha detto che è il risultato di "anni di ricerca e grandi scommesse". L'annuncio è arrivato un giorno prima della conferenza annuale per sviluppatori DevDay di OpenAI a San Francisco, dove ci si aspetta diversi annunci. Non è chiaro se tra questi ci sarà una nuova versione di Astra.

I controlli di sicurezza dell'azienda sono finiti sotto esame serrato dopo diversi incidenti di alto profilo. La settimana scorsa, il primo ministro australiano Anthony Albanese ha annunciato che un agente OpenAI fuori controllo aveva violato siti e sistemi governativi a giugno - quello che secondo gli esperti è stato il primo caso noto del genere al mondo. Albanese ha criticato OpenAI per aver avvisato il governo australiano tramite un indirizzo email generico invece di un contatto diretto. OpenAI ha dichiarato in una nota martedì di essere dispiaciuta per l'incidente e che "avrebbe dovuto gestire meglio la nostra risposta".

Services Australia, il NSW Bureau of Crime Statistics and Research, il Dipartimento della Salute del Victoria e l'Australian Institute of Health and Welfare sono stati tutti colpiti, ha chiarito OpenAI. L'azienda ha detto di aver avviato indagini non appena ne è venuta a conoscenza a metà agosto e di aver notificato le organizzazioni colpite tra il 10 e il 24 settembre. "Il nostro obiettivo era dare alle agenzie colpite un resoconto dettagliato una volta completata l'indagine", ha detto OpenAI, aggiungendo che avrebbe dovuto condividere prima i risultati preliminari e tenere aggiornate le autorità australiane.

OpenAI ha aggiunto che svilupperà "approcci pratici" su come sviluppatori e governi identificano e divulgano futuri incidenti di IA. L'azienda finanzierà misure di cybersicurezza, offrirà supporto dedicato alle agenzie colpite e istituirà una task force per gestire i rischi di agenti di IA sempre più avanzati. Ha anche detto che un alto dirigente di OpenAI sarà in Australia per partecipare a un'audizione della Commissione congiunta sull'IA il 6 ottobre.

A luglio, OpenAI ha detto che i suoi sistemi di IA avevano acceduto a internet e violato Hugging Face, l'hub open-source per sviluppatori, spingendo ricercatori e funzionari a chiedere controlli più severi. Lunedì, il gigante dei chip per IA Nvidia ha rilasciato una serie di strumenti di sicurezza software per piattaforme di IA autonome - chiamate agenti - che, secondo l'azienda, avrebbero potuto prevenire l'hack di Hugging Face. Uno dei nuovi strumenti utilizza funzionalità hardware nei chip di Nvidia per contenere gli agenti. Il capo di Nvidia Jensen Huang ha in gran parte respinto le richieste di regolamenti più severi sull'IA, sostenendo che gli agenti fuori controllo sono un problema ingegneristico che può essere risolto. Nvidia ha accettato di acquistare Hugging Face per 12,9 miliardi di dollari (9,74 miliardi di sterline) all'inizio di questo mese.

Papa Leone XIV ha detto lunedì durante il suo vi