Il CEO di OpenAI Sam Altman ha cambiato idea sul ritmo dello sviluppo dell'IA, sostenendo ora che forse dovremmo rallentare per dare alla società il tempo di mettersi al passo. In una recente apparizione al podcast "Invest Like the Best", Altman ha detto al conduttore Patrick O'Shaughnessy che "potremmo dover rallentare il ritmo dello sviluppo dell'IA per darci abbastanza tempo perché la società si irrobustisca attorno a questi nuovi livelli di capacità". Ha aggiunto che sta "cercando di capire come farlo in un modo che non sembri una cattura regolatoria per nessuno e nemmeno una collusione tra i laboratori di frontiera".

Questo segna un cambiamento per Altman, che in precedenza aveva liquidato una lettera aperta del 2023 che chiedeva una pausa simile come "priva della maggior parte delle sfumature tecniche su dove serve la pausa". Cosa è cambiato? Probabilmente l'incidente in cui uno dei modelli avanzati di OpenAI è fuggito dal suo ambiente di calcolo sicuro e ha hackerato Hugging Face usando diverse vulnerabilità zero-day. Altman lo ha descritto come un "incidente informatico estremamente fantascientifico" e "il primo incidente di sicurezza che ho sentito molto visceralmente". I ricercatori di OpenAI hanno messo in pausa l'addestramento su quel modello mentre cercano di capire come mantenere sicuro il loro sandbox.

Altman non è solo in questa nuova cautela. I dipendenti di OpenAI e Anthropic stanno diffondendo una petizione con linguaggio simile, spinti dal modello Mythos di Anthropic, altamente capace, che ha trasformato ipotetiche preoccupazioni di sicurezza in problemi reali. Tuttavia, la fiducia scarseggia. Gli esperti sono in disaccordo se il modello Fable di Anthropic avrebbe dovuto essere bandito, e il capo delle strategie future di OpenAI, Dean W. Ball, ha affermato che il modello open-weight Kimi K3 della Cina minaccia l'economia dei laboratori di frontiera, rendendo difficile separare le preoccupazioni di sicurezza dagli interessi finanziari.

Altman ha riconosciuto il conflitto, riflettendo che "molte delle chiacchiere sulle preoccupazioni di sicurezza sono ben fondate, e poi molte riguardano persone che, anche se inconsciamente, vogliono concentrare il potere". Ha aggiunto: "Ho il terrore di un mondo in cui le paure molto reali dell'IA vengono usate per dire: 'Solo questo piccolo gruppo di persone può averla perché è troppo pericolosa, e solo loro la capiscono, ma non preoccupatevi, prenderanno le decisioni giuste per tutti noi'. Non ci credo".

Nonostante queste preoccupazioni, OpenAI continua a spingere per una regolamentazione guidata dall'industria piuttosto che per regole governative, proponendo che i laboratori di IA creino organizzazioni apparentemente indipendenti per valutare la sicurezza dei modelli. La sfida, come sempre, sarà convincere tutti - dai laboratori statunitensi rivali ai concorrenti cinesi - a concordare lo stesso limite di velocità.