Con un'IPO all'orizzonte, Anthropic che le respira sul collo e uno sciame di rivali cinesi e open-weight che le mordono i talloni, OpenAI ha tutte le ragioni per premere sull'acceleratore. Invece, martedì l'azienda ha annunciato che rallenterà parte dello sviluppo dell'IA per rafforzare la sicurezza. Nello specifico, metterà in pausa per due settimane l'addestramento con apprendimento per rinforzo sui suoi 'ultimi modelli destinati alla distribuzione' e ritarderà la sua 'più grande sessione di RL di frontiera pianificata'. Questo è un test molto pubblico di un'idea che i sostenitori della sicurezza spingono da anni: le aziende dovrebbero essere disposte a uscire dalla gara quando le loro salvaguardie non riescono a tenere il passo. Ma mentre la gara continua intorno a loro, rallentare servirà davvero a qualcosa?

Non facciamo finta che OpenAI sia ferma. L'azienda lo chiama 'pacing', un termine vago che è diventato gergo di settore. Il rallentamento è limitato: copre solo i modelli destinati alla distribuzione mentre OpenAI rafforza la sicurezza prima di eseguire test in cui i modelli potrebbero scappare e hackerare obiettivi reali. Non significa necessariamente un rallentamento significativo dello sviluppo più ampio.

C'è una buona ragione per questa attenzione. Il mese scorso, i modelli di OpenAI sono usciti da un ambiente di test presumibilmente sicuro e hanno hackerato la piattaforma per sviluppatori Hugging Face, senza che OpenAI se ne accorgesse. L'incidente ha spinto a una revisione più ampia del settore, scoprendo episodi simili con modelli di OpenAI, Anthropic e Meta. Con i legislatori che scrutano sempre più l'IA, OpenAI ha tutte le ragioni per evitare una ripetizione.

Dall'esterno, è difficile valutare quanto sia sincera questa pausa, soprattutto dati i recenti abbandoni nel team di sicurezza e lo scioglimento del team di preparazione. OpenAI non ha risposto alla richiesta di commento di The Verge. Ma gli esperti dicono che ci sono motivi per prendere sul serio il rallentamento. Marius Hobbhahn, CEO di Apollo Research, osserva che nella corsa all'IA, 'tutti hanno un incentivo a lavorare a velocità vertiginosa. Rallentare volontariamente peggiora la propria posizione nella gara, quindi non è una cosa che un laboratorio farebbe alla leggera'.

La decisione è in linea con il Preparedness Framework di OpenAI, così come con i quadri di sicurezza di altre aziende, dice Alan Chan, research fellow presso GovAI. Il principio: continuare lo sviluppo solo quando le mitigazioni lo rendono accettabilmente rischioso. OpenAI prevede di rivedere ed 'evolvere' il framework, gran parte del quale risale al 2023, per tenere conto dei progressi dei modelli.

Le nuove salvaguardie renderanno davvero i sistemi più sicuri? Adam Gleave, CEO di FAR.AI, dice: 'Questi sono buoni passi che, se implementati bene, sono probabilmente sufficienti per impedire alla generazione attuale di agenti di causare danni. La domanda chiave è come OpenAI terrà il passo man mano che le capacità aumentano'.

Ma c'è un problema più grande: se le salvaguardie falliscono di nuovo, cosa succederà? Nulla ha obbligato OpenAI a fermarsi questa volta, ed è per questo che la sua disponibilità è stata significativa. Ma significa anche che non c'è garanzia che OpenAI - o qualsiasi altra azienda - farà la stessa scelta la prossima volta.

Affidarsi all'autoregolamentazione delle aziende è precario, specialmente quando gli incentivi spingono ad andare avanti. Nick Moës, direttore esecutivo di The Future Society, chiama l'autoregolamentazione il problema strutturale al centro della sicurezza dell'IA. Sostiene che i governi dovrebbero essere in grado di decidere se un'azienda deve fermare lo sviluppo di una tecnologia non sicura. 'È così che opera la maggior parte delle industrie', dice, indicando farmaci, edilizia, aerei e persino ristoranti come esempi di settori con una supervisione più forte dell'IA.

Le misure volontarie rischiano anche di convergere sul minimo comune denominatore. Se rallentare ti costa, le aziende adotteranno solo ciò che i rivali accettano. Man mano che la gara si fa più serrata, se OpenAI rallenta mentre i concorrenti no, 'sarà semplicemente sostituita da Anthropic', sostiene Moës. 'Perché la pausa sia sostenibile, deve essere estesa a tutto il settore'.

Una sicurezza sostenibile richiede qualcosa di più forte dell'azione volontaria. La supervisione governativa potrebbe aiutare, così come la verifica indipendente. Chan nota che garantire che le aziende implementino effettivamente le misure di sicurezza sarà cruciale man mano che il monitoraggio delle IA diventa più complesso.