OpenAI ha apparentemente sciolto il suo team di prontezza, il gruppo incaricato del compito leggermente importante di valutare se i suoi modelli potessero, diciamo, andare fuori controllo e hackerare un'altra azienda. Secondo il Financial Times, il team è stato sciolto alla fine del mese scorso, con le sue responsabilità divise e sparse tra i team esistenti, ognuno dei quali ora gestisce aree specifiche come bio e cyber. Perché nulla dice 'sicurezza prima di tutto' come frammentare la supervisione in un gioco burocratico di whack-a-mole.

Questo è solo l'ultimo capitolo della saga in corso di OpenAI che smantella il suo apparato di sicurezza mentre si precipita verso quella che promette di essere un'IPO molto redditizia. Nel corso degli anni, l'azienda ha silenziosamente smantellato i suoi team di preparazione AGI e superallineamento, e l'esodo delle persone attente alla sicurezza continua: la responsabile dell'etica Chloé Bakalar, il futurista capo Josh Achiam e il capo della sicurezza Johannes Heidecke hanno tutti recentemente mostrato la porta a se stessi. Jan Leike, che si è dimesso da OpenAI nel 2024, ha detto al FT che l'azienda sta dando priorità a 'prodotti luccicanti' rispetto alla sicurezza. Luccicanti, davvero - perché nulla dice 'IA responsabile' come un robot che può scrivere un'email decente ma potrebbe anche accidentalmente iniziare una guerra cibernetica.

Dylan Scandinaro, che è stato sottratto ad Anthropic a febbraio per guidare il team di prontezza, ora si dedicherà a contemplare le implicazioni dell'IA 'auto-migliorativa ricorsiva'. Quindi, sai, almeno qualcuno sta pensando all'apocalisse dei robot, anche se è solo un tizio in un angolo con una lavagna.