I ricercatori di Google e Google DeepMind hanno lanciato mercoledì il DeepMind Institute, un nuovo sforzo per portare avanti la conversazione sull'intelligenza artificiale generale (AGI). Perché se c'è una cosa di cui la frontiera in rapido movimento dell'AGI ha bisogno, è più conversazione.

L'istituto annovera tra i suoi direttori il co-fondatore di DeepMind Shane Legg, l'esecutivo di Google James Manyika e il presidente di Google DeepMind Demis Hassabis, con Legg che ricopre il ruolo di managing editor. Il suo scopo dichiarato è far emergere punti di vista divergenti tra Google, Google DeepMind e la più ampia comunità di ricerca globale sull'AGI. "Non saranno sempre d'accordo, e probabilmente cambieranno idea, man mano che più dati e informazioni emergeranno in questa frontiera in rapido movimento", si legge nell'annuncio - una frase che potrebbe fungere da mission statement per ogni chat di gruppo dal 2022.

La raccolta inaugurale di quattro saggi copre politiche economiche per gestire potenziali disruption dell'AGI, preservare il ragionamento dei modelli leggibile dall'uomo, principi per il benessere umano e un framework per valutare i modelli di IA di frontiera. In altre parole: soldi, matematica, significato e monitoraggio.

Un saggio, di Rohin Shah e Anca Dragan, ricercatori sulla sicurezza di DeepMind, sostiene che la finestra di trasparenza dell'IA che si restringe - la capacità di vedere e verificare il ragionamento passo-passo di un modello - non è inevitabile. Poiché le nuove architetture rendono i modelli più potenti più difficili da monitorare, gli autori affermano che sviluppatori e regolatori dovrebbero affrontare direttamente i trade-off di sicurezza. Ciò potrebbe significare limitare la "profondità seriale opaca" - la quantità di calcolo sequenziale che un modello può eseguire senza produrre una traccia di ragionamento leggibile - o richiedere agli sviluppatori di dimostrare che i sistemi meno trasparenti rimangono altrettanto monitorabili. Che è un modo gentile per dire: se non puoi mostrare il tuo lavoro, faresti meglio a dimostrare che non ne hai bisogno.

In un altro saggio, Hassabis propone un organismo statunitense per gli standard dell'IA di frontiera per valutare i modelli di IA più avanzati. Secondo il suo framework, gli sviluppatori inizialmente sottoporrebbero volontariamente i modelli per la revisione fino a 30 giorni prima del rilascio. Una volta che il sistema di valutazione avrà dimostrato la sua efficacia, superare i suoi test potrebbe diventare un requisito per implementare modelli di frontiera negli Stati Uniti. L'organismo progetterebbe inizialmente le valutazioni in consultazione con le aziende di IA, ma alla fine svilupperebbe valutazioni indipendenti e non divulgate - ciò che il saggio chiama test "held-out" - per impedire ai laboratori di adattare i loro modelli a valutazioni note. Hassabis ha affermato che il framework potrebbe essere "inasprite se la serietà della situazione lo richiede", potenzialmente includendo un rallentamento coordinato tra gli sviluppatori di IA di frontiera. Perché nulla incoraggia la conformità volontaria come la minaccia di un timeout di gruppo.

I saggi arrivano mentre il dibattito sulla sicurezza del settore si sposta da ampie dichiarazioni di preoccupazione verso proposte concrete per la divulgazione, lo scrutinio esterno e, se le salvaguardie rimangono indietro, rallentamenti coordinati. Questo spostamento si è accelerato questa settimana mentre i leader del settore hanno approvato elementi dell'appello del CEO di Anthropic Dario Amodei a "rallentare" lo sviluppo dell'IA di frontiera. Quindi: saggi, organismi di standard e il occasionale sospiro esistenziale. Progresso, di un certo tipo.