David Robinson, che scriveva i rapporti sulla sicurezza che accompagnavano ogni importante rilascio di modelli di OpenAI, si è dimesso questa settimana e ha reso pubbliche le sue preoccupazioni in un editoriale su The Atlantic. Sì, è l'ennesimo caso del genere. No, non hai torto a sentirti un po' cinico verso chi ci avverte proprio di ciò che ha contribuito a costruire. Ma gli avvertimenti, purtroppo, restano degni di essere letti.

L'argomentazione di Robinson è che il problema non è una regola mancante o una regolamentazione lassista qua e là: è la cultura stessa. La Silicon Valley, dice, si basa su "fiducia estrema" e "sprint perpetui", sfornando modelli sempre più grandi e migliori con "ottimismo senza ostacoli" mentre ignora o sottovaluta i potenziali problemi che quei modelli portano con sé.

La sua soluzione proposta non è sottile. Le aziende di IA, sostiene, hanno bisogno di umiltà e della volontà di guardare oltre il mondo insulare e "muoviti veloce e rompi le cose" della tecnologia. Nello specifico, afferma che i laboratori di frontiera dovrebbero operare meno come startup e più come centrali nucleari o aeroporti affollati, con livelli di ridondanza e una pianificazione attenta e dispendiosa in termini di tempo, in modo che l'occasionale e inevitabile errore umano non apra la porta al disastro.

Robinson è l'ultimo di una lunga sfilza di ricercatori e addetti alla sicurezza che se ne vanno da importanti aziende di IA. Jacob Coxon sembra aver dato il via all'esodo lasciando Anthropic e poi dichiarando pubblicamente che l'IA "potrebbe ucciderci tutti entro la fine del decennio". Dopo di lui sono seguiti Robert O'Callahan, Bilal Chughtai e Josh Engels di Google DeepMind, insieme a Joe Benton di Anthropic.