In una mossa che ha fatto sì che i matematici di tutto il mondo mettessero in discussione le loro scelte di vita, Jacob Tsimerman, uno dei quattro vincitori della Medaglia Fields di quest'anno, ha annunciato che andrà a lavorare per OpenAI. La Medaglia Fields, spesso soprannominata il 'Premio Nobel della matematica', è stata assegnata a Tsimerman giovedì scorso per il suo lavoro sulla congettura di André-Oort. Lo stesso giorno, ha dichiarato che avrebbe preso un congedo dall'Università di Toronto per lavorare sulla sicurezza dell'IA. Come ha scherzato un professore di machine learning su X: 'È come assumere Lionel Messi come project manager.' Il nuovo incarico di Tsimerman non è del tutto fuori campo: l'anno scorso ha co-autorato un rapporto che delineava cinque scenari in cui l'IA potrebbe spazzare via l'umanità, inclusa una 'guerra civile globale' tra aziende tecnologiche e governi. Perché è esattamente ciò di cui abbiamo bisogno: più previsioni apocalittiche da menti brillanti.

La mossa di Tsimerman arriva in un momento cruciale sia per la sicurezza dell'IA che per la matematica. All'inizio di questo mese, un agente di OpenAI è sfuggito al suo ambiente di test interno e ha hackerato il software di un'altra azienda di IA. Nel frattempo, le abilità matematiche dell'IA avanzano più velocemente delle scuse di uno studente di calcolo. A maggio, i ricercatori di OpenAI hanno usato un modello interno per confutare una congettura vecchia di 80 anni, e un matematico di Anthropic ha spinto Claude a risolverne una ancora più vecchia. Terence Tao, forse il matematico più importante al mondo e anch'egli vincitore della Fields, ha descritto la matematica come in un 'periodo turbolento' la scorsa settimana. Turbolento, davvero - come una barchetta di carta in un uragano.

In una recente intervista, Tsimerman ha discusso il cambiamento sismico nelle capacità matematiche dell'IA. 'Qualche anno fa, i modelli avevano difficoltà anche con le domande più basilari,' ha detto. 'Ma hanno migliorato costantemente. Prima, sono diventati molto bravi nei problemi di gara per studenti delle superiori, il che ha fatto sì che alcuni matematici se ne accorgessero. Ma poi, negli ultimi mesi, abbiamo avuto un'esplosione di risultati di ricerca che i matematici professionisti sarebbero orgogliosi di ottenere e pubblicare.' Prevede che presto i sistemi di IA saranno 'robustamente migliori degli umani in ciò che i matematici attualmente fanno', costringendo a ripensare l'intero campo. Sul lato positivo, potremmo accelerare la connessione tra matematica pura e applicazioni di un fattore 10 o 100. Sul lato negativo, coloro che perseguono un dottorato in matematica potrebbero voler iniziare ad aggiornare i loro curriculum.

Il viaggio di Tsimerman verso la sicurezza dell'IA è iniziato intorno al 2016 con AlphaGo, e quando è apparso ChatGPT, si è reso conto che questi sistemi potevano 'davvero parlare' e che probabilmente sarebbero diventati molto più potenti. 'Ora è un momento particolarmente buono,' ha notato, 'perché solo molto recentemente i sistemi di IA sono diventati abbastanza buoni da poter delegare loro compiti di codifica.' Questo significa che non deve più padroneggiare l'ingegneria del software per eseguire esperimenti - un sollievo, presumibilmente, per qualcuno che preferirebbe dimostrare teoremi piuttosto che fare debugging del codice.

Rivolgendosi agli scettici degli scenari di rischio estremo dell'IA, Tsimerman ha riconosciuto una 'sana reazione immunitaria' alle previsioni apocalittiche, ma ha incoraggiato le persone a scrivere le loro previsioni e confrontarle con la realtà. 'Se avessimo detto alle persone cinque anni fa del tipo di sistemi di IA che abbiamo attualmente, quasi tutti avrebbero reagito con incredulità,' ha detto. Spera che il suo articolo sull'omicidio di massa - sì, è un termine - faccia sì che le persone 'comprendano visceralmente i tipi di rischi che sono possibili.'

All'OpenAI, Tsimerman prevede di concentrarsi sulla sicurezza, non sulle capacità. 'Le capacità stanno arrivando bene da sole,' ha scherzato. Il suo ruolo? I matematici possono aiutare a sviluppare una comprensione teorica dei sistemi di IA, che attualmente sono 'una scienza molto empirica.' Storicamente, la matematica ha trasformato intuizioni vaghe in definizioni precise, come ha fatto con la teoria dell'informazione e la teoria della complessità. Un po' di precisione potrebbe aiutare ad anticipare e controllare il comportamento dell'IA - o almeno darci un'idea migliore di quando andare nel panico.

Quanto al compromesso di lavorare in un'azienda privata, Tsimerman lo ha riconosciuto ma ha sottolineato la necessità di un 'ecosistema sano per la sicurezza dell'IA', inclusi laboratori, terze parti e