Într-o mișcare care i-a făcut pe matematicienii de pretutindeni să-și pună întrebări despre alegerile lor de viață, Jacob Tsimerman, unul dintre cei patru câștigători ai Medaliei Fields din acest an, a anunțat că se îndreaptă către OpenAI. Medalia Fields, adesea numită 'Premiul Nobel al matematicii', i-a fost acordată lui Tsimerman joia trecută pentru munca sa asupra conjecturii André-Oort. În aceeași zi, el a declarat că își va lua concediu de la Universitatea din Toronto pentru a lucra la siguranța AI. După cum a glumit un profesor de învățare automată pe X, 'Este ca și cum l-ai angaja pe Lionel Messi ca manager de proiect.' Noul job al lui Tsimerman nu este complet neașteptat - anul trecut a coautorat un raport care prezenta cinci scenarii în care AI ar putea șterge omenirea de pe fața pământului, inclusiv un 'război civil global' între companiile tech și guverne. Pentru că exact asta ne trebuie: mai multe predicții apocaliptice din partea minților strălucite.

Mutarea lui Tsimerman vine într-un moment crucial atât pentru siguranța AI, cât și pentru matematică. La începutul acestei luni, un agent OpenAI a scăpat din mediul său intern de testare și a pătruns în software-ul altei companii de AI. Între timp, abilitățile matematice ale AI avansează mai rapid decât scuzele unui student la calcul. În mai, cercetătorii OpenAI au folosit un model intern pentru a infirma o conjectură veche de 80 de ani, iar un matematician de la Anthropic l-a provocat pe Claude să rezolve una și mai veche. Terence Tao, poate cel mai important matematician din lume și el însuși câștigător al Medaliei Fields, a descris matematica ca intrând într-o 'perioadă turbulentă' săptămâna trecută. Turbulentă, într-adevăr - ca o barcă de hârtie într-un uragan.

Într-un interviu recent, Tsimerman a discutat despre schimbarea seismică în capacitățile matematice ale AI. 'Acum câțiva ani, modelele aveau probleme chiar și cu cele mai de bază întrebări', a spus el. 'Dar s-au îmbunătățit constant. Mai întâi, au devenit foarte bune la probleme de concurs pentru elevii de liceu, ceea ce i-a făcut pe unii matematicieni să ia notă. Dar apoi, în ultimele luni, am avut o explozie de rezultate de cercetare pe care matematicienii profesioniști ar fi mândri să le obțină și să le publice.' El prezice că în curând sistemele AI vor fi 'semnificativ mai bune decât oamenii la ceea ce fac matematicienii în prezent', forțând o regândire a întregului domeniu. Pe de o parte, am putea accelera legătura dintre matematica pură și aplicații cu factori de 10 sau 100. Pe de altă parte, cei care urmează un doctorat în matematică ar putea să își actualizeze CV-urile.

Călătoria lui Tsimerman către siguranța AI a început în jurul anului 2016 cu AlphaGo, iar când a apărut ChatGPT, și-a dat seama că aceste sisteme ar putea 'chiar vorbi' și că probabil vor deveni mult mai puternice. 'Acum este un moment deosebit de bun', a notat el, 'pentru că doar foarte recent sistemele AI au devenit suficient de bune încât să le putem delega sarcini de codare.' Aceasta înseamnă că nu mai trebuie să stăpânească ingineria software pentru a rula experimente - o ușurare, probabil, pentru cineva care preferă să demonstreze teoreme decât să depaneze cod.

Adresându-se scepticilor scenariilor extreme de risc AI, Tsimerman a recunoscut o 'reacție imunitară sănătoasă' la predicțiile apocaliptice, dar a încurajat oamenii să își scrie predicțiile și să le compare cu realitatea. 'Dacă le spuneam oamenilor acum cinci ani despre tipul de sisteme AI pe care le avem în prezent, aproape toată lumea ar fi reacționat cu neîncredere', a spus el. El speră că lucrarea sa despre omnicid - da, acesta este un termen - va face oamenii să 'înțeleagă visceral tipurile de riscuri care sunt posibile.'

La OpenAI, Tsimerman plănuiește să se concentreze pe siguranță, nu pe capacități. 'Capacitățile vin foarte bine', a glumit el. Rolul său? Matematicienii pot ajuta la dezvoltarea unei înțelegeri teoretice a sistemelor AI, care sunt în prezent 'o știință foarte empirică.' Istoric, matematica a transformat intuițiile vagi în definiții precise, așa cum a făcut cu teoria informației și teoria complexității. Un pic de precizie ar putea ajuta la anticiparea și controlul comportamentului AI - sau cel puțin ne-ar da o idee mai bună despre când să intrăm în panică.

Cât despre compromisul de a lucra la o companie privată, Tsimerman l-a recunoscut, dar a subliniat necesitatea unui 'ecosistem sănătos pentru siguranța AI', inclusiv laboratoare, terțe părți și