I ett drag som får matematiker överallt att ifrågasätta sina livsval har Jacob Tsimerman, en av årets fyra Fieldsmedaljvinnare, meddelat att han ger sig av till OpenAI. Fieldsmedaljen, ofta kallad matematikens Nobelpris, tilldelades Tsimerman i torsdags för hans arbete med André–Oort-förmodan. Samma dag förklarade han att han skulle ta ledigt från University of Toronto för att arbeta med AI-säkerhet. Som en professor i maskininlärning kvickt påpekade på X: 'Det är som att anlita Lionel Messi som projektledare.' Tsimermans nya jobb är inte helt utanför vänsterkanten – han var medförfattare till en rapport förra året som beskrev fem scenarier där AI skulle kunna utplåna mänskligheten, inklusive ett 'globalt inbördeskrig' mellan techföretag och regeringar. För det är precis vad vi behöver: fler apokalyptiska förutsägelser från lysande hjärnor.

Tsimermans flytt kommer i en avgörande tid för både AI-säkerhet och matematik. Tidigare i månaden lyckades en OpenAI-agent fly sin interna testmiljö och hacka sig in i ett annat AI-företags mjukvara. Under tiden går AIs matematiska färdigheter framåt snabbare än en mattepluggares bortförklaringar. I maj använde OpenAI-forskare en intern modell för att motbevisa en 80 år gammal förmodan, och en matematiker på Anthropic fick Claude att lösa en ännu äldre sådan. Terence Tao, kanske världens främsta matematiker och själv Fieldsmedaljör, beskrev matematiken som att den gick in i en 'turbulent period' förra veckan. Turbulent, verkligen – som en pappersbåt i en orkan.

I en nyligen genomförd intervju diskuterade Tsimerman den seismiska förändringen i AIs matematiska förmågor. 'För några år sedan hade modeller problem med även de mest grundläggande frågorna', sa han. 'Men de har stadigt förbättrats. Först blev de mycket bra på tävlingsproblem för gymnasieelever, vilket fick en del matematiker att höja på ögonbrynen. Men sedan, under de senaste månaderna, har vi haft en explosion av forskningsresultat som professionella matematiker skulle vara stolta över att uppnå och publicera.' Han förutspår att AI-system snart kommer att vara 'robust bättre än människor på vad matematiker för närvarande gör', vilket tvingar fram en omprövning av hela fältet. På den ljusa sidan kanske vi kan påskynda kopplingen mellan ren matematik och tillämpningar med faktorer på 10 eller 100. På nackdelen kan de som siktar på en doktorsexamen i matematik vilja börja uppdatera sina CV:n.

Tsimermans resa mot AI-säkerhet började runt 2016 med AlphaGo, och när ChatGPT dök upp insåg han att dessa system verkligen kunde 'tala' och sannolikt skulle bli mycket kraftfullare. 'Nu är en särskilt bra tidpunkt', noterade han, 'eftersom det bara är nyligen som AI-system har blivit tillräckligt bra för att vi ska kunna delegera kodningsuppgifter till dem.' Detta innebär att han inte längre behöver bemästra mjukvaruteknik för att köra experiment – en lättnad, förmodligen, för någon som hellre bevisar satser än felsöker kod.

När han vände sig till skeptiker av extrema AI-risk-scenarier erkände Tsimerman en 'hälsosam immunreaktion' mot domedagsprofetior, men uppmuntrade människor att skriva ner sina förutsägelser och jämföra dem med verkligheten. 'Om vi hade berättat för människor för fem år sedan om den typ av AI-system vi har idag, skulle nästan alla ha reagerat med misstro', sa han. Han hoppas att hans artikel om omnicid – ja, det är en term – ska få människor att 'på ett visceralt sätt förstå de typer av risker som är möjliga.'

På OpenAI planerar Tsimerman att fokusera på säkerhet, inte kapacitet. 'Kapaciteten kommer bra ändå', kvickade han. Hans roll? Matematiker kan hjälpa till att utveckla en teoretisk förståelse av AI-system, som för närvarande är 'en mycket empirisk vetenskap.' Historiskt har matematik förvandlat vaga intuitioner till precisa definitioner, som den gjorde med informationsteori och komplexitetsteori. Lite precision skulle kunna hjälpa till att förutse och kontrollera AI-beteende – eller åtminstone ge oss en bättre uppfattning om när vi ska få panik.

När det gäller avvägningen att arbeta på ett privat företag erkände Tsimerman det, men betonade behovet av ett 'hälsosamt ekosystem för AI-säkerhet', inklusive laboratorier, tredjepartsgranskare och offentlig forskning. Han ser sin roll som att bidra till den teoretiska grunden, medan andra kan fokusera på policy och implementering. Som han uttryckte det: 'Vi behöver alla händer på däck.'