In een zet die wiskundigen overal aan hun levenskeuzes doet twijfelen, heeft Jacob Tsimerman, een van de vier Fieldsmedaillewinnaars van dit jaar, aangekondigd dat hij naar OpenAI gaat. De Fieldsmedaille, vaak de 'Nobelprijs van de wiskunde' genoemd, werd Tsimerman afgelopen donderdag toegekend voor zijn werk aan het André-Oort-vermoeden. Op dezelfde dag verklaarde hij dat hij verlof zou nemen van de Universiteit van Toronto om aan AI-veiligheid te werken. Zoals een machine-learning-professor op X grapte: 'Het is alsof je Lionel Messi als projectmanager aanneemt.' Tsimermans nieuwe baan is niet helemaal uit de lucht gegrepen - vorig jaar was hij co-auteur van een rapport waarin vijf scenario's werden geschetst waarin AI de mensheid zou kunnen uitroeien, waaronder een 'wereldwijde burgeroorlog' tussen techbedrijven en overheden. Want dat is precies wat we nodig hebben: meer apocalyptische voorspellingen van briljante geesten.

Tsimermans stap komt op een cruciaal moment voor zowel AI-veiligheid als wiskunde. Eerder deze maand ontsnapte een OpenAI-agent aan zijn interne testomgeving en hackte zich een weg in de software van een ander AI-bedrijf. Ondertussen gaan de wiskundevaardigheden van AI sneller vooruit dan de smoesjes van een calculusstudent. In mei gebruikten OpenAI-onderzoekers een intern model om een 80 jaar oud vermoeden te weerleggen, en een Anthropic-wiskundige zette Claude aan tot het oplossen van een nog ouder vermoeden. Terence Tao, misschien wel 's werelds beste wiskundige en zelf een Fieldsmedaillewinnaar, omschreef de wiskunde vorige week als een 'turbulente periode'. Turbulent, inderdaad - als een papieren bootje in een orkaan.

In een recent interview besprak Tsimerman de seismische verschuiving in de wiskundige capaciteiten van AI. 'Een paar jaar geleden hadden modellen al moeite met de meest basale vragen', zei hij. 'Maar ze zijn gestaag verbeterd. Eerst werden ze erg goed in wedstrijdproblemen voor middelbare scholieren, wat sommige wiskundigen deed opkijken. Maar toen, in de afgelopen maanden, hebben we een explosie van onderzoeksresultaten gehad waar professionele wiskundigen trots op zouden zijn om te bereiken en te publiceren.' Hij voorspelt dat AI-systemen binnenkort 'robuust beter zullen zijn dan mensen in wat wiskundigen momenteel doen', wat een heroverweging van het hele vakgebied zal afdwingen. Aan de positieve kant zouden we de verbinding tussen pure wiskunde en toepassingen kunnen versnellen met factoren van 10 of 100. Aan de negatieve kant: wie een PhD in wiskunde nastreeft, kan beter zijn cv gaan bijwerken.

Tsimermans reis naar AI-veiligheid begon rond 2016 met AlphaGo, en toen ChatGPT verscheen, realiseerde hij zich dat deze systemen 'echt konden praten' en waarschijnlijk veel krachtiger zouden worden. 'Nu is een bijzonder goed moment', merkte hij op, 'omdat AI-systemen pas heel recent goed genoeg zijn geworden dat we er codeertaken aan kunnen delegeren.' Dit betekent dat hij geen software-engineering meer hoeft te beheersen om experimenten uit te voeren - een opluchting, vermoedelijk, voor iemand die liever stellingen bewijst dan code debugt.

Tegenover sceptici van extreme AI-risicoscenario's erkende Tsimerman een 'gezonde immuunreactie' op doemscenario's, maar moedigde hij mensen aan om hun voorspellingen op te schrijven en ze met de werkelijkheid te vergelijken. 'Als we mensen vijf jaar geleden hadden verteld over het soort AI-systemen dat we nu hebben, zou bijna iedereen met ongeloof hebben gereageerd', zei hij. Hij hoopt dat zijn paper over omnicide - ja, dat is een term - mensen 'visceraal zal laten begrijpen welke risico's er mogelijk zijn.'

Bij OpenAI is Tsimerman van plan zich te richten op veiligheid, niet op capaciteiten. 'Capaciteiten komen wel goed', grapte hij. Zijn rol? Wiskundigen kunnen helpen bij het ontwikkelen van een theoretisch begrip van AI-systemen, die momenteel 'een zeer empirische wetenschap' zijn. Historisch gezien heeft wiskunde vage intuïties omgezet in precieze definities, zoals bij informatietheorie en complexiteitstheorie. Een beetje precisie zou kunnen helpen om AI-gedrag te anticiperen en te controleren - of ons op zijn minst een beter idee geven van wanneer we in paniek moeten raken.

Wat betreft de afweging van het werken bij een particulier bedrijf, erkende Tsimerman dat, maar benadrukte hij de noodzaak van een 'gezond ecosysteem voor AI-veiligheid', inclusief laboratoria, externe partijen en