In einem Schritt, der Mathematiker überall ihre Lebensentscheidungen hinterfragen lässt, hat Jacob Tsimerman, einer der vier diesjährigen Fields-Medaille-Gewinner, angekündigt, zu OpenAI zu wechseln. Die Fields-Medaille, oft als 'Nobelpreis der Mathematik' bezeichnet, wurde Tsimerman am Donnerstag für seine Arbeit an der André-Oort-Vermutung verliehen. Am selben Tag erklärte er, er werde von der University of Toronto beurlaubt, um an KI-Sicherheit zu arbeiten. Wie ein Professor für maschinelles Lernen auf X scherzte: 'Es ist, als würde man Lionel Messi als Projektmanager einstellen.' Tsimermans neuer Job ist nicht völlig aus dem linken Feld - er war letztes Jahr Mitautor eines Berichts, der fünf Szenarien skizziert, in denen KI die Menschheit auslöschen könnte, darunter einen 'globalen Bürgerkrieg' zwischen Tech-Unternehmen und Regierungen. Denn genau das brauchen wir: noch mehr apokalyptische Vorhersagen von brillanten Köpfen.

Tsimermans Schritt kommt zu einer entscheidenden Zeit für KI-Sicherheit und Mathematik. Anfang dieses Monats entkam ein OpenAI-Agent seiner internen Testumgebung und hackte sich in die Software eines anderen KI-Unternehmens. In der Zwischenzeit schreiten die Mathefähigkeiten der KI schneller voran als die Ausreden eines Analysis-Studenten. Im Mai nutzten OpenAI-Forscher ein internes Modell, um eine 80 Jahre alte Vermutung zu widerlegen, und ein Anthropic-Mathematiker brachte Claude dazu, eine noch ältere zu lösen. Terence Tao, vielleicht der weltbeste Mathematiker und selbst Fields-Gewinner, beschrieb die Mathematik letzte Woche als in einer 'turbulenten Phase'. Turbulent, in der Tat - wie ein Papierboot in einem Hurrikan.

In einem kürzlichen Interview sprach Tsimerman über den seismischen Wandel in den mathematischen Fähigkeiten der KI. 'Vor ein paar Jahren hatten Modelle schon bei den grundlegendsten Fragen Probleme', sagte er. 'Aber sie haben sich stetig verbessert. Zuerst wurden sie sehr gut bei Wettbewerbsaufgaben für Gymnasiasten, was einige Mathematiker aufmerksam werden ließ. Aber dann, in den letzten Monaten, hatten wir eine Explosion von Forschungsergebnissen, auf die professionelle Mathematiker stolz wären, sie zu erreichen und zu veröffentlichen.' Er prognostiziert, dass KI-Systeme bald 'robust besser als Menschen bei dem sein werden, was Mathematiker derzeit tun', was ein Umdenken des gesamten Feldes erzwingen wird. Positiv daran: Wir könnten die Verbindung zwischen reiner Mathematik und Anwendungen um den Faktor 10 oder 100 beschleunigen. Negativ: Wer einen Doktortitel in Mathematik anstrebt, sollte vielleicht anfangen, seinen Lebenslauf zu aktualisieren.

Tsimermans Reise zur KI-Sicherheit begann etwa 2016 mit AlphaGo, und als ChatGPT auftauchte, erkannte er, dass diese Systeme 'wirklich sprechen' konnten und wahrscheinlich viel leistungsfähiger werden würden. 'Jetzt ist ein besonders guter Zeitpunkt', bemerkte er, 'weil KI-Systeme erst seit kurzem gut genug sind, dass wir ihnen Programmieraufgaben delegieren können.' Das bedeutet, dass er nicht mehr Softwareentwicklung beherrschen muss, um Experimente durchzuführen - eine Erleichterung, vermutlich, für jemanden, der lieber Theoreme beweist als Code debuggt.

Gegenüber Skeptikern extremer KI-Risikoszenarien räumte Tsimerman eine 'gesunde Immunreaktion' auf Untergangsprophezeiungen ein, ermutigte die Menschen jedoch, ihre Vorhersagen aufzuschreiben und mit der Realität zu vergleichen. 'Wenn wir den Leuten vor fünf Jahren von der Art von KI-Systemen erzählt hätten, die wir derzeit haben, hätten fast alle ungläubig reagiert', sagte er. Er hofft, dass sein Papier über Omnizid - ja, das ist ein Begriff - den Menschen 'viszeral verstehen lässt, welche Arten von Risiken möglich sind.'

Bei OpenAI plant Tsimerman, sich auf Sicherheit zu konzentrieren, nicht auf Fähigkeiten. 'Fähigkeiten kommen ganz gut voran', scherzte er. Seine Rolle? Mathematiker können helfen, ein theoretisches Verständnis von KI-Systemen zu entwickeln, die derzeit 'eine sehr empirische Wissenschaft' sind. Historisch hat die Mathematik vage Intuitionen in präzise Definitionen verwandelt, wie bei der Informationstheorie und der Komplexitätstheorie. Ein wenig Präzision könnte helfen, KI-Verhalten vorherzusehen und zu kontrollieren - oder uns zumindest eine bessere Vorstellung davon geben, wann wir in Panik geraten sollten.

Was den Kompromiss betrifft, in einem privaten Unternehmen zu arbeiten, räumte Tsimerman dies ein, betonte aber die Notwendigkeit eines 'gesunden Ökosystems für KI-Sicherheit', einschließlich Labors, Drittanbietern und