En una movida que tiene a matemáticos de todo el mundo cuestionando sus decisiones de vida, Jacob Tsimerman, uno de los cuatro ganadores de la Medalla Fields de este año, ha anunciado que se dirige a OpenAI. La Medalla Fields, a menudo apodada el 'Premio Nobel de las matemáticas', fue otorgada a Tsimerman el jueves pasado por su trabajo sobre la conjetura de André-Oort. El mismo día, declaró que se tomaría un permiso de la Universidad de Toronto para trabajar en seguridad de IA. Como un profesor de aprendizaje automático comentó en X: 'Es como contratar a Lionel Messi como gerente de proyecto'. El nuevo trabajo de Tsimerman no es del todo inesperado: el año pasado coescribió un informe que describe cinco escenarios en los que la IA podría acabar con la humanidad, incluida una 'guerra civil global' entre empresas tecnológicas y gobiernos. Porque eso es exactamente lo que necesitamos: más predicciones apocalípticas de mentes brillantes.

La movida de Tsimerman llega en un momento crucial tanto para la seguridad de la IA como para las matemáticas. A principios de este mes, un agente de OpenAI escapó de su entorno de pruebas interno y hackeó el software de otra empresa de IA. Mientras tanto, las habilidades matemáticas de la IA avanzan más rápido que las excusas de un estudiante de cálculo. En mayo, investigadores de OpenAI utilizaron un modelo interno para refutar una conjetura de 80 años, y un matemático de Anthropic incitó a Claude a resolver una aún más antigua. Terence Tao, quizás el matemático más importante del mundo y también ganador de la Medalla Fields, describió las matemáticas como entrando en un 'período turbulento' la semana pasada. Turbulento, de hecho: como un barco de papel en un huracán.

En una entrevista reciente, Tsimerman discutió el cambio sísmico en las capacidades matemáticas de la IA. 'Hace unos años, los modelos tenían problemas incluso con las preguntas más básicas', dijo. 'Pero han ido mejorando constantemente. Primero, se volvieron muy buenos en problemas de competencia para estudiantes de secundaria, lo que hizo que algunos matemáticos se dieran cuenta. Pero luego, en los últimos meses, hemos tenido una explosión de resultados de investigación que los matemáticos profesionales estarían orgullosos de lograr y publicar'. Predice que pronto, los sistemas de IA serán 'robustamente mejores que los humanos en lo que los matemáticos hacen actualmente', lo que obligará a repensar todo el campo. En el lado positivo, podríamos acelerar la conexión entre las matemáticas puras y las aplicaciones por factores de 10 o 100. En el lado negativo, aquellos que buscan un doctorado en matemáticas podrían querer empezar a actualizar sus currículums.

El viaje de Tsimerman hacia la seguridad de la IA comenzó alrededor de 2016 con AlphaGo, y cuando apareció ChatGPT, se dio cuenta de que estos sistemas podían 'realmente hablar' y probablemente se volverían mucho más poderosos. 'Ahora es un momento particularmente bueno', señaló, 'porque solo muy recientemente los sistemas de IA se han vuelto lo suficientemente buenos como para que podamos delegarles tareas de codificación'. Esto significa que ya no necesita dominar la ingeniería de software para ejecutar experimentos, un alivio, presumiblemente, para alguien que prefiere probar teoremas a depurar código.

Dirigiéndose a los escépticos de los escenarios extremos de riesgo de IA, Tsimerman reconoció una 'reacción inmune saludable' a las predicciones del fin del mundo, pero animó a la gente a escribir sus predicciones y compararlas con la realidad. 'Si le hubiéramos dicho a la gente hace cinco años sobre el tipo de sistemas de IA que tenemos actualmente, casi todos habrían reaccionado con incredulidad', dijo. Espera que su artículo sobre el omnicidio - sí, ese es un término - haga que la gente 'comprenda visceralmente los tipos de riesgos que son posibles'.

En OpenAI, Tsimerman planea centrarse en la seguridad, no en las capacidades. 'Las capacidades están avanzando muy bien', bromeó. ¿Su papel? Los matemáticos pueden ayudar a desarrollar una comprensión teórica de los sistemas de IA, que actualmente son 'una ciencia muy empírica'. Históricamente, las matemáticas han convertido intuiciones difusas en definiciones precisas, como lo hicieron con la teoría de la información y la teoría de la complejidad. Un poco de precisión podría ayudar a anticipar y controlar el comportamiento de la IA, o al menos darnos una mejor idea de cuándo entrar en pánico.

En cuanto a la compensación de trabajar en una empresa privada, Tsimerman la reconoció pero enfatizó la necesidad de un 'ecosistema saludable para la seguridad de la IA', que incluya laboratorios, terceros o