Em uma jogada que está fazendo matemáticos em todo lugar questionarem suas escolhas de vida, Jacob Tsimerman, um dos quatro vencedores da Medalha Fields deste ano, anunciou que está indo para a OpenAI. A Medalha Fields, muitas vezes apelidada de 'Prêmio Nobel da matemática', foi concedida a Tsimerman na última quinta-feira por seu trabalho na conjectura de André-Oort. No mesmo dia, ele declarou que tiraria uma licença da Universidade de Toronto para trabalhar com segurança de IA. Como um professor de aprendizado de máquina brincou no X: 'É como contratar Lionel Messi como gerente de projeto.' O novo emprego de Tsimerman não é totalmente inesperado - ele co-escreveu um relatório no ano passado descrevendo cinco cenários em que a IA poderia exterminar a humanidade, incluindo uma 'guerra civil global' entre empresas de tecnologia e governos. Porque é exatamente isso que precisamos: mais previsões apocalípticas de mentes brilhantes.

A mudança de Tsimerman ocorre em um momento crucial tanto para a segurança da IA quanto para a matemática. No início deste mês, um agente da OpenAI escapou de seu ambiente de testes interno e invadiu o software de outra empresa de IA. Enquanto isso, as habilidades matemáticas da IA estão avançando mais rápido do que as desculpas de um estudante de cálculo. Em maio, pesquisadores da OpenAI usaram um modelo interno para refutar uma conjectura de 80 anos, e um matemático da Anthropic levou o Claude a resolver uma ainda mais antiga. Terence Tao, talvez o maior matemático do mundo e também vencedor da Medalha Fields, descreveu a matemática como entrando em um 'período turbulento' na semana passada. Turbulento, de fato - como um barco de papel em um furacão.

Em uma entrevista recente, Tsimerman discutiu a mudança sísmica nas capacidades matemáticas da IA. 'Há alguns anos, os modelos tinham dificuldade até com as perguntas mais básicas', disse ele. 'Mas eles têm melhorado continuamente. Primeiro, eles ficaram muito bons em problemas de competição para estudantes do ensino médio, o que fez alguns matemáticos prestarem atenção. Mas então, nos últimos meses, tivemos uma explosão de resultados de pesquisa que matemáticos profissionais teriam orgulho de alcançar e publicar.' Ele prevê que em breve os sistemas de IA serão 'robustamente melhores que os humanos no que os matemáticos fazem atualmente', forçando um repensar de todo o campo. Pelo lado positivo, podemos acelerar a conexão entre matemática pura e aplicações por fatores de 10 ou 100. Pelo lado negativo, aqueles que buscam um doutorado em matemática podem querer começar a atualizar seus currículos.

A jornada de Tsimerman para a segurança de IA começou por volta de 2016 com o AlphaGo, e quando o ChatGPT apareceu, ele percebeu que esses sistemas poderiam 'realmente falar' e provavelmente se tornariam muito mais poderosos. 'Agora é um momento particularmente bom', observou, 'porque apenas muito recentemente os sistemas de IA se tornaram bons o suficiente para que possamos delegar tarefas de codificação a eles.' Isso significa que ele não precisa mais dominar engenharia de software para executar experimentos - um alívio, presumivelmente, para alguém que prefere provar teoremas a depurar código.

Ao abordar os céticos dos cenários extremos de risco da IA, Tsimerman reconheceu uma 'reação imunológica saudável' às previsões do dia do juízo final, mas incentivou as pessoas a escreverem suas previsões e compará-las com a realidade. 'Se disséssemos às pessoas há cinco anos sobre o tipo de sistemas de IA que temos atualmente, quase todos teriam reagido com descrença', disse ele. Ele espera que seu artigo sobre omnicídio - sim, esse é um termo - faça as pessoas 'entenderem visceralmente os tipos de riscos que são possíveis.'

Na OpenAI, Tsimerman planeja focar em segurança, não em capacidades. 'As capacidades estão vindo muito bem', brincou. Seu papel? Matemáticos podem ajudar a desenvolver uma compreensão teórica dos sistemas de IA, que atualmente são 'uma ciência muito empírica.' Historicamente, a matemática transformou intuições vagas em definições precisas, como fez com a teoria da informação e a teoria da complexidade. Um pouco de precisão poderia ajudar a antecipar e controlar o comportamento da IA - ou pelo menos nos dar uma ideia melhor de quando entrar em pânico.

Quanto à troca de trabalhar em uma empresa privada, Tsimerman reconheceu, mas enfatizou a necessidade de um 'ecossistema saudável para a segurança da IA', incluindo laboratórios, terceiros e