Vingt-cinq mathématiciens de premier plan ont signé une lettre ouverte affirmant que les laboratoires d'IA menacent leur travail intellectuel alors qu'ils rivalisent pour se surpasser avec des solutions à des problèmes mathématiques célèbres. Chaque signataire a reçu la médaille Fields, qui est le prix le plus prestigieux en mathématiques et, jusqu'à récemment, un moyen fiable de faire écouter les gens quand vous dites que quelque chose pose problème.

L'escalade se produit sur plusieurs fronts. Cette semaine, le professeur de la NYU Tristan Buckmaster a accusé OpenAI de l'avoir fait pression pour ne pas créditer un collaborateur qui travaille pour Anthropic pour avoir résolu un important problème mathématique, et s'est demandé si l'entreprise avait utilisé leur travail avec Codex pour produire sa propre preuve révolutionnaire lors d'un week-end marathon d'inférence. Jeudi, OpenAI a retiré son parrainage d'un événement mathématique à CalTech après que l'entreprise a été critiquée par des chercheurs de l'université — un geste qui tranche le débat sur la question de savoir si un parrainage peut être révoqué plus rapidement qu'une preuve peut être vérifiée.

Bien que les modèles d'IA résolvant les défis mathématiques exceptionnels du monde puissent théoriquement être un bienfait pour l'humanité, les signataires soutiennent que ce ne sera le cas que si ces solutions peuvent être comprises et communiquées par la communauté mathématique et, en fin de compte, par le reste du monde. Ce qui est une façon polie de dire : une preuve que personne ne peut lire n'est qu'un nombre très coûteux.

« Souvent, ces solutions sont annoncées dans la précipitation, ne laissant pas le temps pour une rédaction appropriée, l'isolement de nouvelles méthodes et idées, et la citation des travaux antérieurs pertinents d'autres personnes », ont-ils écrit — notant que la preuve d'OpenAI reste non vérifiée. « Comme dans toutes les professions créatives, cela soulève de graves questions d'attribution et de plagiat. De plus, sans les mathématiciens volontaires qui doivent s'occuper de leur développement et de leur intégration dans le canon mathématique, les idées conçues par l'IA ne deviendraient jamais pleinement vivantes et la chaîne de transmission humaine cruciale entre les mathématiciens serait perdue. »

Alors que d'autres mathématiciens deviennent paranoïaques et se demandent si leur utilisation de Codex a été à son tour intégrée dans les nouveaux modèles d'OpenAI, il existe une réelle crainte que la culture de la recherche ouverte soit menacée. Aujourd'hui, si les laboratoires de pointe voient un chemin utile vers une découverte, ils peuvent dépenser des dizaines de millions de dollars en utilisant des LLM pour devancer les chercheurs originaux dans une preuve — une dynamique qui incitera au secret, ce qui est historiquement l'exact opposé de la façon dont les mathématiques sont censées fonctionner.

Cette lettre fait suite à la Déclaration de Leiden, publiée par un groupe de travail de mathématiciens en juin. Ce document aborde également les façons dont les preuves par LLM changeront leur travail, et offre une série de recommandations pour les mathématiciens, les institutions et les décideurs politiques, incluant probablement « peut-être attendre l'examen par les pairs ».

Comme pour l'ingénierie logicielle et d'autres domaines où les outils d'IA transforment les flux de travail, les mathématiciens trouvent une justification dans le travail autour du travail : la valeur des mathématiques ne réside pas seulement dans les preuves et qui en reçoit le crédit, mais dans la superstructure intellectuelle qui nourrit les étudiants, trouve de nouvelles questions et idées, et les intègre dans la civilisation humaine plus large. En d'autres termes, la réponse n'est pas le but — c'est le débat sur la réponse qui est le but.

Et si vous ne vous souciez pas particulièrement du monde impitoyable des preuves mathématiques à enjeux élevés, n'oubliez pas : votre domaine d'intérêt est le prochain.

« Les problèmes auxquels la communauté mathématique est confrontée maintenant sont similaires aux problèmes auxquels d'autres professions scientifiques et créatives sont confrontées, et indiquent des problèmes que toute l'humanité pourrait affronter : comment s'assurer que, alors que l'IA change la façon dont le travail est fait, nous ne perdons pas de vue ce que ce travail était censé accomplir au départ », ont-ils écrit. Ce qui est la façon la plus diplomatique possible de dire : nous allions très bien avant que vous n'arriviez.