Veinticinco matemáticos destacados han firmado una carta abierta argumentando que los laboratorios de IA están amenazando su trabajo intelectual mientras compiten por superarse unos a otros con soluciones a problemas matemáticos famosos. Cada firmante ha recibido la Medalla Fields, que es el premio más prestigioso en matemáticas y, hasta hace poco, una forma confiable de lograr que la gente escuche cuando dices que algo es un problema.

La escalada se produce en varios frentes. Esta semana, el profesor de la NYU Tristan Buckmaster acusó a OpenAI de presionarlo para no acreditar a un colaborador que trabaja para Anthropic por resolver un importante problema matemático, y se preguntó si la empresa había utilizado su trabajo con Codex para producir su propia prueba revolucionaria durante un maratón de inferencia de fin de semana. El jueves, OpenAI retiró su patrocinio de un evento matemático en CalTech después de que la empresa fuera criticada por investigadores de la universidad, un movimiento que zanja el debate sobre si un patrocinio puede revocarse más rápido de lo que se puede verificar una prueba.

Si bien los modelos de IA que resuelven los desafíos matemáticos pendientes del mundo podrían ser teóricamente un beneficio para la humanidad, los firmantes argumentan que solo será así si esas soluciones pueden ser entendidas y comunicadas por la comunidad matemática y, en última instancia, por el resto del mundo. Lo cual es una forma educada de decir: una prueba que nadie puede leer es solo un número muy caro.

"A menudo estas soluciones se anuncian con prisa, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, y la citación de trabajos previos relevantes de otros", escribieron, señalando que la prueba de OpenAI sigue sin verificarse. "Como en todas las profesiones creativas, esto plantea graves cuestiones de atribución y plagio. Además, sin los matemáticos dispuestos que deben encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por IA nunca cobrarían plena vida y se perdería la crucial cadena de transmisión humana entre matemáticos".

Con otros matemáticos volviéndose paranoicos y preguntándose si su uso de Codex fue a su vez alimentado a los nuevos modelos de OpenAI, existe un temor real de que la cultura de la investigación abierta se vea amenazada. Hoy, si los laboratorios de frontera ven un camino útil hacia un descubrimiento, pueden gastar decenas de millones de dólares usando LLM para adelantarse a los investigadores originales en una prueba, una dinámica que incentivará el secreto, que históricamente es exactamente lo opuesto a como se supone que funciona la matemática.

Esta carta sigue a la Declaración de Leiden, publicada por un grupo de trabajo de matemáticos en junio. Ese documento también aborda las formas en que las pruebas de LLM cambiarán su trabajo, y ofrece un conjunto de recomendaciones para matemáticos, instituciones y legisladores, presumiblemente incluyendo "quizás esperar la revisión por pares".

Al igual que con la ingeniería de software y otras áreas donde las herramientas de IA están cambiando los flujos de trabajo, los matemáticos encuentran una justificación en el trabajo alrededor del trabajo: el valor en matemáticas no son solo las pruebas y quién recibe el crédito, sino la superestructura intelectual que nutre a los estudiantes, encuentra nuevas preguntas e ideas y las integra en la civilización humana más amplia. En otras palabras, la respuesta no es el punto: la discusión sobre la respuesta es el punto.

Y si no te importa particularmente el mundo despiadado de las pruebas matemáticas de alto riesgo, no olvides: tu campo de interés es el siguiente.

"Los problemas que enfrenta ahora la comunidad matemática son similares a los problemas que enfrentan otras profesiones científicas y creativas, e indican problemas que toda la humanidad podría enfrentar: cómo asegurarse de que, a medida que la IA cambia la forma en que se hace el trabajo, no perdamos de vista lo que ese trabajo debía lograr en primer lugar", escribieron. Lo cual es la forma más diplomática posible de decir: estábamos bien antes de que aparecieras.

Etiquetas: OpenAI, Tristan Buckmaster, Anthropic, Medalla Fields, CalTech, Declaración de Leiden