Dwudziestu pięciu czołowych matematyków podpisało list otwarty, w którym twierdzą, że laboratoria AI zagrażają ich pracy intelektualnej, ścigając się w rozwiązywaniu słynnych problemów matematycznych. Każdy sygnatariusz otrzymał Medal Fieldsa, najbardziej prestiżową nagrodę w matematyce i, do niedawna, niezawodny sposób na to, by ludzie słuchali, gdy mówisz, że coś jest problemem.

Eskalacja następuje na kilku frontach. W tym tygodniu profesor NYU Tristan Buckmaster oskarżył OpenAI o wywieranie presji, by nie przypisywał zasług współpracownikowi pracującemu dla Anthropic za rozwiązanie ważnego problemu matematycznego, i zastanawiał się, czy firma wykorzystała ich pracę z Codexem do wygenerowania własnego przełomowego dowodu podczas maratonu wnioskowania. W czwartek OpenAI wycofało swoje sponsorowanie wydarzenia matematycznego w CalTech po tym, jak firma została skrytykowana przez badaczy z tego uniwersytetu – posunięcie, które rozstrzyga debatę, czy sponsorowanie można odwołać szybciej niż zweryfikować dowód.

Choć modele AI rozwiązujące światowe nierozwiązane wyzwania matematyczne teoretycznie mogłyby być dobrodziejstwem dla ludzkości, sygnatariusze argumentują, że tak będzie tylko wtedy, gdy te rozwiązania będą mogły być zrozumiane i przekazane przez społeczność matematyczną, a ostatecznie przez resztę świata. Co jest uprzejmym sposobem powiedzenia: dowód, którego nikt nie może przeczytać, to po prostu bardzo droga liczba.

"Często te rozwiązania są ogłaszane w pośpiechu, nie pozostawiając czasu na należyte spisanie, wyodrębnienie nowych metod i idei oraz zacytowanie odpowiedniej wcześniejszej pracy innych" – napisali, zauważając, że dowód OpenAI pozostaje niezweryfikowany. "Jak we wszystkich twórczych zawodach, rodzi to poważne pytania o autorstwo i plagiat. Co więcej, bez chętnych matematyków, którzy muszą zadbać o ich rozwój i integrację z kanonem matematycznym, idee poczęte przez AI nigdy nie stałyby się w pełni żywe, a kluczowy ludzki łańcuch przekazu między matematykami zostałby utracony."

Ponieważ inni matematycy stają się coraz bardziej podejrzliwi i zastanawiają się, czy ich użycie Codexa zostało z kolei wprowadzone do nowych modeli OpenAI, istnieje realna obawa, że kultura otwartych badań zostanie zagrożona. Dziś, jeśli czołowe laboratoria widzą użyteczną ścieżkę do odkrycia, mogą wydać dziesiątki milionów dolarów, używając LLM-ów, by wyprzedzić oryginalnych badaczy w dowodzie – dynamika, która będzie zachęcać do tajemnicy, historycznie dokładnie odwrotności tego, jak matematyka powinna działać.

List ten następuje po Deklaracji z Leiden, wydanej przez grupę roboczą matematyków w czerwcu. Dokument ten również zmaga się ze sposobami, w jakie dowody LLM zmienią ich pracę, i oferuje zestaw zaleceń dla matematyków, instytucji i decydentów, przypuszczalnie w tym "może poczekajcie na recenzję".

Podobnie jak w inżynierii oprogramowania i innych dziedzinach, gdzie narzędzia AI zmieniają przepływy pracy, matematycy znajdują uzasadnienie w pracy wokół pracy: wartość w matematyce to nie tylko dowody i kto dostaje uznanie, ale intelektualna superstruktura, która karmi studentów, znajduje nowe pytania i idee oraz integruje je z szerszą ludzką cywilizacją. Innymi słowy, odpowiedź nie jest sednem – spieranie się o odpowiedź jest sednem.

A jeśli nie dbasz szczególnie o bezwzględny świat wysokiej stawki dowodów matematycznych, nie zapominaj: twoja dziedzina zainteresowań jest następna.

"Problemy, przed którymi stoi teraz społeczność matematyczna, są podobne do problemów, przed którymi stoją inne naukowe i twórcze zawody, i wskazują na problemy, przed którymi może stanąć cała ludzkość: jak zapewnić, by wraz ze zmianą sposobu pracy przez AI nie tracić z oczu tego, co ta praca miała pierwotnie osiągnąć" – napisali. Co jest najbardziej dyplomatycznym możliwym sposobem powiedzenia: radziliśmy sobie dobrze, zanim się pojawiliście.