Mathematiker an OpenAI: Bitte hört auf, unsere Lebensarbeit über ein Wochenende zu lösen

Fünfundzwanzig führende Mathematiker haben einen offenen Brief unterzeichnet, in dem sie argumentieren, dass KI-Labore ihre intellektuelle Arbeit bedrohen, während sie sich gegenseitig mit Lösungen für berühmte mathematische Probleme überbieten. Jeder Unterzeichner wurde mit der Fields-Medaille ausgezeichnet, der prestigeträchtigsten Auszeichnung der Mathematik und bis vor kurzem eine zuverlässige Methode, um Gehör zu finden, wenn man sagt, dass etwas ein Problem ist.

Die Eskalation kommt an mehreren Fronten. Diese Woche beschuldigte der NYU-Professor Tristan Buckmaster OpenAI, ihn unter Druck gesetzt zu haben, einen Mitarbeiter von Anthropic nicht zu nennen, der ein wichtiges mathematisches Problem gelöst hat, und fragte sich, ob das Unternehmen ihre Arbeit mit Codex genutzt hatte, um über ein Marathon-Wochenende der Inferenz seinen eigenen bahnbrechenden Beweis zu produzieren. Am Donnerstag zog OpenAI seine Sponsoring für eine Mathematik-Veranstaltung am CalTech zurück, nachdem das Unternehmen von Forschern der Universität kritisiert worden war – ein Schritt, der die Debatte darüber beendet, ob eine Sponsoring schneller widerrufen werden kann als ein Beweis verifiziert.

Während KI-Modelle, die die herausragenden mathematischen Herausforderungen der Welt lösen, theoretisch ein Segen für die Menschheit sein könnten, argumentieren die Unterzeichner, dass dies nur dann der Fall sein wird, wenn diese Lösungen von der mathematischen Gemeinschaft und letztlich der restlichen Welt verstanden und kommuniziert werden können. Was eine höfliche Art zu sagen ist: Ein Beweis, den niemand lesen kann, ist nur eine sehr teure Zahl.

„Oft werden diese Lösungen in Eile angekündigt, ohne Zeit für eine ordnungsgemäße Ausarbeitung, die Isolierung neuer Methoden und Ideen und die Zitierung relevanter früherer Arbeiten anderer“, schrieben sie – und wiesen darauf hin, dass OpenAIs Beweis unverifiziert bleibt. „Wie in allen kreativen Berufen wirft dies schwerwiegende Fragen der Zuschreibung und des Plagiats auf. Darüber hinaus würden KI-erzeugte Ideen ohne die willigen Mathematiker, die sich um ihre Entwicklung und Integration in den mathematischen Kanon kümmern müssen, niemals vollständig lebendig werden, und die entscheidende menschliche Übertragungskette zwischen Mathematikern ginge verloren.“

Da andere Mathematiker paranoid werden und sich fragen, ob ihre Codex-Nutzung wiederum in OpenAIs neue Modelle eingespeist wurde, gibt es echte Angst, dass die Kultur der offenen Forschung bedroht wird. Heute können Frontier-Labore, wenn sie einen nützlichen Weg zu einer Entdeckung sehen, zig Millionen Dollar ausgeben, um mit LLMs die ursprünglichen Forscher bei einem Beweis zu schlagen – eine Dynamik, die Geheimhaltung fördern wird, was historisch genau das Gegenteil davon ist, wie Mathematik funktionieren soll.

Dieser Brief folgt der Leiden-Erklärung, die im Juni von einer Arbeitsgruppe von Mathematikern veröffentlicht wurde. Dieses Dokument befasst sich ebenfalls mit den Arten und Weisen, wie LLM-Beweise ihre Arbeit verändern werden, und bietet eine Reihe von Empfehlungen für Mathematiker, Institutionen und politische Entscheidungsträger, vermutlich einschließlich „vielleicht auf Peer-Review warten“.

Wie bei der Softwareentwicklung und anderen Bereichen, in denen KI-Tools Arbeitsabläufe verändern, finden Mathematiker eine Rechtfertigung in der Arbeit um die Arbeit herum: Der Wert der Mathematik liegt nicht nur in den Beweisen und wer die Anerkennung bekommt, sondern in der intellektuellen Superstruktur, die Studenten nährt, neue Fragen und Ideen findet und sie in die breitere menschliche Zivilisation integriert. Mit anderen Worten: Die Antwort ist nicht der Punkt – das Streiten über die Antwort ist der Punkt.

Und wenn Sie sich nicht besonders für die mörderische Welt der hochriskanten mathematischen Beweise interessieren, vergessen Sie nicht: Ihr Interessengebiet ist als Nächstes dran.

„Die Probleme, mit denen die mathematische Gemeinschaft jetzt konfrontiert ist, ähneln den Problemen, mit denen andere wissenschaftliche und kreative Berufe konfrontiert sind, und deuten auf Probleme hin, mit denen die gesamte Menschheit konfrontiert sein könnte: wie man sicherstellt, dass wir, während KI die Art und Weise verändert, wie Arbeit erledigt wird, nicht aus den Augen verlieren, was diese Arbeit ursprünglich erreichen sollte“, schrieben sie. Was die diplomatischstmögliche Art ist zu sagen: Uns ging es gut, bevor Sie aufgetaucht sind.