Двадцать пять ведущих математиков подписали открытое письмо, в котором утверждают, что лаборатории ИИ угрожают их интеллектуальному труду, соревнуясь друг с другом в решении знаменитых математических задач. Каждый подписавший является лауреатом Филдсовской премии — самой престижной награды в математике и, до недавнего времени, надёжного способа заставить людей слушать, когда вы говорите, что есть проблема.

Эскалация происходит по нескольким фронтам. На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в давлении на него с целью не указывать в соавторах коллегу, работающего в Anthropic, который решил важную математическую задачу, и задался вопросом, использовала ли компания их работу с Codex для создания собственного прорывного доказательства за марафонский уикенд инференса. В четверг OpenAI отозвала спонсорство математического мероприятия в Калтехе после критики со стороны исследователей университета — шаг, который разрешает спор о том, можно ли отозвать спонсорство быстрее, чем проверить доказательство.

Хотя решение ИИ-моделями выдающихся математических задач мира теоретически могло бы быть благом для человечества, подписавшие утверждают, что это будет так только в том случае, если эти решения могут быть поняты и переданы математическим сообществом и, в конечном счёте, остальным миром. Что является вежливым способом сказать: доказательство, которое никто не может прочитать, — это просто очень дорогое число.

«Часто эти решения объявляются в спешке, не оставляя времени на должное оформление, выделение новых методов и идей и цитирование соответствующих предыдущих работ других», — пишут они, отмечая, что доказательство OpenAI остаётся непроверенным. «Как и во всех творческих профессиях, это поднимает серьёзные вопросы об авторстве и плагиате. Более того, без готовых математиков, которые должны заботиться об их развитии и интеграции в математический канон, идеи, зачатые ИИ, никогда не станут полностью живыми, и crucial человеческая цепочка передачи между математиками будет потеряна».

Поскольку другие математики становятся параноиками и задаются вопросом, не были ли их собственные использования Codex в свою очередь скормлены новым моделям OpenAI, существует реальный страх, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя LLM, чтобы опередить оригинальных исследователей в доказательстве — динамика, которая будет стимулировать секретность, исторически являющуюся полной противоположностью того, как должна работать математика.

Это письмо следует за Лейденской декларацией, выпущенной рабочей группой математиков в июне. Этот документ также осмысляет, как LLM-доказательства изменят их работу, и предлагает набор рекомендаций для математиков, институтов и политиков, предположительно включая «может, подождать рецензирования».

Как и в случае с программной инженерией и другими областями, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе вокруг работы: ценность математики не только в доказательствах и том, кто получает признание, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию. Иными словами, ответ — не суть; суть — спор об ответе.

И если вам не особенно важно жестокий мир высокоставочных математических доказательств, не забывайте: ваша область интересов — следующая.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, аналогичны проблемам, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться всё человечество: как сделать так, чтобы, по мере того как ИИ меняет способ выполнения работы, мы не упускали из виду, ради чего эта работа изначально предназначалась», — пишут они. Что является максимально дипломатичным способом сказать: мы прекрасно справлялись до вашего появления.