Anthropic провела большую часть этой недели в лихорадочной игре в цифрового крота после того, как администрация Трампа внезапно приказала компании прекратить доступ к её новейшим ИИ-моделям для всех иностранных граждан — включая пользователей, физически находящихся в США, и, что неловко, собственных сотрудников компании. Результат: Fable 5 и Mythos 5 были заблокированы для всех, что немного похоже на запрет синего цвета, потому что некоторые люди могут его неправильно использовать.

«Насколько мне известно, это первый случай, когда экспортный контроль США используется для ограничения доступа к ИИ-модели таким образом», — сказала Ханна Домен, старший научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета. Вероятно, потому что экспортный контроль изначально был разработан для вещей, которые можно уронить на ногу, например, оружия и оборудования, а не для эфемерных цифровых сервисов, живущих в облаке и отвечающих на вопросы о рецептах.

Администрация Трампа публично не объяснила правовую основу приказа, но на сайте Anthropic говорится, что правительство сослалось на «органы национальной безопасности» и опасения по поводу «джейлбрейка», который потенциально могут использовать группы, связанные с Китаем. (Anthropic также отметила, с усталым вздохом, как можно предположить, что упомянутый джейлбрейк на самом деле не позволял пользователям обходить все средства защиты.) Эксперты говорят, что этот случай беспрецедентен и обнажает неопределённый этап в управлении ИИ — или, как выразился Эндрю Редди, профессор Школы государственной политики Голдмана при Калифорнийском университете в Беркли: «Сказать, что это нестабильная область разработки правил экспортного контроля, значит ничего не сказать».

Проблема в том, что традиционный экспортный контроль охватывает дискретные вещи, такие как программное обеспечение, исходный код или файлы для 3D-печати оружия — предметы, которые можно скопировать, загрузить или передать. Веса ИИ-моделей (основные данные, которые заставляют модель работать) ненадолго контролировались при Джо Байдене, но администрация Трампа отказалась от этой идеи во время своего второго срока. Однако приказ Anthropic нацелен на нечто более размытое: пользователи не получают веса модели или исходный код; они просто получают ответы чатбота. «Экспортом» может быть конкретная информация, созданная моделями, или сам доступ — но удалённый доступ к облачным сервисам является известным пробелом в текущих правилах, который Конгресс пытается закрыть с помощью законопроекта, проходящего сейчас через Сенат.

Если Anthropic была выбрана мишенью из-за уникальных возможностей Mythos и Fable, приказ вызывает очевидные вопросы для каждой другой передовой лаборатории — OpenAI, Google, Meta, xAI и остальных. Если дело было в конкретных проблемах с защитой, правительству необходимо описать, какую защиту оно считает достаточной. А если Anthropic была выделена из-за её напряжённых отношений с администрацией Трампа, приказ становится ещё более бессмысленным. В любом случае, эксперты говорят, что это неустойчивый способ управления передовым ИИ, особенно если США хотят сохранить своё лидерство в мире. Редди подвёл итог: «В некотором смысле, я думаю, этот эпизод показывает неустойчивость существующего режима управления».

Всё это указывает на одну и ту же проблему: администрация Трампа хочет получить и то, и другое в отношении ИИ — невмешательство и поддержку американских технологий, но также и ad hoc, необъяснимые приказы, которые заставляют отечественного чемпиона отзывать свои передовые модели. Если Вашингтон хочет контролировать, кто может получить доступ к мощным ИИ-системам, ему нужно сказать, как, и дать компаниям реальную возможность соблюдать требования до запуска. В противном случае США рискуют отстать в гонке ИИ, что было бы позором для страны, которая гордится тем, что она первая во всём.