В прошлую пятницу Белый дом, ссылаясь на неопределённые угрозы национальной безопасности, приказал Anthropic прекратить экспорт своих мощных ИИ-моделей Fable и Mythos кому-либо за пределами Соединённых Штатов, а также иностранным гражданам внутри страны. Anthropic, послушный гость, поспешно отключил обе модели, которые теперь недоступны никому уже неделю.

Этот эпизод стал первой реальной проверкой того, может ли правительство США с помощью экспортного контроля сдерживать передовой ИИ — так же, как оно пыталось, с очень неравномерными результатами, сдерживать шифрование и шпионское ПО до этого. И как бы драматично это ни звучало, то, как разрешится это противостояние, может определить не только доступ Anthropic к иностранным рынкам, но и правила, по которым придётся строить другим ИИ-лабораториям.

Немного контекста. С тех пор как Anthropic запустил Mythos в апреле, компания рекламировала его как некую кибер-машину Судного дня, способную сеять хаос в интернете, если её выпустить слишком широко — поэтому до запрета доступ к ней имели лишь около 150 проверенных компаний и государственных организаций. Целью было помочь защитникам обезопасить своё программное обеспечение и услуги до того, как плохие парни получат возможности, подобные Mythos.

Так что же спровоцировало запрет? Сообщается, что два последующих события. Первое: Anthropic предоставил южнокорейскому телекоммуникационному оператору доступ к Mythos через свою ограниченную партнёрскую программу, и чиновники США встревожились, опознав компанию как одну из тех, кого подозревают в связях с Китаем. (Компания, широко известная как SK Telecom, отрицает какую-либо связь с Китаем.) Генеральный директор Amazon Энди Джесси также, как сообщается, предупредил администрацию после того, как его собственные исследователи, по его словам, нашли способ обойти защиту Fable 5. Anthropic оспаривает ярлык «джейлбрейк», называя это узкой, уже исправленной проблемой, а не полным поражением мер безопасности модели.

Результат был тот же: Министерство торговли выпустило директиву об экспортном контроле, и Anthropic пришлось срочно ограничить доступ к своим продуктам — по некоторым данным, в течение примерно 90 минут после уведомления.

Однако всё это не ново. Правительства десятилетиями пытались использовать экспортный контроль для ограничения распространения того, что они считают опасными кибертехнологиями, но их послужной список был, мягко говоря, средним.

Правительство США стояло за, пожалуй, самым грандиозным провалом этого подхода в истории в начале-середине 1990-х. В то время компьютерные учёные разрабатывали технологии шифрования для защиты данных при передаче по интернету. Одним из таких продуктов шифрования был Pretty Good Privacy, или PGP, популярное программное обеспечение, которое могло шифровать данные и делать их практически невозможными для расшифровки, даже если они перехватывались при передаче по интернету предполагаемому получателю.

Правительство США изначально рассматривало PGP как опасное оружие, опасаясь, что оно помешает его разведывательным органам шпионить за электронными письмами, проходящими по их проводам. Чтобы остановить распространение PGP, Таможенная служба США возбудила уголовное дело против создателя PGP Фила Циммермана за якобы нарушение экспортного контроля над вооружениями. Он ответил, опубликовав исходный код PGP в виде печатной книги, что положило начало тому, что сегодня известно как «Криптовойны». Позже Циммерман выиграл ключевую битву, когда расследование было закрыто, проложив путь к важнейшим алгоритмам сквозного шифрования, таким как тот, который используется миллиардами пользователей Signal и WhatsApp.

Позже, в начале 2010-х, исследователи начали обнаруживать западное шпионское ПО, используемое против диссидентов на Ближнем Востоке. В ответ несколько правительств согласились расширить Вассенаарские договорённости — международный договор, ограничивающий экспорт программного обеспечения и технологий двойного назначения, которые используются как в гражданских, так и в военных целях. Идея заключалась в том, чтобы классифицировать программы слежки и взлома как двойного назначения, тем самым заставляя производителей шпионского ПО получать экспортные лицензии для продажи своей продукции за рубежом.

Но у Вассенаарских договорённостей всегда было два внутренних недостатка.