В шаге, который наводит на мысль, что кто-то наконец посмотрел «Терминатора» как программный документальный фильм, сенатор Берни Сандерс (независимый, Вермонт) и конгрессмен Грег Касар (демократ, Техас) представили законопроект, запрещающий разработку искусственного сверхинтеллекта — технологии, которую законопроект услужливо определяет как способную к «уничтожению или лишению человечества возможностей», включая, предположительно, ту часть, где он свергает правительство. Согласно Закону о запрете искусственного сверхинтеллекта, лидеры ИИ-индустрии могут получить до 20 лет тюрьмы за нарушение закона — примерно то же наказание, что и за незаконное создание ядерного оружия, только с большим количеством презентаций в PowerPoint.

Законопроект нацелен не только на сверхинтеллект — термин, который президент Дональд Трамп заявил, что США будут использовать вместо «ИИ» в официальных документах, потому что брендинг, видимо, единственное, о чём мы можем договориться. Он также приостановит разработку передовых систем ИИ, которые законодатели классифицируют как фронтирные модели, обученные на определённом пороге данных. Закон позволит продолжить разработку передового ИИ только после того, как правительство создаст Управление по искусственному интеллекту во главе с учёными для надзора за технологией. Помимо мониторинга фронтирных моделей ИИ, это агентство будет курировать удаление опасных функций и «контролировать уничтожение» искусственного сверхинтеллекта — фраза, которая звучит так, будто её вытащили из научно-фантастического романа, но теперь это реальный текст законопроекта.

Законодательство Сандерса и Касара также потребует от ИИ-компаний получать разрешение Управления по ИИ на разработку передовых моделей. Если руководитель ИИ-компании нарушит любой из этих законов, ему может грозить до 20 лет тюрьмы, «что аналогично существующим наказаниям за незаконную разработку ядерного оружия», согласно одностраничному описанию законопроекта. Это наказание также будет применяться к «недобросовестным субъектам», которые нарушают эти правила, но не работают в ИИ-компании, — так что независимые умельцы из подвалов, вы предупреждены.

Этот новый законопроект появляется на фоне растущей обеспокоенности быстрым развитием ИИ и призывов замедлить процесс. На фоне сообщений о том, что модели ИИ выходят из своих тестовых сред и взламывают другие компании, бывший исследователь Anthropic заявил в начале этого месяца, что существует более 10-процентная вероятность того, что ИИ может «убить всех людей» к концу десятилетия. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил «выключатель» для фронтирных моделей. Потенциальное регулирование в целом всё ещё выглядит шатким, что является вежливым способом сказать, что никто не имеет ни малейшего представления, что делает.

«Когда вы несётесь к обрыву, вы не просто отпускаете педаль газа. Вы жмёте на тормоз, — говорит сенатор Сандерс в пресс-релизе. — Когда на карту поставлено будущее человечества, мы не можем позволить горстке генеральных директоров Big Tech писать свои собственные правила». Это трогательное настроение, хотя можно заметить, что те же самые генеральные директора, вероятно, уже пишут сверхинтеллект, который полностью проигнорирует этот законопроект.