В конце прошлого месяца OpenAI запустила довольно грандиозную миссию: ни много ни мало защита индивидуальной политической свободы в эпоху всемогущих машин. Команда компании «Стратегические фьючерсы» в некотором смысле позиционирует себя как наследница дела отцов-основателей Америки: «Мы трудимся на службе идеалов свободы слова и индивидуальной свободы, которые закреплены в скромном пергаменте Конституции США», — написал Дин Болл, руководитель команды, в новом посте в блоге OpenAI. (Пост открывается цитатой из Джеймса Мэдисона в «Федералисте».)

Болл опасается, что продвинутый ИИ может радикально сконцентрировать власть в руках тех, кто его контролирует, вытесняя труд способами, лишающими людей силы. В крайнем сценарии правительствам не нужно будет прислушиваться к гражданам, если есть роботы для ведения войн и всеведущее программное обеспечение для управления бюрократией. Болл заинтересован в изучении того, какие новые политические институты могут понадобиться, чтобы избежать этой участи.

Многие американцы — большинство из которых выражают недоверие к ИИ-индустрии, возмущение по поводу центров обработки данных и опасения за свою работу — уже, похоже, глубоко ощущают эту потерю субъектности. А бум ИИ уже породил огромные богатства в горстке технологических компаний, включая саму OpenAI. Мягко говоря, парадоксально, когда одна из самых влиятельных компаний в самой мощной отрасли мира осуждает концентрацию власти, обусловленную ИИ. Поэтому я связался с Боллом, чтобы лучше понять его беспокойство по поводу отрасли, в которой он работает, и как он хочет, чтобы США адаптировались к ИИ.

Болл, изучающий политику в области ИИ, является своего рода мини-знаменитостью в отрасли. В прошлом году он присоединился к Белому дому в качестве советника по ИИ и помог написать План действий по ИИ администрации Трампа — дорожную карту политики для этой технологии. В конце концов он ушел, казалось, в хороших отношениях, из администрации, прежде чем публично раскритиковал ее во время ее спора с Anthropic в начале этого года. Затем, в июле, он присоединился к OpenAI. «Моя точка зрения состоит в том, что у нас сейчас в мире есть трансформативный ИИ», — сказал мне Болл. «Вы живете в мире, который трансформируется. Это происходит».

Этот разговор был отредактирован для длины и ясности.

Маттео Вонг: Вы пишете, что концентрация власти через ИИ может ниспровергнуть основные свободы человека, закрепленные в Конституции США. Не могли бы вы подробнее рассказать, как?

Дин Болл: По сути, политическая власть — это географически ограниченная способность обладать монополией на легитимное применение силы и насилия. До сих пор для этого требовалось сотрудничество множества людей. Нужны были армии, нужны были люди в этих армиях, и нужны были люди, чтобы кормить и снабжать эти армии. И нужны были люди, чтобы платить за все это через налоги. Так что у людей было место за столом, потому что в некотором смысле все обеспечивается ими.

Теперь вы должны предположить, что робототехника скоро продвинется так же, как и общий цифровой интеллект. Может быть, это займет больше времени, чем я думаю. Но в этот момент способность проецировать насилие больше не требует людей. И также возможно, что ИИ может генерировать достаточный доход, чтобы правительству не нужно было полагаться на налогообложение людей.

Если вы посмотрите на политику ИИ, я думаю, американцы умны и чувствуют, что их место за столом может уменьшаться. Они правы, что боятся.

Вонг: Вы говорите о концентрации власти в правительстве, но генеративный ИИ — это технология, разработанная в частном секторе. Существует потенциал для редкой и даже беспрецедентной концентрации власти в промышленности. Какие риски это представляет?

Болл: Вы не пытаетесь избежать всей концентрации власти, а сбалансировать ее. Если эта эпоха породит корпорации, обладающие огромной властью в мире, я думаю, это хорошо — при условии, что эти организации управляются. Другими словами, при условии, что правительство, которое их контролирует