No final do mês passado, a OpenAI lançou uma missão bastante grandiosa: nada menos que defender a liberdade política individual em uma era de máquinas todo-poderosas. A equipe "Strategic Futures" da empresa se posicionou, em certo sentido, como herdeira da tarefa dos Pais Fundadores da América: "Trabalhamos a serviço dos ideais de liberdade de expressão e liberdade individual consagrados no humilde pergaminho da Constituição dos EUA", escreveu Dean Ball, líder da equipe, em uma nova postagem no blog da OpenAI. (A postagem abre com uma citação de James Madison em O Federalista.)

Ball teme que a IA avançada possa concentrar radicalmente o poder nas mãos daqueles que a controlam, deslocando o trabalho de maneiras que desempoderam os humanos. Em um cenário extremo, os governos não teriam necessidade de ouvir seus cidadãos se houver robôs para travar guerras e software onisciente para administrar a burocracia. Ball está interessado em estudar quais novas instituições políticas poderiam ser necessárias para evitar esse destino.

Muitos americanos - uma maioria que expressa desconfiança em relação à indústria de IA, indignação com os data centers e medos sobre sua segurança no emprego - já parecem estar sentindo essa perda de agência muito profundamente. E o boom da IA já gerou enormes quantidades de riqueza em apenas um punhado de empresas de tecnologia - incluindo a própria OpenAI. No mínimo, é paradoxal que uma das empresas mais influentes da indústria mais poderosa do mundo critique a concentração de poder possibilitada pela IA. Então, entrei em contato com Ball para entender mais sobre sua inquietação em relação à indústria em que trabalha e como ele quer ver os Estados Unidos se adaptarem à IA.

Ball, que estuda políticas de IA, é uma espécie de celebridade menor na indústria. No ano passado, ele se juntou à Casa Branca como conselheiro de IA e ajudou a escrever o Plano de Ação de IA da administração Trump, um roteiro de políticas para a tecnologia. Ele eventualmente deixou o cargo, aparentemente em bons termos, antes de criticar publicamente a administração durante sua disputa com a Anthropic no início deste ano. Então, em julho, ele se juntou à OpenAI. "Minha visão é que basicamente temos IA transformadora no mundo agora", Ball me disse. "Você está vivendo em um mundo que está sendo transformado. Está acontecendo."

Esta conversa foi editada por extensão e clareza.

Matteo Wong: Você escreve que a concentração de poder por meio da IA pode derrubar as liberdades humanas básicas consagradas na Constituição dos EUA. Você pode elaborar como?

Dean Ball: Fundamentalmente, o poder político é a capacidade geograficamente limitada de exercer o monopólio da força legítima e da violência. Fazer isso até agora exigiu a cooperação de um grande número de seres humanos. Você precisava de militares, precisava de pessoas nesses militares, e precisava de pessoas para manter esses militares alimentados e abastecidos. E precisava de pessoas para pagar por tudo isso por meio de impostos. Então as pessoas tinham um assento à mesa porque, em certo sentido, tudo está sendo fornecido por elas.

Agora você tem que assumir que a robótica vai avançar em breve da mesma forma que a inteligência digital geral avançou. Talvez demore mais do que eu penso. Mas nesse ponto, a capacidade de projetar violência não requer mais pessoas. E também é concebível que a IA possa gerar receita suficiente para que o governo não precise depender de tributar as pessoas.

Se você olhar para a política da IA, acho que os americanos são espertos e têm a sensação de que seu assento à mesa pode estar ficando menor. Eles estão certos em ter medo.

Wong: Você está falando sobre concentração de poder no governo, mas a IA generativa é uma tecnologia desenvolvida no setor privado. Há potencial para uma concentração de poder rara e até sem precedentes na indústria. Que riscos isso representa?

Ball: Você não está tentando evitar toda concentração de poder, mas sim equilibrá-la. Se esta era der origem a corporações que tenham uma quantidade tremenda de poder no mundo, acho que isso é bom - desde que essas organizações sejam governadas. Em outras palavras, desde que o governo que as supervisiona