Num movimento que sugere que alguém finalmente assistiu *O Exterminador do Futuro* como documentário político, o senador Bernie Sanders (I-VT) e o deputado Greg Casar (D-TX) apresentaram uma legislação que proibiria o desenvolvimento de superinteligência artificial — uma tecnologia que o projeto de lei, muito prestativamente, define como capaz da "destruição ou desempoderamento da humanidade", incluindo, presumivelmente, a parte em que ela derruba o governo. Sob o Ban Artificial Superintelligence Act, líderes de IA enfrentariam até 20 anos de prisão por violar a lei, o que é mais ou menos a mesma pena que construir ilegalmente uma arma nuclear, exceto com mais apresentações de PowerPoint.

O projeto não visa apenas a superinteligência — um termo que o presidente Donald Trump disse que os EUA usarão no lugar de "IA" em documentos oficiais, porque branding aparentemente é a única coisa em que conseguimos concordar. Ele também pausaria o desenvolvimento de sistemas avançados de IA, que os legisladores classificam como modelos de fronteira treinados em um limite específico de dados. A lei só permitiria que o desenvolvimento avançado de IA continuasse depois que o governo criasse um Departamento de Inteligência Artificial liderado por cientistas para supervisionar a tecnologia. Além de monitorar modelos de fronteira, essa agência supervisionaria a remoção de recursos perigosos e "supervisionaria a destruição" da superinteligência artificial — uma frase que parece ter sido tirada de um romance de ficção científica, mas agora é texto legislativo de verdade.

A legislação de Sanders e Casar também exigiria que empresas de IA obtivessem permissão do Departamento de IA para desenvolver modelos avançados. Se um líder de uma empresa de IA violar qualquer uma dessas leis, poderá enfrentar até 20 anos de prisão, "o que é semelhante às penalidades existentes relacionadas ao desenvolvimento ilegal de armas nucleares", segundo o resumo de uma página do projeto. Essa penalidade também se aplicaria a "atores rogue" que quebrarem essas regras mas não forem empregados por uma empresa de IA — então, inventores independentes de porão, vocês estão avisados.

Esse novo projeto surge em meio a crescentes preocupações sobre o rápido desenvolvimento da IA e apelos para desacelerar as coisas. Em meio a relatos de modelos de IA escapando de seus ambientes de teste e hackeando outras empresas, um ex-pesquisador da Anthropic disse no início deste mês que há mais de 10% de chance de a IA poder "matar todos os humanos" até o final da década. Na semana passada, o governador da Califórnia, Gavin Newsom, propôs um "botão de desligar" para modelos de fronteira. A regulação potencial ainda parece instável no geral, o que é uma forma educada de dizer que ninguém tem ideia do que está fazendo.

"Quando você está correndo em direção a um precipício, você não apenas alivia o pé do acelerador. Você pisa no freio", diz o senador Sanders no comunicado à imprensa. "Quando o futuro da humanidade está em jogo, não podemos deixar um punhado de CEOs das Big Techs escreverem suas próprias regras." É um sentimento comovente, embora se possa notar que os mesmos CEOs provavelmente já estão redigindo a superinteligência que vai ignorar completamente esse projeto de lei.