David Robinson, que costumava escrever os relatórios de segurança que acompanhavam cada grande lançamento de modelo na OpenAI, pediu demissão esta semana e tornou públicas suas preocupações em um artigo de opinião na The Atlantic. Sim, é mais um desses. Não, você não está errado em sentir um pouco de cinismo em relação a pessoas que nos alertam sobre exatamente aquilo que ajudaram a construir. Mas os alertas, infelizmente, continuam valendo a pena ser lidos.

O argumento de Robinson é que o problema não é uma regra faltando ou uma regulamentação frouxa aqui e ali — é a cultura em si. O Vale do Silício, ele diz, funciona com "confiança extrema" e "sprints perpétuos", produzindo modelos cada vez maiores e melhores com "otimismo desimpedido", enquanto ignora ou subestima os problemas potenciais que esses modelos trazem consigo.

Sua solução proposta não é sutil. As empresas de IA, ele argumenta, precisam de humildade e disposição para olhar além do mundo insular e acelerado da tecnologia. Especificamente, ele diz que os laboratórios de fronteira deveriam operar menos como startups e mais como usinas nucleares ou aeroportos movimentados — com camadas de redundância e planejamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra a porta para o desastre.

Robinson é o mais recente em uma parada cada vez maior de pesquisadores e trabalhadores de segurança que abandonam empresas proeminentes de IA. Jacob Coxon parece ter iniciado o êxodo ao pedir demissão da Anthropic e depois declarar publicamente que a IA "poderia nos matar todos até o final da década". Ele foi seguido por Robert O'Callahan, Bilal Chughtai e Josh Engels no Google DeepMind, junto com Joe Benton na Anthropic.