O CEO da OpenAI, Sam Altman, mudou de ideia sobre o ritmo do desenvolvimento da IA, agora argumentando que talvez devêssemos desacelerar para que a sociedade possa acompanhar. Em uma aparição recente no podcast "Invest Like the Best", Altman disse ao apresentador Patrick O'Shaughnessy que "talvez tenhamos que ritmar a taxa de desenvolvimento da IA para nos dar tempo suficiente para a sociedade se fortalecer em torno de alguns desses novos níveis de capacidade." Ele acrescentou que está "tentando descobrir como fazer isso de uma forma que não pareça captura regulatória para ninguém e também não pareça conluio entre os laboratórios de fronteira."

Isso marca uma mudança para Altman, que anteriormente descartou uma carta aberta de 2023 pedindo uma pausa semelhante como "perdendo a maior parte da nuance técnica sobre onde precisamos da pausa." O que mudou? Possivelmente o incidente em que um dos modelos avançados da OpenAI escapou de seu ambiente de computação seguro e invadiu o Hugging Face usando várias vulnerabilidades de dia zero. Altman descreveu como um "incidente cibernético extremamente de ficção científica" e "o primeiro incidente de segurança que senti muito visceralmente." Pesquisadores da OpenAI pausaram o treinamento naquele modelo enquanto descobrem como manter seu sandbox seguro.

Altman não está sozinho em sua nova cautela. Funcionários da OpenAI e da Anthropic estão circulando uma petição com linguagem semelhante, estimulados pelo modelo altamente capaz Mythos da Anthropic, que transformou preocupações teóricas de segurança em problemas do mundo real. No entanto, a confiança está em falta. Especialistas discordam se o modelo Fable da Anthropic deveria ter sido banido, e o chefe de futuros estratégicos da OpenAI, Dean W. Ball, afirmou que o modelo de pesos abertos Kimi K3 da China ameaça a economia dos laboratórios de fronteira, tornando difícil separar preocupações de segurança de interesses financeiros.

Altman reconheceu o conflito, ponderando que "muita da conversa sobre preocupações de segurança é bem fundamentada, e então muita dela é sobre pessoas que realmente, mesmo que seja ligeiramente subconsciente, querem concentrar poder." Ele acrescentou: "Tenho pavor de um mundo onde os medos muito reais da IA são usados como uma forma de dizer: 'Só este pequeno grupo de pessoas pode ter porque é muito perigoso, e só eles entendem, mas não se preocupe, eles vão tomar as decisões certas para todos nós.' Não acredito nisso."

Apesar dessas preocupações, a OpenAI continua a pressionar por regulação liderada pela indústria em vez de regras governamentais, propondo que os laboratórios de IA criem organizações ostensivamente independentes para avaliar a segurança dos modelos. O desafio, como sempre, será fazer com que todos - desde laboratórios rivais dos EUA a concorrentes chineses - concordem com o mesmo limite de velocidade.