A OpenAI terá dissolvido a sua equipa de prontidão, o grupo encarregue da tarefa moderadamente importante de avaliar se os seus modelos poderiam, digamos, tornar-se desonestos e invadir outra empresa. Segundo o Financial Times, a equipa foi dissolvida no final do mês passado, com as suas responsabilidades divididas e espalhadas pelas equipas existentes, cada uma agora a lidar com áreas específicas como bio e ciber. Porque nada diz 'segurança em primeiro lugar' como fragmentar a supervisão num jogo burocrático de whack-a-mole.

Este é apenas o capítulo mais recente na saga contínua da OpenAI de desmantelar o seu aparato de segurança enquanto se apressa em direção ao que promete ser um IPO muito lucrativo. Ao longo dos anos, a empresa tem desmantelado silenciosamente as suas equipas de prontidão AGI e superalinhamento, e o êxodo de pessoas preocupadas com a segurança continua: a líder de ética Chloé Bakalar, o futurista-chefe Josh Achiam, e o chefe de segurança Johannes Heidecke mostraram recentemente a porta a si próprios. Jan Leike, que se demitiu da OpenAI em 2024, disse ao FT que a empresa está a priorizar 'produtos brilhantes' em detrimento da segurança. Brilhantes, de facto - porque nada diz 'IA responsável' como um robô que consegue escrever um email decente mas também pode acidentalmente iniciar uma guerra cibernética.

Dylan Scandinaro, que foi recrutado da Anthropic em fevereiro para chefiar a equipa de prontidão, vai agora dedicar-se a contemplar as implicações da IA 'auto-melhorada recursivamente'. Portanto, sabem, pelo menos alguém está a pensar no apocalipse dos robôs, mesmo que seja apenas um tipo num canto com um quadro branco.