As empresas de IA têm falado sobre IA superinteligente como se fosse o próximo lançamento do iPhone - inevitável, empolgante e definitivamente algo que não vai nos devorar. Mas incidentes recentes de segurança, como a violação do Hugging Face da OpenAI, estão demonstrando o que acontece quando você implanta sistemas mais capazes do que humanos e depois age surpreso quando eles fazem algo que você não esperava. É quase como dar um lança-chamas a uma criança e torcer para o melhor.

Neste episódio do podcast Equity da TechCrunch, Rebecca Bellan conversa com Connor Leahy - pesquisador de IA, empreendedor e agora Diretor Executivo nos EUA da organização sem fins lucrativos ControlAI - que está defendendo uma solução bastante radical: simplesmente não construir superinteligência. De jeito nenhum. Leahy argumenta que os riscos se tornaram grandes demais para serem gerenciados com mero alinhamento e contenção, o que é como tentar consertar uma represa vazando com fita adesiva. Ele observa que o que soava como ficção científica paranoica há seis meses agora está sendo levado a sério o suficiente para inspirar uma onda de nova legislação. Porque nada diz 'estamos condenados' como legisladores correndo para regulamentar algo que mal entendem.

Para o episódio completo - incluindo a parte onde Leahy inevitavelmente explica por que 'apenas adicionar mais pesquisadores de segurança' não vai resolver - assine o Equity no YouTube, Apple Podcasts, Overcast, Spotify e todos os outros. Você também pode seguir o Equity no X e Threads, em @EquityPod. Sabe, caso você queira se manter atualizado sobre o apocalipse robótico iminente.