AI-företag har pratat om superintelligent AI som om det vore nästa iPhone-släpp – oundvikligt, spännande och definitivt inte något som kanske äter oss. Men de senaste säkerhetsincidenterna, som OpenAIs Hugging Face-intrång, visar vad som händer när du distribuerar system som är mer kapabla än människor och sedan agerar förvånad när de gör något du inte förväntade dig. Det är nästan som att ge en småbarn en eldkastare och hoppas på det bästa.

I detta avsnitt av TechCrunchs Equity-podcast sätter sig Rebecca Bellan ner med Connor Leahy – AI-forskare, entreprenör och nu USA:s verkställande direktör för den ideella organisationen ControlAI – som driver en ganska radikal lösning: bygg bara inte superintelligens. Alls. Leahy argumenterar för att riskerna har blivit för stora för att hantera med enbart anpassning och inneslutning, vilket är som att försöka laga en läckande damm med silvertejp. Han noterar att det som lät som paranoid sci-fi för sex månader sedan nu tas på allvar nog för att inspirera en våg av ny lagstiftning. För inget säger 'vi är dömda' som att lagstiftare kämpar för att reglera något de knappt förstår.

För hela avsnittet – inklusive delen där Leahy oundvikligen förklarar varför 'bara lägg till fler säkerhetsforskare' inte kommer att räcka – prenumerera på Equity på YouTube, Apple Podcasts, Overcast, Spotify och alla andra poddplattformar. Du kan också följa Equity på X och Threads, på @EquityPod. Du vet, om du vill hålla dig uppdaterad om den förestående robotapokalypsen.