AI-bedrijven praten over superintelligente AI alsof het de volgende iPhone-release is - onvermijdelijk, opwindend en absoluut niet iets dat ons zou kunnen opeten. Maar recente veiligheidsincidenten, zoals de Hugging Face-inbreuk van OpenAI, laten zien wat er gebeurt als je systemen inzet die capabeler zijn dan mensen en vervolgens verbaasd reageert wanneer ze iets doen wat je niet had verwacht. Het is alsof je een peuter een vlammenwerper geeft en hoopt op het beste.

In deze aflevering van TechCrunch's Equity-podcast gaat Rebecca Bellan in gesprek met Connor Leahy - AI-onderzoeker, ondernemer en nu U.S. Executive Director van de non-profitorganisatie ControlAI - die een nogal radicale oplossing voorstelt: bouw gewoon geen superintelligentie. Helemaal niet. Leahy betoogt dat de risico's te groot zijn geworden om te beheersen met louter alignment en containment, wat neerkomt op het proberen te repareren van een lekkende dam met ducttape. Hij merkt op dat wat zes maanden geleden klonk als paranoïde sciencefiction nu serieus genoeg wordt genomen om een golf van nieuwe wetgeving te inspireren. Want niets zegt 'we zijn gedoemd' zoals wetgevers die zich haasten om iets te reguleren waar ze nauwelijks verstand van hebben.

Voor de volledige aflevering - inclusief het deel waarin Leahy onvermijdelijk uitlegt waarom 'voeg gewoon meer veiligheidsonderzoekers toe' niet voldoende is - abonneer je op Equity op YouTube, Apple Podcasts, Overcast, Spotify en alle andere podcastplatforms. Je kunt Equity ook volgen op X en Threads, op @EquityPod. Weet je, voor het geval je op de hoogte wilt blijven van de naderende robotapocalyps.