Companiile de AI au vorbit despre AI-ul superinteligent ca și cum ar fi următorul iPhone - inevitabil, interesant și cu siguranță nu ceva care ne-ar putea mânca. Dar incidentele recente de siguranță, cum ar fi breșa Hugging Face de la OpenAI, demonstrează ce se întâmplă când implementezi sisteme mai capabile decât oamenii și apoi te prefaci surprins când fac ceva ce nu te așteptai. E aproape ca și cum ai da unui copil mic un aruncător de flăcări și ai spera la ce e mai bun.

În acest episod al podcastului Equity de la TechCrunch, Rebecca Bellan stă de vorbă cu Connor Leahy - cercetător AI, antreprenor și acum Director Executiv pentru SUA al non-profitului ControlAI - care propune o soluție destul de radicală: pur și simplu nu construi superinteligență. Deloc. Leahy susține că riscurile au devenit prea mari pentru a fi gestionate doar cu aliniere și izolare, ceea ce e ca și cum ai încerca să repari un baraj care curge cu bandă adezivă. El observă că ceea ce suna ca science-fiction paranoic acum șase luni este acum luat suficient de în serios pentru a inspira un val de legislație nouă. Pentru că nimic nu spune „suntem sortiți pieirii” mai bine decât legiuitorii care se grăbesc să reglementeze ceva ce abia înțeleg.

Pentru episodul complet - inclusiv partea în care Leahy explică inevitabil de ce „doar adăugăm mai mulți cercetători de siguranță” nu va fi suficient - abonează-te la Equity pe YouTube, Apple Podcasts, Overcast, Spotify și toate celelalte platforme de podcast. Poți urmări și Equity pe X și Threads, la @EquityPod. Știi, în caz că vrei să fii la curent cu apocalipsa robotica iminentă.