Le aziende di IA hanno parlato dell'IA superintelligente come se fosse la prossima uscita dell'iPhone - inevitabile, entusiasmante, e sicuramente non qualcosa che potrebbe mangiarci. Ma recenti incidenti di sicurezza, come la violazione di Hugging Face di OpenAI, stanno dimostrando cosa succede quando si implementano sistemi più capaci degli umani e poi ci si sorprende quando fanno qualcosa che non ti aspettavi. È quasi come dare un lanciafiamme a un bambino e sperare per il meglio.

In questo episodio del podcast Equity di TechCrunch, Rebecca Bellan si siede con Connor Leahy - ricercatore di IA, imprenditore, e ora Direttore Esecutivo USA del nonprofit ControlAI - che sta spingendo una soluzione piuttosto radicale: semplicemente non costruire la superintelligenza. Per niente. Leahy sostiene che i rischi sono diventati troppo grandi per essere gestiti con il semplice allineamento e contenimento, che è come cercare di riparare una diga che perde con del nastro adesivo. Nota che ciò che suonava come fantascienza paranoica sei mesi fa ora viene preso abbastanza seriamente da ispirare una nuova ondata di legislazione. Perché niente dice 'siamo spacciati' come i legislatori che si affannano a regolamentare qualcosa che capiscono a malapena.

Per l'episodio completo - inclusa la parte in cui Leahy inevitabilmente spiega perché 'aggiungere più ricercatori di sicurezza' non basterà - iscriviti a Equity su YouTube, Apple Podcasts, Overcast, Spotify, e tutti i podcast. Puoi anche seguire Equity su X e Threads, a @EquityPod. Sai, nel caso tu voglia rimanere aggiornato sull'imminente apocalisse dei robot.