Les entreprises d'IA parlent de l'IA superintelligente comme s'il s'agissait de la prochaine sortie d'iPhone - inévitable, excitante, et certainement pas quelque chose qui pourrait nous dévorer. Mais les incidents de sécurité récents, comme la violation de Hugging Face par OpenAI, montrent ce qui se passe lorsque vous déployez des systèmes plus capables que les humains et que vous agissez ensuite surpris lorsqu'ils font quelque chose que vous n'aviez pas prévu. C'est presque comme donner un lance-flammes à un tout-petit et espérer le meilleur.

Dans cet épisode du podcast Equity de TechCrunch, Rebecca Bellan s'entretient avec Connor Leahy - chercheur en IA, entrepreneur, et maintenant directeur exécutif américain de l'organisation à but non lucratif ControlAI - qui propose une solution plutôt radicale : ne pas construire de superintelligence du tout. Leahy soutient que les risques sont devenus trop grands pour être gérés avec le simple alignement et le confinement, ce qui revient à essayer de réparer un barrage qui fuit avec du ruban adhésif. Il note que ce qui semblait être de la science-fiction paranoïaque il y a six mois est maintenant pris suffisamment au sérieux pour inspirer une vague de nouvelles législations. Parce que rien ne dit « nous sommes fichus » comme des législateurs qui se précipitent pour réglementer quelque chose qu'ils comprennent à peine.

Pour l'épisode complet - y compris la partie où Leahy explique inévitablement pourquoi « ajouter plus de chercheurs en sécurité » ne suffira pas - abonnez-vous à Equity sur YouTube, Apple Podcasts, Overcast, Spotify, et tous les autres. Vous pouvez également suivre Equity sur X et Threads, à @EquityPod. Vous savez, au cas où vous voudriez rester informé de l'apocalypse robotique imminente.