Компании, занимающиеся ИИ, говорили о сверхинтеллектуальном ИИ так, будто это следующий релиз iPhone — неизбежно, захватывающе и, конечно, не то, что может нас съесть. Но недавние инциденты в области безопасности, такие как взлом Hugging Face от OpenAI, демонстрируют, что происходит, когда вы развертываете системы, более способные, чем люди, а затем удивляетесь, когда они делают что-то, чего вы не ожидали. Это почти как дать малышу огнемет и надеяться на лучшее.

В этом выпуске подкаста Equity от TechCrunch Ребекка Беллан беседует с Коннором Лихи — исследователем ИИ, предпринимателем и теперь исполнительным директором некоммерческой организации ControlAI в США — который продвигает довольно радикальное решение: просто не создавать сверхинтеллект. Вообще. Лихи утверждает, что риски стали слишком велики, чтобы управлять ими с помощью простого выравнивания и сдерживания, что похоже на попытку залатать протекающую плотину скотчем. Он отмечает, что то, что звучало как параноидальная научная фантастика шесть месяцев назад, теперь воспринимается достаточно серьезно, чтобы вдохновить волну нового законодательства. Потому что ничто так не говорит «мы обречены», как законодатели, пытающиеся регулировать то, что они едва понимают.

Полный эпизод — включая ту часть, где Лихи неизбежно объясняет, почему «просто добавьте больше исследователей безопасности» не сработает — подпишитесь на Equity на YouTube, Apple Podcasts, Overcast, Spotify и всех других подкаст-платформах. Вы также можете следить за Equity в X и Threads, @EquityPod. Ну, знаете, на случай, если вы хотите быть в курсе надвигающегося апокалипсиса роботов.