AI 기업들은 초지능 AI를 마치 다음 아이폰 출시처럼 이야기해왔다 - 피할 수 없고, 흥미진진하며, 확실히 우리를 잡아먹을 것 같은 것은 아니다. 그러나 OpenAI의 Hugging Face 침해 같은 최근 안전 사고들은 인간보다 더 유능한 시스템을 배치하고, 그들이 예상치 못한 일을 했을 때 놀라는 일이 무엇인지 보여주고 있다. 마치 유아에게 화염방사기를 주고 최선을 바라는 것과 같다.

TechCrunch의 Equity 팟캐스트 이번 에피소드에서 Rebecca Bellan은 AI 연구원이자 기업가, 그리고 비영리 단체 ControlAI의 미국 지부장인 Connor Leahy와 대화를 나눴다. 그는 상당히 급진적인 해결책을 주장하고 있다: 초지능을 아예 만들지 말라는 것이다. 전혀. Leahy는 위험이 정렬과 격리만으로 관리하기에는 너무 커졌다고 주장한다. 이는 마치 새는 댐을 덕트 테이프로 고치려는 것과 같다. 그는 6개월 전만 해도 편집증적인 공상과학처럼 들렸던 것이 이제는 새로운 법안의 물결을 촉발할 만큼 진지하게 받아들여지고 있다고 지적한다. 입법자들이 간신히 이해하는 것을 규제하려고 안간힘을 쓰는 것보다 '우리는 끝났다'는 것을 더 잘 말해주는 것은 없다.

전체 에피소드를 보려면 - Leahy가 왜 '안전 연구원을 더 추가하는 것'으로는 충분하지 않은지 설명하는 부분을 포함하여 - YouTube, Apple Podcasts, Overcast, Spotify 및 모든 캐스트에서 Equity를 구독하십시오. 또한 X와 Threads에서 @EquityPod로 Equity를 팔로우할 수 있습니다. 임박한 로봇 종말에 대한 최신 소식을 원할 경우에 대비해서 말이죠.