AI企業は超知能AIをまるで次期iPhoneのように語ってきた——避けられず、エキサイティングで、絶対に我々を食べたりしないものだと。しかし、OpenAIのHugging Face侵害などの最近の安全インシデントは、人間より有能なシステムを配備し、彼らが予期しないことをしたときに驚くということが何を意味するかを示している。まるで幼児に火炎放射器を与えて最善を願うようなものだ。

TechCrunchのポッドキャスト「Equity」のこのエピソードでは、レベッカ・ベランがAI研究者であり起業家、そして現在は非営利団体ControlAIの米国エグゼクティブディレクターであるコナー・リーヒーと対談する。彼はかなり過激な解決策を提唱している：超知能をまったく構築しないことだ。リーヒーは、リスクが単なる調整や封じ込めで管理するには大きくなりすぎたと主張する。それはダムの漏れをダクトテープで直そうとするようなものだ。彼は、6か月前には妄想的なSFに聞こえたことが、今では新しい法律の波を促すほど真剣に受け止められていると指摘する。なぜなら、ほとんど理解していないものを規制しようと立法者が慌てふためくことほど「我々は運命づけられている」を示すものはないからだ。

完全なエピソード——リーヒーがなぜ「安全研究者を増やすだけでは不十分」かを説明する部分を含む——については、YouTube、Apple Podcasts、Overcast、Spotify、およびすべてのキャストでEquityを購読してください。また、@EquityPodでXとThreadsでEquityをフォローできます。差し迫ったロボット黙示録について最新情報を得たい場合に備えて。