OpenAIで主要モデルリリースごとに付随する安全報告書を書いていたデビッド・ロビンソンが今週辞任し、『アトランティック』誌の論説で懸念を公にした。そう、またこれか。いや、自分たちが築くのを手伝ったまさにそのものについて警告する人々に少し皮肉を感じても間違いではない。しかし、その警告は残念ながら読む価値がある。

ロビンソンの主張は、問題は欠けている規則やあちこちの緩い規制ではない——文化そのものだというものだ。シリコンバレーは「極端な自信」と「絶え間ないスプリント」で動いており、「妨げられない楽観主義」でより大きくより良いモデルを次々と生み出しながら、それらのモデルがもたらす潜在的な問題を無視したり過小評価したりしている、と彼は言う。

彼の提案する修正は微妙ではない。AI企業には謙虚さと、テックの閉鎖的で「素早く動き、物を壊す」世界を超えて見る意欲が必要だと彼は主張する。具体的には、フロンティアラボはスタートアップというより原子力発電所や忙しい空港のように運営されるべきだ——冗長性の層と注意深く時間のかかる計画を持ち、時折避けられない人為的ミスが災害への扉を開かないようにするべきだと。

ロビンソンは、著名なAI企業を去る研究者や安全担当者の長い行列の最新例だ。ジェイコブ・コクソンがアンソロピックを辞め、AIは「この10年の終わりまでに我々全員を殺す可能性がある」と公に述べたことで脱出を始めたようだ。彼に続いて、Google DeepMindのロバート・オキャラハン、ビラル・チュグタイ、ジョシュ・エンゲルス、そしてアンソロピックのジョー・ベントンが続いた。