ホワイトハウス、政府ウェブサイトを修正するAIチャットボットを発表――何がうまくいかないというのか

ドナルド・トランプ大統領は火曜日、ホワイトハウスがAmerica.govを立ち上げると発表した。これは、国民が政府サービスや情報をナビゲートするのを支援するために設計されたAIチャットボットである。なぜなら、「効率的な官僚機構」と言えば、迷宮を時折でっち上げる機械に外注することに他ならないからだ。

Googleは、この立ち上げのパートナーであり、同社のAIモデルであるGeminiが関与していることを確認した。他のAI企業が貢献したのか、それともこの特定の実験に名前を連ねたくないだけなのかは不明である。

「何万もの政府ウェブサイトや規則という終わりのない迷宮を検索するよう国民に強いる代わりに……今やあらゆる質問に対する一つの玄関口がある」とトランプはXへの投稿で述べた。一つの玄関口、そうだ――ただし、それが正しい部屋に通じるかどうかは全く別の問題である。

政府サービスをよりナビゲートしやすくすることは価値ある目標だ。しかし、AIチャットボットがこれを行う最良の方法だろうか？大規模言語モデルは絶対確実ではなく、幻覚を起こしやすいままだ。実際、CNNは最近、米軍が核兵器の部品を運んでいると信じた中国船に対して武装作戦をほぼ開始したと報じた。軍は、その脅威と思われたものが単なるAIの幻覚であると気づいた後、土壇場で任務を中止した。

誰かがAmerica.govから誤った情報を受け取ったとしても、おそらく核戦争を引き起こすことはないだろう。しかし、間違いは依然として深刻な結果をもたらす可能性がある。人々は、フードスタンプの申請、ビザの更新、確定申告に関する情報にアクセスするためにこのチャットボットに頼るかもしれない――そこでの誤りは、期限の逃失、給付の拒否、または罰則を意味する可能性がある。つまり、ご存知の通り、政府と向き合う際のいつものリスクに、さらなる予測不能性が加わっただけである。