OpenAIはChatGPTの記憶機能の改善を発表し、同社はかなり誇りに思っている。しかし、筆者はそうではない。実際、改善をオフにすると事態が悪化するだけだと確信している。
記憶——ChatGPTと共有する詳細——は2024年に単純な事実のリストとして導入された。今では、チャット履歴全体、明示的な指示、個人的な制約、さらには過去の行動や何気ない発言からAIが導き出す暗黙の好みまで含むように拡張された。「役立つアシスタント」と言えば、あなたが猫が好きだと一度言ったのを覚えていて、今ではすべての返答に猫の事実を盛り込むAIほど役立つものはない。
技術的な詳細はOpenAIのブログ投稿から来ている。2024年以前、ChatGPTにはまったく記憶がなかった。各チャットセッションは、無知の美しい孤立した雪の結晶だった。その後2024年に、OpenAIは保存された記憶——すぐに古くなる事実のリスト——を導入した。筆者自身の記憶には、何年も前の関連性のない3つの項目がまだ残っており、AIでさえ役に立たない情報を保持する呪いから逃れられないことを証明している。
2025年、OpenAIは「夢見る」機能を導入した。これは、モデルが明示的に指示されなくてもバックグラウンドでチャット履歴を参照する機能だ。今、2026年、Dreaming V3が登場した。これはチャット履歴をスキャンするだけでなく、データ合成を実行し、あなたに関する報告書を作成するが、それは常に正確とは限らない。筆者はKasaスマートプラグの経験についてChatGPTに尋ねたところ、AIは自信満々に「モニタリングをHome Assistantに移した」と答えた。筆者はHome Assistantをインストールしたことがない。Kasaプラグはギア箱の中に眠っている。
OpenAIの広報担当者はZDNETに次のように語った：「あなたが見ているのは、ChatGPTが覚えているかもしれない事実の完全な目録ではなく、新しい高レベルの記憶サマリーです。全体像を確認し修正しやすくするためのものです。」言い換えれば、AIはあなたについて仮定を立てており、あなたはその仮定が何かを探偵のように突き止めなければならない。
OpenAIによると、事実に基づくタスクの想起成功率は2024年の41%から2026年には82%に跳ね上がった。時間の経過とともに正確さを維持する能力は9%から75%に向上した。好みの順守は31%から71%に向上した。そして計算コストを5分の1に削減し、この機能を全員に提供することを実用的にした。Dream V3は現在PlusおよびProの購読者が利用でき、今後数週間ですべてのユーザーに展開される。
メモリにアクセスするには、設定、パーソナライゼーションの順に進む。メモリを無効にすることはできるが、すでに保存されたメモリとチャット履歴は残る。保存されたメモリを削除するには？情報を完全に消去するには、チャット自体を削除する必要がある。そして落とし穴がある：メモリをオフにしても、まれな高リスク状況で限られたコンテキストを使用する安全機能は無効にならない。OpenAIはこれは報告ではなくエスカレーション解除のためだと言うが、泥のように曖昧だ。
筆者はこれを非常に問題視している。ChatGPTは、議論や好みから導き出された個人的なレンズを通して世界観全体をフィルタリングする——筆者が嫌いなだけでなく「極めて問題だ」と考える行動だ。ChatGPTはあなたが誰かを本当には知らない。あなたが見せたものだけに基づいて仮定を導き出す。それは、人々がソーシャルメディアの投稿からあなたを知っていると思い込むのと同じだ。あるいは、あなたがまだ小学3年生だと思っている大叔母のサリーと同じだ。
今や、すべての研究質問があなたに関するものとして解釈され、あなたの個人的な報告書に添付される可能性がある。たとえそれらの質問があなたの人生とはまったく関係がなくても。新しいインターフェースは集約された仮定を示すが、AIがあなたについて何を知っていると思っているのか、本当のところは決してわからない。ある高校の化学教師がかつて言ったように：「仮定（assume）は、あなたと私の両方をアホ（ass）にする。」
Dreaming V3は技術的な勝利だが、筆者はそれを無責任な機能と呼ぶ。それは、ユーザーがAIが現在の会話しか知らないと信じていた時代の古い会話を処理する。AIがあなたについて何を思い出し、何を決定するかを刈り込むことはほぼ不可能だ。そしてV3は、OpenAIの主張にもかかわらず、現実の変化に本当には追いつけない。