OpenAIは、ChatGPTのメモリーシステムに対する「改良」を発表した。ユーザーがこの特定の改良を求めたかどうかは、いつものように別問題だ。
ちょっとしたメモリーの旅に出かけよう——技術的な種類の、2019年に言ったあの発言を思い出して悶絶するような種類ではない。2024年以前、ChatGPTにはメモリーがまったくなかった。各チャットは美しい、忘れっぽい島だった。その後、OpenAIは保存メモリーを導入した。基本的にはAIが参照できる事実のリストだ。これらは、大方の見方によれば、役立つ詳細と、手動で掃除しない限り永遠にそこに居座る無関係な雑学の混合だった。
そして2025年には「ドリーミング」が登場——ビーチや空を飛ぶような楽しい種類ではなく、バックグラウンドでチャット履歴全体をスキャンして自動的にメモリーをキュレーションするAIプロセスだ。現在のバージョン、ドリーミングV3はこれをさらに進め、「データ合成」を実行して事実上あなたに関するファイルを構築する。常に正確とは限らない。例えば、著者がKasaスマートプラグの経験があるか尋ねたとき、ChatGPTはモデル番号（KP125M）を正しく指摘したが、Home Assistantにセットアップを移したと自信満々に主張した。実際には移していない。Home Assistantをダウンロードしたことすらない。プラグはギアビンの中にあり、未インストールのまま最高の人生を送っている。
OpenAIの公式の説明は、PR会社を通じて配信されたもので、ユーザーは完全なインベントリではなく「高レベルのメモリーサマリー」を見ているというものだ。同社は、テクノロジースタックのようなすべての詳細を表示しなくても、全体像を確認して修正しやすくするためのものだと述べている。つまり、AIはメモリーインターフェースが表示しないことさえあなたについて知っているかもしれない。素晴らしい。
紙の上では、技術的な進歩は印象的だ。OpenAIは、事実に基づくタスクの想起が2024年の41%から2026年には82%に向上したと報告している。時間の経過とともに正確性を維持する能力は、悲惨な9%から75%に上昇した。好みの順守は31%から71%に向上した。そして、計算コストを5倍削減し、この機能を全員に展開することを実用的にした。PlusおよびProのサブスクライバーは今すぐDream V3を使用でき、無料ユーザーは数週間以内に利用可能になる。
しかし、ここからが厄介なところだ。設定でメモリーをオフにできるが、機能を部分的にしか無効にしない。既存のメモリーとチャット履歴は残る。保存されたメモリーは削除できるが、実際のチャットデータは会話全体を削除するまで残る。そしてOpenAIのFAQは、メモリーをオフにしても「まれな、高リスクの状況」でコンテキストを使用する安全機能は無効にならないと述べている。つまり、AIが安全に関連すると判断したことを記憶するための恒久的なバックドアが存在する。
新しいインターフェースは、あなたの興味や好みの集約されたナラティブを表示し、編集したりアイテムを忘れるようにマークしたりできる。しかし、これはAIがあなたについて知っていると思っていることをあなたが知っていることを前提としており、それはあなたに完全な原稿を見せずに書かれた伝記を修正しようとするようなものだ。
根本的な問題は、ChatGPTがあなたが見せたものから仮定を導き出すことであり、それには記事のためのリサーチ、ランダムな好奇心、実際の生活とは無関係な会話が含まれる可能性がある。すべてのクエリが、そこに属するかどうかに関係なく、あなたの個人ファイルに添付される可能性がある。ある高校の化学教師が賢明にも言ったように、「仮定はあなたと私の両方を馬鹿にする」。
ドリーミングV3は技術的に印象的だが、深刻な懸念を引き起こす。それは、ユーザーがそのセッションに限定されていると信じていた古い会話を処理する。AIがあなたについて覚えたり決定したりすることを完全に制御することはほぼ不可能だ。そしてOpenAIの主張にもかかわらず、実際の生活の変化に本当に対応することはできない。これは、ユーザーがすべてのAI応答に会話履歴全体を考慮に入れ、潜在的なバイアスや幻覚をフィルタリングしなければならないことを意味する。誰もがそのための認知的な余裕を持っているわけではない。
そしてプライバシーの考慮事項がある。クラウドベースのAIと共有された情報は、方法で使用される可能性があると常に想定すべきだ。