OpenAI가 ChatGPT의 기억 기능 개선을 발표했고, 회사는 꽤 자랑스러워합니다. 하지만 필자는 그렇지 않습니다. 사실, 그들은 개선 기능을 끄면 상황이 더 나빠질 거라고 확신합니다.

기억 — ChatGPT와 공유한 세부 정보 — 은 2024년에 단순한 사실 목록으로 도입되었습니다. 이제는 전체 채팅 기록, 명시적 지시, 개인적 제약, 그리고 AI가 과거 행동과 우연한 발언에서 유추한 암묵적 선호도까지 포함하도록 확장되었습니다. "도움이 되는 어시스턴트"라고 말하기에 딱이죠: 당신이 고양이를 좋아한다고 한 번 언급한 걸 기억하고 이제 모든 응답에 고양이 관련 사실을 넣는 AI라니.

기술적 세부 사항은 OpenAI의 블로그 게시물에서 나왔습니다. 2024년 이전에 ChatGPT는 전혀 기억이 없었습니다. 각 채팅 세션은 아름답고 고립된 무지의 눈송이였습니다. 그런 다음 2024년에 OpenAI는 저장된 기억 — 빠르게 쓸모없어지는 사실 목록 — 을 도입했습니다. 필자 자신의 기억에도 몇 년 전의 세 가지 항목이 여전히 남아 있어 더 이상 관련이 없으며, AI조차도 쓸모없는 정보를 붙잡고 있는 저주에서 벗어날 수 없음을 증명합니다.

2025년에 OpenAI는 "꿈꾸기" — 모델이 명시적으로 지시받지 않고도 백그라운드에서 채팅 기록을 참조하는 기능 — 을 도입했습니다. 이제 2026년, Dreaming V3가 왔습니다. 채팅 기록을 스캔할 뿐만 아니라 데이터 합성을 수행하여 항상 정확하지는 않은 당신에 대한 도시에를 효과적으로 구성합니다. 필자는 Kasa 스마트 플러그에 대한 경험을 ChatGPT에 물었고, AI는 자신 있게 Home Assistant로 모니터링을 옮겼다고 주장했습니다. 필자는 Home Assistant를 설치한 적이 없습니다. Kasa 플러그는 장비 상자에 그대로 있습니다.

OpenAI의 PR 담당자는 ZDNET에 말했습니다: "당신이 보고 있는 것은 ChatGPT가 기억할 수 있는 완전한 사실 목록이 아니라 새로운 고급 기억 요약입니다. 전체 그림을 더 쉽게 검토하고 수정할 수 있도록 설계되었습니다." 즉, AI가 당신에 대해 가정을 하고 있고, 당신은 그 가정이 무엇인지 알아내기 위해 탐정 놀이를 해야 합니다.

OpenAI에 따르면, 사실 기반 작업 회상 성공률은 2024년 41%에서 2026년 82%로 뛰어올랐습니다. 시간이 지나도 정확성을 유지하는 능력은 9%에서 75%로 향상되었습니다. 선호도 준수율은 31%에서 71%로 증가했습니다. 그리고 컴퓨팅 비용을 5배 절감하여 모든 사용자에게 이 기능을 제공하는 것이 실용적이 되었습니다. Dream V3는 현재 Plus 및 Pro 구독자에게 제공되며, 앞으로 몇 주 안에 모든 사용자에게 출시됩니다.

기억에 접근하려면 설정, 개인화로 이동하세요. 기억을 비활성화할 수 있지만, 이미 저장된 기억과 채팅 기록은 남아 있습니다. 저장된 기억을 삭제하시겠습니까? 정보를 완전히 지우려면 채팅 자체를 제거해야 합니다. 그리고 함정이 있습니다: 기억을 꺼도 드물고 위험한 상황에서 제한된 컨텍스트를 사용할 수 있는 안전 기능이 비활성화되지 않습니다. OpenAI는 이것이 신고가 아니라 상황 완화를 위한 것이라고 말하지만, 진흙처럼 명확합니다.

필자는 이것이 매우 문제가 있다고 생각합니다. ChatGPT는 논의와 선호도에서 파생된 개인 렌즈를 통해 전체 세계관을 필터링합니다 — 그들은 싫어할 뿐만 아니라 "매우 문제가 있다"고 생각하는 행동입니다. ChatGPT는 당신이 누군지 실제로 알지 못합니다; 당신이 보여주는 것만을 바탕으로 가정을 도출합니다. 마치 사람들이 당신의 소셜 미디어 게시물에서 당신을 안다고 생각하거나, 당신이 아직 3학년이라고 생각하는 고모 샐리와 같습니다.

이제 모든 연구 질문이 당신에 관한 것으로 해석되어 개인 도시에에 첨부될 수 있으며, 그 질문이 당신의 삶과 전혀 관련이 없더라도 마찬가지입니다. 새 인터페이스는 집계된 가정을 보여주지만, AI가 당신에 대해 무엇을 알고 있다고 생각하는지 결코 알 수 없습니다. 한 고등학교 화학 선생님이 말했듯이: "가정(assume)은 너와 나를 바보(ass)로 만든다."

Dreaming V3는 기술적 승리이지만, 필자는 그것을 무책임한 기능이라고 부릅니다. 사용자가 AI가 현재 대화만 알고 있다고 믿었던 시절의 오래된 대화를 처리합니다. AI가 당신에 대해 기억하거나 결정하는 것을 가지치기하는 것은 거의 불가능합니다. 그리고 V3는 OpenAI의 주장에도 불구하고 실제 생활 변화를 따라잡을 수 없습니다.