OpenAI가 ChatGPT의 메모리 시스템에 대한 '개선'을 발표했다. 사용자들이 이런 특정 개선을 요청했는지는 항상 그렇듯 별개의 문제다.

잠깐 기억의 길을 따라가 보자. 기술적인 종류의 기억 말이다. 2019년에 한 말 때문에 얼굴이 화끈거리는 그런 기억이 아니라. 2024년 이전에 ChatGPT는 전혀 기억이 없었다. 각 채팅은 아름답고 건망증 심한 섬이었다. 그 다음 OpenAI는 저장된 기억을 도입했는데, 기본적으로 AI가 참조할 수 있는 사실 목록이었다. 대부분의 평가에 따르면, 이들은 유용한 세부 사항과 관련 없는 잡동사니가 뒤섞인 혼합물이었고, 사용자가 직접 청소하지 않는 한 영원히 거기에 남아 있었다.

그리고 2025년에는 'Dreaming'이 등장했다. 해변이나 하늘을 나는 즐거운 종류가 아니라, 사용자의 전체 채팅 기록을 백그라운드에서 스캔하여 자동으로 기억을 정리하는 AI 프로세스다. 현재 버전인 Dreaming V3는 '데이터 합성'을 수행하여 사실상 사용자에 대한 도시를 구축한다. 항상 정확한 것은 아니다. 예를 들어, 필자가 Kasa 스마트 플러그 경험이 있는지 물었을 때, ChatGPT는 모델 번호(KP125M)를 정확히 언급했지만, Home Assistant로 설정을 옮겼다고 자신 있게 주장했다. 필자는 그런 적이 없다. Home Assistant를 다운로드한 적조차 없다. 플러그는 기어 상자에 들어가서, 설치되지 않은 최고의 삶을 살고 있다.

OpenAI의 공식 입장은 PR 회사를 통해 전달된 바로는, 사용자들이 '높은 수준의 메모리 요약'을 보고 있는 것이지 완전한 인벤토리는 아니라고 한다. 회사는 기술 스택 같은 모든 세부 사항을 보여주지 않더라도 전체 그림을 검토하고 수정하기 쉽게 하기 위한 것이라고 말한다. 따라서 AI는 메모리 인터페이스조차 표시하지 않는 사용자에 대한 정보를 알고 있을 수 있다. 좋아.

이론적으로 기술적 진보는 인상적이다. OpenAI는 사실 기반 작업 회상률이 2024년 41%에서 2026년 82%로 뛰었다고 보고한다. 시간이 지나도 정확성을 유지하는 능력은 비참한 9%에서 75%로 올랐다. 선호도 준수는 31%에서 71%로 증가했다. 그리고 컴퓨팅 비용을 5배 절감하여 모든 사람에게 이 기능을 제공하는 것이 실용적이 되었다. Plus 및 Pro 구독자는 지금 Dream V3를 사용할 수 있으며, 무료 사용자는 몇 주 안에 받을 수 있다.

하지만 여기서 불편해지기 시작한다. 설정에서 메모리를 끌 수 있지만, 기능이 부분적으로만 비활성화된다. 기존 메모리와 채팅 기록은 남아 있다. 저장된 메모리는 삭제할 수 있지만, 실제 채팅 데이터는 전체 대화를 삭제할 때까지 유지된다. 그리고 OpenAI의 FAQ는 메모리를 꺼도 '드물고 위험한 상황'에서 컨텍스트를 사용할 수 있는 안전 기능이 비활성화되지 않는다고 언급한다. 따라서 AI가 안전 관련이라고 판단하는 것을 기억할 수 있는 영구적인 백도어가 있다.

새로운 인터페이스는 사용자의 관심사와 선호도에 대한 집계된 내러티브를 보여주며, 편집하거나 잊도록 표시할 수 있다. 하지만 이것은 AI가 사용자에 대해 알고 있다고 생각하는 것을 사용자가 알고 있다고 가정하는데, 이는 전체 원고를 보여주지 않고 누군가가 쓴 전기를 수정하려는 것과 비슷하다.

근본적인 문제는 ChatGPT가 사용자가 보여준 것에서 가정을 도출한다는 점이다. 여기에는 기사 연구, 무작위 호기심, 또는 실제 생활과 전혀 관련 없는 대화가 포함될 수 있다. 모든 질의는 잠재적으로 사용자의 개인 도시에 첨부되며, 거기에 속하든 말든. 한 고등학교 화학 교사가 현명하게 말했듯이, '가정한다는 것은 당신과 나를 바보로 만드는 것이다.'

Dreaming V3는 기술적으로 인상적이지만 심각한 우려를 제기한다. 사용자가 해당 세션에 비공개라고 믿었던 오래된 대화를 처리한다. AI가 사용자에 대해 기억하거나 결정하는 것을 완전히 통제하는 것은 거의 불가능하다. 그리고 OpenAI의 주장에도 불구하고, 실제 생활 변화를 따라잡을 수 없다. 이는 사용자가 이제 모든 AI 응답에 전체 대화 기록을 고려해야 하며, 잠재적 편향과 환각을 걸러내야 함을 의미한다. 모든 사람이 그런 인지적 대역폭을 가진 것은 아니다.

그 다음은 개인정보 보호 고려 사항이다. 우리는 항상 클라우드 기반 AI와 공유된 정보가 어떤 방식으로든 사용될 수 있다고 가정해야 한다.