為什麼 AI 記憶功能令人尷尬

現在大多數常規 AI 用戶都經歷過這樣一個時刻。你正在和 AI 助手對話，努力解決一個問題，助手突然提到了之前對話中的某些內容。「既然你提到你正在一家醫療保健初創公司工作……」或「鑑於你偏好 Python……」這番引用在技術上是準確的。但這也讓人感到有些突兀，就像和一個在開會前看過你檔案的人聊天，而對方正拼命試圖證明自己看過一樣。

每個主要的 AI 實驗室都在研發記憶功能。ChatGPT 有，Claude 有，Gemini 也有。這個宣傳點非常吸引人：一個能在不同對話中記住你、隨著時間累積上下文，而且你使用得越久就越好用的 AI。從理論上講，這正是實現複利上下文的途徑，能將一個通用的助手轉化為個性化的思考夥伴。

但在實踐中，這些功能上線一年多之後，重度用戶的共識卻是令人失望的。這些記憶顯得牽強且脫離上下文。助手展示這些記憶，只是為了證明它記得，而不是因為該記憶在當前的對話中有用。這就像餐廳服務生記住了你的名字，並在用餐期間使用了三次：技術上令人印象深刻，但社交上令人尷尬，而且實際上並沒有讓食物變得更好吃。

目前的記憶功能實際上在做什麼

大多數 AI 記憶系統的工作方式在不同的供應商之間大同小異。在對話過程中，系統會識別似乎值得記住的事實，並將其存儲為扁平的斷言。「用戶是軟件工程師。」「用戶偏好簡潔的回答。」「用戶正在開展一個涉及氣候數據的項目。」「用戶有兩個孩子。」

這些提取出來的事實存儲在記憶庫中，並作為額外的上下文注入到未來的對話中。模型會在看到你的新消息的同時看到這些記憶，並在它們看起來相關時進行引用。

這種方法的問題在於結構，而非執行。

對話是極其糟糕的知識來源。你隨口提到的一件事，比如關於你寵物狗的笑話，或者對你放棄的項目的簡短提及，就會變成永久的記憶，其權重與你深入討論了一小時的事情相同。系統無法區分隨口說說的話和你的核心身份，因為在對話的扁平文本中，它們看起來是一模一樣的。你花了三個小時解決一個複雜的研究問題，記憶系統提取出「用戶對注意力機制感興趣」，這與將《戰爭與和平》總結為「關於俄羅斯的書」差不多有用。

提取在設計上就是有損的。將豐富、具備上下文的對話轉化為扁平的事實斷言，會剝離使信息具有意義的一切要素。「用戶偏好函數式編程」這一斷言無法捕捉這是一種強烈的信念還是溫和的偏好，它是適用於所有上下文還是僅適用於某些類型的工作，它是當前的觀點還是你三年前持有的觀點，或者你是認真說的還是諷刺。記憶存儲了事實並丟棄了上下文，這意味著該事實往往比完全沒有記憶更沒用，因為它給了系統對其並不真正理解的事情虛假的信心。

相關性檢測很粗糙。系統必須實時決定你存儲的哪些記憶與當前對話相關。這是一個出乎意料的難題，因為相關性取決於意圖、上下文和被問到的具體問題，而所有這些都是模糊的。結果就是，當記憶有微弱關聯但並無用處時，它們就會被呈現出來，這就是「既然你提到了你的醫療保健初創公司」現象。系統手裡拿著錘子，看什麼都像釘子。

記憶給人一種被監視的感覺。當 AI 引用你幾周前在不同背景下說過的話時，會產生一種恐怖谷效應。這會引發與公司使用你的瀏覽歷史來投放定向廣告時相同的 discomfort：數據是準確的，使用在技術上是合法的，但感覺仍然是你被監視了。記憶越私人，這種不適感就越強烈，從而產生了一種適得其反的誘因：最有用（深度個人背景）的記憶，在呈現時反而是最讓人感到被侵犯的。

錯誤的抽象

更深層次的問題在於，從對話中自動生成的記憶，對於人們真正需要 AI 記憶做什麼來說，是錯誤的抽象。

人們想要的是一個足夠了解他們的工作、他們的思考、他們積累的知識以及他們當前上下文的 AI，以便在每次不需要從頭開始交代一切的情況下提供幫助。而他們得到的是一個記住了從對話中提取的零散事實的 AI，並像一個正在練習積極傾聽的一年級心理學學生那樣，毫無技巧地運用這些事實。

這兩者之間的差距是巨大的，而且這不是通過更好的提取算法或更智能的相關性檢測就能彌補的。問題在於源材料。對話是一個狹窄、短暫且依賴於上下文的通道。它們只捕捉了你所知道和關心的極小一部分，並經過了當時討論的具體目的的過濾。通過聊天記錄來構建一個人的模型，就像通過閱讀一個城市的短信來試圖了解這個城市一樣。

真正能讓 AI 作為長期思考夥伴發揮作用的信息，是你數月和數年來有意積累的信息：你閱讀並標註的文章、你用自己的話寫下的筆記、你收集的研究、你保存的文件，以及你在靈光一現時記錄的語音備忘錄。這是策劃的記憶，而不是提取的記憶，高下之分就像閱讀某人發表的著作與閱讀他們的短信一樣。

策劃記憶 vs 提取記憶

這種區別對應於知識管理領域幾十年來所理解的道理。存在不同類型的知識，它們需要不同的捕獲和檢索方法。

從對話中提取的記憶大多是淺顯的事實斷言，這是一種容易陳述但價值較低的顯性、陳述性知識。「用戶在一家金融科技公司工作。」「用戶對教育感興趣。」這些是個人檔案事實，而不是工作知識。

策劃的知識庫包含更豐富的內容：積累的概念性理解、研究軌跡、記錄下來的推理，以及你隨著時間推移在想法之間建立的聯繫。當 AI 助手借鑑這種記憶時，結果會顯得自然而不是刻意錶演，因為它引用的是你實際的工作，而不是對你隨口提及的事情進行記憶展示。

實際的區別：讓一個擁有自動生成記憶的 AI 幫你思考一個研究問題，它可能會注意到你對該主題感興趣（這大概有用三秒鐘）。讓一個能夠訪問你的研究圖書館、你的標註論文、你的文獻筆記和你的研究日誌的 AI 來幫助解決同樣的問題，它就可以結合你具體的閱讀、你具體的思考以及你理解中的具體空白來進行探討。其中一個是記憶把戲。另一個是思考夥伴關係。

所有權維度

還有一個值得注意的主權問題。自動生成的記憶完全由供應商控制。他們決定提取什麼、如何存儲、呈現什麼以及遺忘什麼。你通常可以查看和刪除單個記憶，但你無法導出它們，無法將它們與不同的供應商一起使用，而且你對它們如何影響模型行為的了解也有限。

一個你所擁有的知識庫，存儲在你控制的基礎設施中，通過開放協議可供任何 AI 代理訪問，這顛覆了上述情況。記憶是你的。這是你通過數月的捕獲、標註和連接刻意構建的。你可以切換 AI 供應商而不會丟失任何內容。而且 AI 可以看到的邊界是由你設定的，而不是由供應商的提取算法設定的。

自動生成記憶的模型說：使用我們的產品，我們會逐漸了解你。策劃知識庫的模型說：構建你的知識系統，任何 AI 都可以按照你的條款來借鑑它。第一種創造了綁定（你使用某個供應商越久，它知道的就越多，你就越難離開）。第二種創造了可移植性（無論你今天使用的是哪家供應商，記憶都屬於你）。

優秀的 AI 記憶將會是什麼樣子

實驗室會改進他們的記憶執行。提取會變得更好，相關性檢測會更敏銳，隨著系統學會何時呈現記憶、何時保持安靜，恐怖谷效應也會減弱。這些是工程問題，它們將逐步得到解決。

但通過對話提取物構建記憶的根本局限性依然存在，因為對話始終是了解一個人所知和所關心事物的一個狹窄窗口。最豐富、最實用的 AI 記憶將來自你刻意構建的內容，而不是系統被動觀察到的內容。你的筆記、你的標註、你保存的來源、你記錄的思考、你的研究軌跡：正是這些記憶讓 AI 的互動感覺像是與了解你工作的人一起工作，而不是與看過你檔案的人一起工作。

今天開始構建該圖書館的人，就已經擁有一種比實驗室推出的任何產品都要好的 AI 記憶形式，而且每使用一天它就會進步一天，這與他們運行的是哪個模型、使用的是哪家供應商，或者下一代自動生成記憶功能發展得如何無關。

常見問題

我應該關閉 AI 記憶功能嗎？ 不一定。它們對於基本的個性化（回答格式、語言偏好）略有幫助，並且會隨著時間的推移而改進。關鍵是，與策劃的知識庫相比，它們是一種薄弱的記憶形式，將精力投入到構建知識庫中，比被動地希望自動生成的記憶變得有用能產生大得多的價值。

AI 記憶和第二大腦有什麼區別？ AI 記憶是系統從你的對話中提取的，由供應商控制，並局限於扁平的事實斷言。而第二大腦是由你根據自己的閱讀、研究和思考構建的，由你控制，並富含上下文、關聯和細微差別。第二大腦是更好的 AI 記憶形式，因為它包含真正能讓 AI 互動更有用的那類知識。

實驗室最終會解決記憶問題嗎？ 他們會改善提取和相關性，體驗會變得不那麼尷尬。但對話是狹窄的知識來源這一根本局限不會改變。最豐富的 AI 記憶將始終來自有意策劃的知識，而不是被動觀察到的聊天。實驗室正試圖從廢氣中構建記憶。而你可以從引擎中構建它。

這與上下文複利論點有何聯繫？ 有直接聯繫。產生複利的上下文是你通過數月捕獲、標註和連接知識而刻意構建的上下文。自動生成的記憶即使能產生複利，也非常緩慢，因為每個提取的事實都是薄弱且孤立的。而策劃的圖書館則能產生豐富的複利，因為每件新知識都會與更多現有知識相連接，並為 AI 創造更多可借鑑的檢索路徑。

相關閱讀：記憶即護城河、你的知識存在哪裡？、數據錢包、什麼是知識管理、不同類型的知識。相關指南：構建第二大腦、卡片盒筆記法、研究工作流。