AIのメモリ機能が痛々しい（ドン引きする）理由

日常的にAIを使っている人の多くが、これまでに一度は経験したことがある瞬間があります。AIアシスタントとの会話の途中で、何か課題に取り組んでいるとき、アシスタントが以前の会話から何かを引き合いに出してくることがあります。「ヘルスケアのスタートアップに取り組んでいるとおっしゃっていたので…」や「Pythonがお好みであることを踏まえると…」といった具合に。その言及は技術的には正確です。しかし、会議の前にあなたの資料を読み、それを証明しようと少し必死になっている人と話しているような、どこか不自然な感覚も残ります。

主要なAI研究所はどこも「メモリ（記憶）」機能に取り組んでいます。ChatGPTにも、Claudeにも、Geminiにもあります。その売り文句は魅力的です。会話をまたいであなたを記憶し、時間の経過とともに文脈を蓄積し、使えば使うほど便利になるAI。理論的には、これこそが一般的なアシスタントをパーソナライズされた思考のパートナーへと変貌させる、文脈の複利（コンパウンディング）への道です。

しかし現実には、これらの機能がリリースされて1年以上が経過した今、ヘビーユーザーの間での評価はパッとしません。そのメモリは強制されているように感じられ、文脈から浮いています。アシスタントは、そのメモリが現在の会話で役立つからというよりも、自分が覚えていることをアピールするためにそれらを表に出してきます。それは、客の名前を丸暗記して食事中に3回もその名前を呼ぶウェイターのAI版です。技術的には印象的ですが、社会的には不快であり、実際に料理が美味しくなるわけではありません。

現在のメモリ機能が実際にやっていること

ほとんどのAIメモリシステムが動作する仕組みは、提供元が違っても大体同じです。会話中に、システムは記憶する価値がありそうな事実を特定し、フラットなアサーション（断定）として保存します。「ユーザーはソフトウェアエンジニアである」「ユーザーは簡潔な回答を好む」「ユーザーは気候データに関するプロジェクトに取り組んでいる」「ユーザーには子供が2人いる」。

これらの抽出された事実はメモリストアに格納され、追加の文脈として将来の会話に注入されます。モデルはあなたの新しいメッセージとともにこれらのメモリを確認し、関連性があると思われる場合にそれらを参照できます。

このアプローチの問題は、実装上の問題というよりも構造的なものです。

会話は最悪の知識源である。 雑談の中で一度口にしたこと、愛犬に関するジョーク、放置したプロジェクトへの短い言及などが、1時間じっくり話し合ったことと同じ重みを持つ永続的なメモリになってしまいます。システムは、聞き流していいコメントとあなたのアイデンティティの核となる部分を区別できません。なぜなら、会話のフラットなテキストにおいては、それらがまったく同じに見えるからです。複雑な研究課題に3時間取り組んだ結果、メモリシステムが「ユーザーはアテンション・メカニズムに興味がある」と抽出するようなものです。これは『戦争と平和』を「ロシアに関する本」と要約するのと同程度にしか役に立ちません。

抽出は設計上、不可逆（ロスあり）である。 豊かで文脈のある会話をフラットな事実のアサーションに変換することは、その情報を意味のあるものにしていたすべてを削ぎ落としてしまいます。「ユーザーは関数型プログラミングを好む」というアサーションからは、それが強い信念なのか軽い好みなの、すべての状況に当てはまるのか特定の仕事だけなのか、現在の見解なのか3年前のものなのか、あるいは真面目に言ったのか皮肉で言ったのかは分かりません。メモリは事実を保存して文脈を破棄するため、その事実はメモリが全くない状態よりも役に立たないことがよくあります。なぜなら、システムが実際には理解していないことに対して誤った自信を与えてしまうからです。

関連性の検出が粗雑である。 システムは、保存されたメモリのどれが現在の会話に関連しているかをリアルタイムで判断しなければなりません。これは驚くほど難しい問題です。なぜなら関連性は意図、文脈、そして質問の具体的な内容に依存し、それらはすべて曖昧だからです。その結果、わずかに関連しているものの役に立たない場面でメモリが表に出てくることになります。これが「ヘルスケアのスタートアップについて言及されていたので」現象です。システムはハンマーを持っており、すべてが釘に見えている状態です。

メモリが監視のように感じられる。 数週間前に別の文脈で話したことをAIが参照したとき、不気味の谷現象のような効果が生じます。これは、企業が閲覧履歴を使ってターゲット広告を表示したときと同じ不快感を呼び起こします。データは正確で、利用方法も技術的には正当ですが、監視されているという感覚は残ります。メモリが個人的なものであればあるほど不快感は強くなり、最も役立つはずのメモリ（深く個人的な文脈）ほど、表に出されたときに最も侵入的に感じられるという、あべこべなインセンティブが生まれます。

間違った抽象化

より深い問題は、会話から自動生成されたメモリが、人々が実際にAIメモリに求めているものに対して「間違った抽象化」であるということです。

人々が望んでいるのは、毎回一からすべてを説明しなくても役立つほど、自分の仕事、思考、蓄積された知識、そして現在の状況を十分に理解してくれるAIです。しかし、彼らが手に入れているのは、チャットから抽出された散らばった事実を記憶し、アクティブリスニングを練習している心理学部1年生のようなぎこちなさでそれらを利用するAIです。

これら2つの間のギャップは途方もなく大きく、より優れた抽出アルゴリズムやスマートな関連性検出によって埋められるものではありません。問題はソース素材にあります。会話は狭く、一時的で、文脈依存のチャネルです。それらは、その時に議論していた特定の目的に合わせてフィルターにかけられた、あなたが知っていることや関心のあることのほんの一部しか捉えていません。チャットの履歴から誰かのモデルを構築することは、テキストメッセージを読んで都市を理解しようとするようなものです。

AIを長期的な思考パートナーとして本当に役立たせる情報は、あなたが数ヶ月、数年かけて意図的に蓄積してきた情報です。つまり、読んだり注釈をつけたりした記事、自分の言葉で書いたメモ、収集した研究資料、保存したドキュメント、アイデアがひらめいたときに録音した音声メモなどです。これは「抽出されたメモリ」ではなく「キュレートされた（厳選された）メモリ」であり、その質の差は、誰かの出版された著作を読むことと、彼らのテキストメッセージを読むことの差と同じです。

キュレートされたメモリ vs 抽出されたメモリ

この区別は、ナレッジマネジメント（知識管理）の分野が何十年も前から理解してきたことと一致しています。知識にはさまざまな種類があり、その収集と検索には異なるアプローチが必要です。

会話から抽出されたメモリは、ほとんどが浅い事実のアサーションです。これは、言明するのは簡単ですが価値の低い、一種の形式知（宣言的知識）です。「ユーザーはフィンテック企業で働いている。」「ユーザーは教育に関心がある。」これらはプロフィールの事実であり、実用的な知識ではありません。

一方、キュレートされた知識ライブラリには、より豊かなものが含まれています。蓄積された概念的理解、研究の軌跡、文書化された推論、そしてあなたが時間をかけて導き出したアイデア同士のつながりです。AIアシスタントがこの種のメモリを利用するとき、その結果はパフォーマンス的ではなく自然に感じられます。なぜなら、通りすがりにつぶやいたことを思い出す演技をするのではなく、あなたの実際の成果物を参照しているからです。

実用的な違い：自動生成されたメモリを持つAIに研究課題を一緒に考えてもらうと、AIはそのトピックに関心があることを指摘するかもしれません（これは約3秒間だけ役に立ちます）。一方、あなたの研究ライブラリ、注釈付きの論文、文献メモ、そして研究ログにアクセスできるAIに同じ課題を助けてもらうと、AIはあなたの具体的な読書、具体的な思考、そしてあなたの理解における具体的なギャップに関わることができます。一方は記憶の手品です。もう一方は思考のパートナーシップです。

所有権という側面

注目に値する主権（ソブリンティ）の問題もあります。自動生成されたメモリは、完全に提供元によって管理されています。何を抽出し、どう保存し、何を表に出し、何を忘れるかは彼らが決定します。通常、個々のメモリを表示して削除することはできますが、それらをエクスポートすることはできず、別の提供元で使うこともできません。また、それらがモデルの挙動にどう影響しているかについての可視性も限られています。

自分が所有する知識ライブラリを、自分が管理するインフラに保存し、オープンなプロトコルを介してあらゆるAIエージェントからアクセスできるようにすれば、この関係は逆転します。メモリはあなたのものです。あなたが数ヶ月かけて意図的に収集し、注釈をつけ、つなぎ合わせて構築したものです。それを失うことなくAIの提供元を切り替えることができます。そして、AIが見ることができる範囲は、提供元の抽出アルゴリズムではなく、あなたによって設定されます。

自動生成されたメモリモデルはこう言います。「私たちの製品を使ってください、そうすれば私たちは徐々にあなたのことを学びます。」 キュレートされたライブラリモデルはこう言います。「あなたの知識システムを構築してください、そうすればどのAIでも、あなたの条件に従ってそれを活用できます。」 前者はロックインを生み出します（1つの提供元を長く使うほど、相手があなたのことをよく知るようになり、離れづらくなります）。後者はポータビリティ（携帯性）を生み出します（今日どの提供元を使っているかに関わらず、メモリはあなたに帰属します）。

優れたAIメモリの未来像

各研究所はメモリの実装を改善していくでしょう。抽出精度は上がり、関連性の検出は研ぎ澄まされ、システムがいつメモリを表に出し、いつ静かにしておくべきかを学習するにつれて、不気味の谷現象は和らいでいくでしょう。これらはエンジニアリングの課題であり、段階的に解決されていくはずです。

しかし、会話の抽出物からメモリを構築することの根本的な限界は残ります。なぜなら、会話は常に、その人が知っていることや関心を持っていることに対する狭い窓であり続けるからです。最も豊かで最も有用なAIメモリは、システムが受動的に観察したものではなく、あなたが意図的に構築したおいたものから生まれます。あなたのメモ、あなたの注釈、あなたの保存された情報源、あなたの文書化された思考、あなたの研究の軌跡。これこそが、AIとのやり取りを、あなたのファイルを読んだだけの人ではなく、あなたの仕事をよく知っている人と一緒に働いているように感じさせてくれるメモリなのです。

今日そのライブラリの構築を始める人は、各研究所がこれまでに提供してきた何よりも優れたAIメモリをすでに手に入れていることになり、どのモデルを実行しているか、どの提供元を使っているか、あるいは次世代の自動生成メモリ機能がどうなるかに関わらず、それを使う毎日の中でそのメモリは向上していきます。

よくある質問

AIのメモリ機能をオフにすべきですか？ 必ずしもその必要はありません。基本的なパーソナライズ（回答フォーマット、言語の好みなど）には多少役立ちますし、時間とともに改善されます。ポイントは、それらがキュレートされた知識ライブラリに比べて弱い形式のメモリであるということであり、自動生成されたメモリが役に立つようになるのを受動的に期待するよりも、ライブラリの構築に労力を投資する方がはるかに多くの価値を生み出すということです。

AIメモリと「第二の脳（セカンドブレイン）」の違いは何ですか？ AIメモリは、提供元によって管理され、会話からシステムによって抽出された、フラットな事実のアサーションに限定されたものです。第二の脳は、あなたの読書、研究、思考からあなた自身が構築し、あなたが管理する、文脈、つながり、ニュアンスに富んだものです。第二の脳は、AIとのやり取りを実際に役立たせる種類の知識を含んでいるため、より優れた形式のAIメモリと言えます。

研究所は最終的にメモリの問題を解決するでしょうか？ 抽出と関連性の判断は改善され、体験のぎこちなさは軽減されるでしょう。しかし、会話が狭い知識源であるという根本的な限界は変わりません。最も豊かなAIメモリは、受動的に観察されたチャットからではなく、常に意図的にキュレートされた知識から生まれます。研究所は排気ガスからメモリを作ろうとしています。あなたはエンジンからそれを作ることができるのです。

これは文脈の複利（コンパウンディング）の議論とどう関係していますか？ 直接関係しています。複利効果を生む文脈とは、知識を収集し、注釈をつけ、つなぎ合わせることで、あなたが数ヶ月かけて意図的に構築した文脈のことです。自動生成されたメモリは、抽出された個々の事実が薄くバラバラであるため、複利効果はほとんど期待できません。一方、キュレートされたライブラリは豊かに複利を生み出します。なぜなら、新しい知識が加わるたびに、既存の多くの知識とつながり、AIが引き出すためのより多くの経路が作成されるからです。

関連の読み物：メモリは堀である、あなたの知識はどこにある？、データウォレット、ナレッジマネジメントとは何か、さまざまな種類の知識。関連ガイド：第二の脳を構築する、ツェッテルカステン、リサーチワークフロー。