部落格

為什麼 AI 代理需要上下文倉庫


人工智慧代理(AI agents)正在以加速的步伐在整個企業中部署。建議並編寫程式碼的編碼助手。回答員工問題的內部聊天機器人。處理支持查詢的客戶服務代理。合成資訊並提出建議的分析工具。為銷售代表做好電話準備的銷售助手。

這些代理中的每一個都共享一個共同的依賴項:他們需要上下文(context)才能對您的特定組織有用。沒有上下文,他們只有通用的能力。有了它,他們就有了特定的價值。

了解您團隊的慣例、您的架構決策以及系統設計背後的推理的編碼助手,比只看到當前文件的編碼助手產生的建議要好得多。能夠訪問您的決策歷史、您的流程文檔以及您的機構知識的內部聊天機器人提供準確、有根據的答案,而不是幻覺或說“我不知道”。能夠搜索您的交易歷史、競爭情報和客戶上下文的銷售助手,可以為代表準備具體、可操作的資訊,而不是通用的話題。

這兩個性能級別之間的差距就是上下文差距,而上下文倉庫就是彌合它的工具。


代理目前如何獲取上下文

目前在企業環境中部署的大多數 AI 代理都是從以下三個來源之一獲取其上下文,每個來源都存在重大的局限性。

互聯網(訓練數據)。 模型的通用知識。對通用任務有用,但對您的特定組織、您的決策、您的系統或您的客戶一無所知。

即時輸入。 用戶粘貼到提示符中的任何內容或代理當前正在查看的任何文件。對手頭的任務有用,但不能利用更廣泛的組織上下文。

單一連接的工具。 某些代理可以搜索特定的工具(您的 CRM、您的代碼庫、您的維基)。比沒有好,但僅限於該單一工具中可用的上下文,而代理實際需要的知識卻分散在多個工具中。

這些都無法提供使代理真正有用的完整組織上下文。代理只知道互聯網知道什麼、您剛剛向它展示了什麼或一個工具包含什麼。它不知道您的組織知道什麼。


MCP 作為查詢層

MCP(模型上下文協議)是一種開放協議,允許 AI 代理根據用戶的條件查詢知識源。當上下文倉庫通過 MCP 公開其內容時,任何兼容的 AI 代理都可以在生成響應之前在庫中搜索相關的上下文。

其工作原理:代理接收來自用戶的查詢。在回應之前,它通過 MCP 在上下文倉庫中搜索相關知識:過去的決策、記錄的推理、相關的討論、系統文檔、客戶歷史記錄。搜索返回相關上下文。代理將此上下文融入其響應中,該響應現在基於您組織的特定知識,而不是通用的訓練數據。

這就是將 AI 代理從「聰明但消息不靈通」轉變為「聰明且了解您特定情況」的關鍵。代理不需要在您的數據上進行訓練。它需要能夠在推理時查詢您的上下文倉庫,而 MCP 為該查詢提供了介面。


反饋循環

上下文倉庫和 AI 代理創建了一個良性循環。

更多上下文使代理更有用。 隨著上下文倉庫積累更多知識(來自 Slack、GitHub、會議的自寫文檔),查詢它的代理就有更豐富的上下文可以利用,從而產生更好的響應。

更好的代理響應增加了使用率。 當內部聊天機器人確實正確回答了問題(因為它在倉庫中找到了相關的上下文)時,人們會更多地使用它。當編碼助手建議架構感知解決方案時(因為它查詢了決策歷史),開發人員會更信任它。

增加的使用產生更多的活動。 更多代理互動、更多團隊討論、更多記錄的決策:所有這些都流回上下文倉庫,作為額外的上下文。

更豐富的上下文使下一次查詢更好。 循環繼續。每次迭代都會產生更豐富的上下文倉庫和更有用的 AI 代理。

那些及早進入這個循環、且上下文基礎設施已經在積累知識的公司,將會看到其 AI 工具的改進速度比部署沒有上下文基礎設施的 AI 的公司更快。工具是一樣的,上下文才是區分者。


務實的起點

為您的 AI 代理構建上下文倉庫需要三件事:

連接您的來源。 您組織上下文所在的工具:Slack、GitHub、Google 雲端硬碟、電子郵件、會議。每次連接都會為您的代理可以查詢的內容增加另一層上下文。

啟用轉換層。 自寫文檔,將原始活動轉換為結構化、可搜索的知識。沒有轉換,原始的 Slack 消息和會議錄音對代理來說噪音太大,無法有效使用。

通過 MCP 公開。 使上下文倉庫可以由任何 AI 代理通過開放協議進行查詢。該倉庫成為您技術棧中每個 AI 工具的共享上下文層,這意味著您在上下文基礎設施上的投資將使您部署的每個 AI 工具的價值翻倍。


常見問題

這是否意味著我們需要更改我們的 AI 工具? 不需要。MCP 是一個開放協議,適用於任何兼容的代理。您現有的 AI 工具可以查詢上下文倉庫而無需被替換。該倉庫是您技術棧的補充,而不是替換其中的任何部分。

這與 RAG(檢索增強生成)有何不同? RAG 是一種 AI 在生成響應之前檢索相關文檔的技術。上下文倉庫提供了結構化、全面的知識庫,使 RAG 的效果顯著提升。針對分散、陳舊的文檔進行 RAG 產生的效果不佳。針對維護良好的上下文倉庫進行 RAG 產生的效果極佳。倉庫是使該技術發揮作用的關鍵。

代理需要多少上下文才有用? 即使是累積幾週的上下文,也能顯著改善代理的響應。這種改善大體上是對數關係的:第一個月的上下文帶來的進步最大,之後的改善繼續以遞減但持續的速度增長。


相關閱讀:什麼是上下文倉庫?、您的 AI 工具的好壞取決於您的文檔、您的公司還沒準備好迎接 AI、記憶是護城河。相關頁面:MCP、自寫文檔、連接、AI 助手。


The workspace that thinks with you.

Ready when you are.

The workspace that thinks with you.

Ready when you are.

The workspace that thinks with you.

Ready when you are.