檢索增強生成(RAG):定義、用例及實際例子
檢索增強生成(RAG)讓 AI 工具能夠引入外部資訊,為答案提供佐證。本指南介紹其運作方式、主要類型,以及由網絡搜尋到企業知識庫等實際用例。

RAG(檢索增強生成,retrieval-augmented generation)是基於 LLM 的工具存取外部資訊的過程。這些資訊並不包含在 LLM 的訓練參數之中,會被加入相關的輸入上下文,並用於生成答案。
RAG 是現代 AI 系統最重要的組成部分之一。所有主流的代理式工具(ChatGPT、Claude、Perplexity 等)都會使用 RAG,而且它在消費者和企業層面都有廣泛的用例。自從 RAG 開始普及以來,它已經歷多次創新,並持續以引人注目的方式演進。
甚麼是檢索增強生成(RAG)?
檢索增強生成(RAG)是一種透過向大型語言模型(LLM)提供相關外部資訊,從而改善其輸出的方法。
典型的 RAG「管道」(pipeline,泛指底層 RAG 架構的用語)有兩條路徑:攝取路徑和檢索路徑。攝取路徑會接收數據,並將其轉換成可搜尋的格式。檢索路徑則會根據用戶的提示建立請求,並查詢資訊來源。
RAG 系統通常會圍繞向量數據庫構建。在這種情況下,LLM 工具中的協調器元件負責管理用戶提示、發送查詢和檢索結果(結果來自可搜尋索引),它會生成一個向量嵌入,並以此查詢由代表已攝取數據的向量所組成的數據庫。然後,它會把檢索到的資訊加入 LLM 現有的上下文輸入中,並附上如何運用這些資訊生成輸出的指示。
RAG 並不只是指上文所述的密集向量搜尋。知識圖譜遍歷、語義搜尋、傳統數據庫查找,或這些方法的任何組合,都屬於 RAG。
RAG 的好處
RAG 之所以如此普及,原因之一是它解決了純粹依靠 LLM 生成答案時的兩個核心問題:幻覺,以及無法存取訓練資料以外的資訊。
事實查核與佐證
LLM 在事實準確性方面向來表現欠佳。很多時候,當它們無法可靠地回答問題時,就會自信地產生幻覺。原因可能是訓練資料中沒有相關資訊,也可能是訓練資料本身就有錯誤。RAG 輔助的事實查核過程,就是以可信第三方來源的資訊為答案提供佐證。
最新資訊
LLM 只能回答截至其訓練數據截止點(稱為知識截止點)為止的話題。RAG 系統可以連接到非常即時的資訊來源,例如透過網絡搜尋 API 取得的新聞資料,或載有最新產品資訊的內部數據庫。這樣就可以就訓練數據未涵蓋的話題生成回應。
存取私人外部數據
RAG 系統讓企業可以將 AI 基礎設施連接到敏感、專有及特定領域的資訊來源,而這些資訊是企業無法公開分享的。現在,許多熱門工具(例如 Perplexity)都提供上載機密數據及建立私人知識庫的選項,這亦是常見的企業用例。
RAG 概覽與演變:主要架構類型
雖然檢索增強生成這個專門術語最早出現在 2020 年一篇題為《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》的重要論文中,但資訊檢索系統早在此前數十年已經投入使用。早期的搜尋引擎就是一個好例子。然而,真正的 AI 創新在於將模型的參數化知識與密集向量索引結合(該論文使用維基百科來建立這個索引)。
以下是 RAG 主要類型的概覽:
- 基本 RAG:基本 RAG 又稱樸素 RAG,是 RAG 管道最簡單的形式。它遵循「先檢索、後生成」的流程,主要用例是向量數據庫搜尋。它仍然適合用來構建簡單直接的RAG 實作,尤其是有限度的內部使用。
- 混合 RAG:這是指結合多於一種 RAG,通常是指結合簡單的關鍵字搜尋與密集向量檢索。
- 糾正式 RAG:一種 RAG 形式,由經微調的模型評估檢索到的資訊,以判斷其與用戶提示的相關程度。
- Self-RAG:Self-RAG 與糾正式 RAG 相似,但在 Self-RAG 中,LLM 會評估自己的輸出,並在有需要時啟動檢索。它會使用專門的反思詞元(reflection token)來做到這一點。
- 代理式 RAG:代理式 RAG 是指代理式 AI 平台調用不同檢索方法的方式。LLM 可以透過協調器進行推理,並從多種 RAG 選項中作出選擇。
- 多模態 RAG:這類 RAG 會將圖像和音訊等其他媒體形式納入其攝取和檢索管道中。
- GraphRAG:GraphRAG 結合知識圖譜遍歷(實體搜尋)來檢索資訊。它可以與密集向量檢索一併使用,但並非必須。
- 分支式 RAG:這種 RAG 架構會同時執行多個檢索查詢,而且通常會採用不同的架構模式。分支式 RAG 是執行複雜工作流程的 AI 工具中常見的功能。
- HyDE(假設性文件嵌入,Hypothetical Document Embeddings):假設性文件嵌入是由 AI 生成的回應,用來模擬針對用戶提示的理想答案可能是甚麼。這些嵌入用於優化 RAG 查詢,從而提高檢索資訊的準確性。
主要 RAG 用例及例子
RAG 在現實世界中是甚麼樣子?如果你曾向 AI 聊天機械人詢問時效性強的話題、向客戶支援機械人查詢,或使用個人助理處理行政工作,你就已經用過 RAG。
在消費者和企業情境中,最主要的 RAG 例子包括網絡搜尋、個人助理(包括編程方面)、編程助理、客戶支援,以及企業知識管理。
網絡搜尋
網絡搜尋是一種廣泛使用的 RAG 形式,可以說是最普遍的面向消費者應用。所有主流聊天機械人都提供網絡搜尋功能,讓 LLM 使用最新來源,補充其訓練資料中所包含的資訊。
AI 工具中的協調器會透過 API 調用連接到第三方搜尋引擎,而結果會以摘錄的形式加入 LLM 的上下文視窗。這讓用戶可以取得時事、最新研究、產品資訊,以及其他資訊經常變化的話題。
實際上,API 請求可能如下所示:
{
"query": "latest US inflation news",
"max_results": 1,
"language": "en",
"country": "US"
}傳回的資訊會包括來源和摘錄:
{
"query": "latest US inflation news",
"results": [
{
"title": "US inflation rises slightly in latest report",
"url": "https://example.com/us-inflation-report",
"snippet": "Consumer prices increased in the latest monthly data, with
housing and energy contributing to the rise.",
"published_date": "2026-11-05"
}
]
}個人 AI 助理
個人助理使用 RAG 連接到個人或共用企業環境中的資訊來源。資訊來源的例子包括用戶的電郵、檔案、日曆和數據庫。
由於資訊可以用不同方式儲存,個人助理最好理解為完全代理式的 RAG 系統。視乎提示而定,它們可能會使用 API 調用、關鍵字搜尋、密集向量檢索或知識圖譜遍歷。
企業 RAG 系統越來越多將知識編碼到向量數據庫中,以便全公司使用的個人助理能輕鬆檢索,而許多企業 AI 產品在設計時亦已考慮到這一點。
編程助理亦值得一提,因為它們代表另一個主要用例。編程助理(例如 GitHub Copilot)可以連接到儲存庫和專案專屬文件,以檢索相關的檔案、函數、符號、指引、API 和提交記錄。
客戶支援
客戶支援是另一個主要的 RAG 用例,而近年 AI 聊天機械人的採用率迅速上升。Crisp 在其《State of AI Customer Support》報告中發現,40% 的對話無需人手介入即可解決,顯示其效能相當高。
當用戶向客戶支援機械人提問時,協調器通常會搜尋公司的內部知識庫。為確保準確,系統亦經常採用糾正式 RAG 和 Self-RAG,並在適當時轉交真人客服處理。
企業知識庫
中大型企業在推行 AI 工作流程和生成式 AI 工具的同時,亦建立了內部知識庫。這讓全公司使用的助理可以在保障私隱的前提下存取內部數據,無論是敏感的客戶資料、私人企業數據,還是專門領域的知識。
這些系統通常圍繞向量數據庫構建,但亦會使用其他 RAG 方法。以 Microsoft 365 Copilot 為例,它有一個 API 層,能開放向量數據庫、知識圖譜和語義索引等多種資訊來源,讓用戶廣泛存取公司的數據。
這些 RAG 系統通常亦內置於通用代理式工具的企業方案中。例如,Perplexity Enterprise 讓用戶上載大量文件,以供安全的內部使用。
用戶亦可以在獨立的專案中上載自己的檔案,實際上就是建立迷你 RAG 系統。搜尋可以與其他形式的 RAG(例如網絡搜尋)結合,實現混合式增強。
RAG 與 LLM 有甚麼分別?
大型語言模型(LLM)只能使用其參數中所表示的資訊來生成輸出。它會為內部詞彙分配概率,以預測序列中的下一個字詞(即詞元)。因此,如果它的參數沒有以相關資訊進行訓練,就無法提供準確的答案。
在通用或專門的 AI 平台中,RAG 管道會與一個或一組 LLM 協同運作。它們會連接到外部資訊來源,以補充提供給語言模型的輸入上下文,而這正是RAG 與 LLM 之間的分別的核心所在。
是否要檢索額外資訊,還是只依賴參數化知識,這個決定可以在協調器層面作出(通常使用基於規則的邏輯),甚至可以由 LLM 本身作出。
RAG 與 MCP 有甚麼分別?
RAG 與模型上下文協定(MCP)最好理解為互補的技術。MCP 是一項用於構建架構的開放標準,讓 AI 工具可以透過單一端點存取外部功能、資源和提示。
當 AI 工具連接到 MCP 伺服器時,伺服器會開放客戶端有權存取的所有基本元件(MCP 工具、資源和提示)。客戶端是負責在客戶端一側的協調器與伺服器之間建立連接的元件。有時,這可能涉及開放數據庫和資訊來源,在這種情況下,MCP 就會在 RAG 管道的檢索層中充當中介。
RAG 與 API 有甚麼分別?
API 是一種已定義的介面,兩個應用程式可以用它互相發送請求。RAG 則是 LLM 存取外部資訊以改善和擴展其輸出的過程。
RAG 經常使用 API 調用來檢索資訊。例如,在網絡搜尋資訊檢索中,協調器會根據用戶的提示,向相關搜尋引擎制定 API 請求。
RAG 為何重要,以及它將如何持續演進
RAG 之所以重要,是因為 LLM 本質上受到其訓練數據的限制。從時事到公司私有知識,有大量資訊是它們無法存取的。RAG 無需耗費過多資源就能解決這個問題。
然而,單靠資訊檢索並不足夠,這正是 RAG 會持續演進的原因。RAG 是當前 AI 研究的重要部分,其重點在於改進系統,讓系統能在多種格式中傳回正確資訊,並有效地判斷資訊及排列其優先次序。
隨着 RAG 變得越來越強大,AI 系統在重要的消費者和企業應用中亦變得越來越實用。這些應用包括客戶支援、網絡搜尋、編程、個人助理、專門研究等等。