檢索增強生成(RAG):定義、使用情境與實際範例
檢索增強生成(RAG)讓 AI 工具能夠引入外部資訊,為回答提供依據。本指南將介紹其運作方式、主要類型,以及從網路搜尋到企業知識庫的實際使用情境。

RAG(檢索增強生成,retrieval-augmented generation)是以 LLM 為基礎的工具存取外部資訊的過程。這些資訊並未包含在 LLM 的訓練參數中,會被加入相關的輸入上下文,並用於生成回答。
RAG 是現代 AI 系統最重要的元件之一。所有主流的代理式工具(ChatGPT、Claude、Perplexity 等)都會使用它,在消費者與企業領域也有廣泛的使用情境。自從 RAG 開始普及以來,已歷經多次創新,並持續以引人注目的方式演進。
什麼是檢索增強生成(RAG)?
檢索增強生成(RAG)是一種透過提供相關外部資訊,來改善大型語言模型(LLM)輸出的方法。
典型的 RAG「管線」(pipeline)泛指底層的 RAG 架構,包含兩條路徑:資料匯入路徑與檢索路徑。資料匯入路徑會取得資料,並將其轉換為可搜尋的格式。檢索路徑則會根據使用者的提示建立請求,並查詢資訊來源。
RAG 系統通常會以向量資料庫為核心建構。在這種情況下,LLM 工具中的協調器元件會產生一個向量嵌入;協調器負責管理使用者提示、發送查詢,並擷取結果,這些結果來自可搜尋的索引。協調器會使用這個嵌入來查詢由向量組成的資料庫,這些向量代表已匯入的資料。接著,它會將擷取到的資訊加入 LLM 現有的上下文輸入中,並附上如何運用這些資訊來生成輸出的指示。
RAG 並非專指上述的稠密向量搜尋。知識圖譜遍歷、語意搜尋、傳統資料庫查詢,或這些方法的任意組合,也都屬於 RAG。
RAG 的優點
RAG 之所以如此普及,原因之一是它解決了僅靠 LLM 生成回答時的兩個核心問題:幻覺,以及無法取得訓練資料以外的資訊。
事實查核與建立依據
LLM 向來以難以確保事實準確性著稱。如果無法可靠地回答問題,它們常常會自信滿滿地產生幻覺。這可能是因為訓練資料中沒有相關資訊,也可能是訓練資料本身就有錯誤。透過 RAG 進行事實查核的過程,就是將回答建立在可信第三方來源的資訊之上。
最新資訊
LLM 只能回答其訓練資料截止點之前的主題,這個截止點稱為知識截止點。RAG 系統可以連接到時效性極高的資訊來源,例如透過網路搜尋 API 取得的新聞資料,或含有最新產品資訊的內部資料庫。如此一來,就能針對訓練資料未涵蓋的主題生成回應。
存取私有的外部資料
RAG 系統讓企業能將 AI 基礎架構連接到無法公開分享的敏感、專有及特定領域資訊來源。許多熱門工具(例如 Perplexity)現在都提供上傳機密資料並建立私有知識庫的選項,這也是常見的企業使用情境。
RAG 概述與演進:主要架構類型
雖然檢索增強生成這個專有名詞最早出現在 2020 年一篇題為《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》的重要論文中,但資訊檢索系統在此之前早已使用了數十年,早期的搜尋引擎就是很好的例子。不過,真正的 AI 創新在於將參數化的模型知識與稠密向量索引相結合(該論文使用維基百科來建立這個索引)。
以下是 RAG 主要類型的概覽:
- 基本 RAG:基本 RAG 又稱為單純 RAG(naive RAG),是 RAG 管線最簡單的形式。它採用「先檢索、再生成」的流程,主要用途是向量資料庫搜尋。它仍適合用來建構簡單直接的 RAG 實作,特別是在有限的內部使用情境中。
- 混合式 RAG:這是指結合一種以上的 RAG 類型,通常是指結合簡單的關鍵字搜尋與稠密向量檢索。
- 修正式 RAG:在這種 RAG 形式中,會由經過微調的模型評估擷取到的資訊,以判斷其與使用者提示的相關性。
- Self-RAG:Self-RAG 與修正式 RAG 類似,但在 Self-RAG 中,LLM 會評估自己的輸出,並在需要時啟動檢索。它會使用特殊的反思詞元(reflection token)來做到這一點。
- 代理式 RAG:代理式 RAG 是指代理式 AI 平台能夠呼叫不同檢索方法的方式。LLM 可以透過協調器進行推理,並從各種 RAG 選項中做出選擇。
- 多模態 RAG:這種 RAG 會將圖片和音訊等其他媒體形式納入其資料匯入與檢索管線中。
- GraphRAG:GraphRAG 結合了知識圖譜遍歷(實體搜尋)來擷取資訊。它可以與稠密向量檢索搭配使用,但並非必要。
- 分支式 RAG:這種 RAG 架構會同時執行多個檢索查詢,而且通常採用不同的架構模式。分支式 RAG 是執行複雜工作流程的 AI 工具中常見的功能。
- HyDE(假設性文件嵌入,Hypothetical Document Embeddings):假設性文件嵌入是由 AI 生成的回應,用來模擬使用者提示的理想答案可能是什麼。這些嵌入可用來改善 RAG 查詢,進而提高擷取資訊的準確性。
熱門 RAG 使用情境與範例
RAG 在現實世界中是什麼樣子?如果你曾經向 AI 聊天機器人詢問具時效性的主題、向客服機器人提問,或使用個人助理處理行政事務,你就已經用過 RAG 了。
在消費者與企業情境中,最常見的 RAG 範例包括網路搜尋、個人助理(包括程式設計方面)、程式設計助理、客戶支援,以及企業知識管理。
網路搜尋
網路搜尋是一種廣泛使用的 RAG 形式,也可說是最普及的消費者應用。所有主流聊天機器人都提供網路搜尋功能,讓 LLM 使用最新的來源來補充其訓練資料中所包含的資訊。
AI 工具中的協調器會透過 API 呼叫連接到第三方搜尋引擎,並將搜尋結果以摘錄的形式加入 LLM 的上下文視窗。這讓使用者能夠取得時事、最新研究、產品資訊,以及其他資訊經常變動的主題。
實際上,API 請求可能如下所示:
{
"query": "latest US inflation news",
"max_results": 1,
"language": "en",
"country": "US"
}傳回的資訊會包含來源與摘錄:
{
"query": "latest US inflation news",
"results": [
{
"title": "US inflation rises slightly in latest report",
"url": "https://example.com/us-inflation-report",
"snippet": "Consumer prices increased in the latest monthly data, with
housing and energy contributing to the rise.",
"published_date": "2026-11-05"
}
]
}個人 AI 助理
個人助理會使用 RAG 連接到個人或共用企業環境中的資訊來源。資訊來源的例子包括使用者的電子郵件、檔案、行事曆和資料庫。
由於資訊的儲存方式各不相同,個人助理最好被理解為完全代理式的 RAG 系統。視提示而定,它們可能會使用 API 呼叫、關鍵字搜尋、稠密向量檢索或知識圖譜遍歷。
越來越多企業 RAG 系統會將知識編碼至向量資料庫中,讓全公司的個人助理能輕鬆擷取,而許多企業 AI 產品在設計時也考量到了這一點。
程式設計助理也值得一提,因為它們代表了另一個主要使用情境。GitHub Copilot 等程式設計助理可以連接到儲存庫及專案專屬的文件,以擷取相關的檔案、函式、符號、指引、API 和提交歷史記錄。
客戶支援
客戶支援是另一個主要的 RAG 使用情境,近年來 AI 聊天機器人的採用率也快速成長。Crisp 在其《State of AI Customer Support》報告中發現,40% 的對話無需真人介入即可解決,顯示其成效相當高。
當使用者向客服機器人提問時,協調器通常會搜尋該公司的內部知識庫。為了確保準確性,也經常會採用修正式 RAG 和 Self-RAG,並在適當時機轉接給真人客服。
企業知識庫
中大型企業在導入 AI 工作流程與生成式 AI 工具的同時,也建立了內部知識庫。這讓全公司的助理能夠在維護隱私的前提下存取內部資料,無論是敏感的客戶資訊、私有的企業資料,還是專業的領域知識。
這些系統通常以向量資料庫為核心建構,但也會使用其他 RAG 方法。以 Microsoft 365 Copilot 為例,它有一個 API 層,可公開向量資料庫、知識圖譜和語意索引等各種資訊來源,以便廣泛存取公司的資料。
這些 RAG 系統通常也內建於通用代理式工具的企業方案中。例如,Perplexity Enterprise 讓使用者能上傳大量文件,供內部安全使用。
使用者也可以在獨立的專案中上傳自己的檔案,基本上就是建立迷你 RAG 系統。搜尋也可以與網路搜尋等其他形式的 RAG 結合,實現混合式增強。
RAG 和 LLM 有什麼不同?
大型語言模型(LLM)只能使用其參數中所呈現的資訊來生成輸出。它會為內部詞彙表分配機率,以預測序列中的下一個字詞(或稱詞元,token)。因此,如果其參數未經過相關資訊的訓練,就無法提供準確的答案。
在通用或專業的 AI 平台中,RAG 管線會與一個或一組 LLM 協同運作。它們會連接外部資訊來源,以補充提供給語言模型的輸入上下文,這也是 RAG 與 LLM 之間最核心的差異。
是否要擷取額外資訊,或是完全依賴參數化知識,這項決策可以在協調器層級決定(通常使用以規則為基礎的邏輯),甚至可以由 LLM 自行決定。
RAG 和 MCP 有什麼不同?
RAG 與模型上下文協定(MCP)最好被視為互補的技術。MCP 是一種開放標準,用於建構讓 AI 工具能透過單一端點存取外部功能、資源和提示的架構。
當 AI 工具連接到 MCP 伺服器時,伺服器會公開用戶端有權存取的所有基本元件(MCP 工具、資源和提示)。用戶端是在用戶端的協調器與伺服器之間建立連線的元件。有時,這可能涉及公開資料庫和資訊來源,在這種情況下,MCP 便會在 RAG 管線的檢索層中扮演中介角色。
RAG 和 API 有什麼不同?
API 是一種定義好的介面,兩個應用程式可以透過它互相傳送請求。RAG 則是 LLM 存取外部資訊,以改善並擴充其輸出的過程。
RAG 經常使用 API 呼叫來擷取資訊。例如,在網路搜尋的資訊檢索中,協調器會根據使用者的提示,向相關的搜尋引擎發出 API 請求。
RAG 為何重要,以及它將如何持續演進
RAG 之所以重要,是因為 LLM 本質上受限於其訓練資料。從時事到公司的私有知識,有大量資訊是它們無法取得的。RAG 解決了這個問題,而且不需要耗費過多資源。
然而,單靠資訊檢索還不夠,這也是 RAG 將持續演進的原因。RAG 是當前 AI 研究的重要部分,研究重點在於改善系統,使其能以各種格式傳回正確的資訊,並有效地判斷資訊、排定優先順序。
隨著 RAG 變得越來越強大,AI 系統在重要的消費者與企業應用中也越來越實用,包括客戶支援、網路搜尋、程式設計、個人助理、專業研究等。