检索增强生成(RAG):定义、用例与实践示例

检索增强生成(RAG)让 AI 工具能够引入外部信息,为其回答提供依据。本指南介绍了 RAG 的工作原理、主要类型,以及从网页搜索到企业知识库的真实用例。

Diagram of a RAG pipeline: in the ingestion path, source data such as docs, databases, and files is chunked and embedded into a searchable index like a vector database; in the retrieval path, an orchestrator builds a query from the user prompt, retrieves results from the index, and passes the prompt plus context to an LLM to produce a grounded answer.

RAG(检索增强生成)是基于 LLM 的工具获取外部信息的过程。这些信息并不包含在 LLM 的训练参数中,而是被添加到相关的输入上下文中,用于生成回答。

RAG 是现代 AI 系统中最重要的组成部分之一。所有主流智能体工具(ChatGPT、Claude、Perplexity 等)都在使用它,它在消费级和企业级场景中也有着广泛的用例。自首次普及以来,RAG 已经历多次创新,并仍在以引人注目的方式不断演进。

什么是检索增强生成(RAG)?

检索增强生成(RAG)是一种通过向大语言模型(LLM)提供相关外部信息来改进其输出的方法。

典型的 RAG“管道”(指广义的底层 RAG 架构)有两条路径:摄取路径和检索路径。摄取路径获取数据并将其转换为可搜索的格式。检索路径根据用户的提示词构建请求,并查询信息源。

通常,RAG 系统会围绕向量数据库构建。在这种场景下,LLM 工具的编排器组件(负责管理用户提示词、发送查询,并从可搜索索引中检索结果)会生成一个向量嵌入,并用它来查询由代表已摄取数据的向量组成的数据库。随后,它会将检索到的信息添加到 LLM 现有的上下文输入中,并附上如何利用这些信息生成输出的指令。

RAG 并不仅仅指上文所述的稠密向量搜索。知识图谱遍历、语义搜索、传统数据库查找,或这些方法的任意组合,同样属于 RAG。

RAG 的优势

RAG 之所以如此流行,原因之一在于它解决了仅依靠 LLM 生成回答时存在的两个核心问题:幻觉,以及无法获取训练材料中未包含的信息。

事实核查与依据锚定

LLM 素来被认为难以保证事实准确性。很多时候,如果无法可靠地回答某个问题,它们会自信地产生幻觉。这可能是因为训练材料中没有包含相关信息,也可能是训练材料本身存在错误。借助 RAG 进行事实核查,就是将回答锚定在来自可信第三方来源的信息之上。

最新信息

LLM 只能回答训练数据截止时间点(称为知识截止日期)之前的相关话题。RAG 系统可以连接到时效性极强的信息源,例如通过网页搜索 API 获取的新闻资料,或包含最新产品信息的内部数据库。这样一来,就可以针对训练数据未涵盖的话题生成回答。

访问私有外部数据

RAG 系统让企业能够将 AI 基础设施连接到无法公开共享的敏感、专有和特定领域的信息源。许多热门工具(例如 Perplexity)现在都提供上传机密数据和构建私有知识库的选项,这也是一种常见的企业用例。

RAG 概述与演进:主要架构类型

虽然检索增强生成这一术语最早出现在 2020 年一篇题为《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》的重要论文中,但信息检索系统在此之前已经使用了数十年。早期的搜索引擎就是一个很好的例子。然而,真正的 AI 创新在于将参数化模型知识与稠密向量索引相结合(该论文使用维基百科来构建这一索引)。

以下是 RAG 主要类型的概览:

  • 基础 RAG:基础 RAG 也称为朴素 RAG,是 RAG 管道最简单的形式。它遵循“先检索、后生成”的流程,主要用例是向量数据库搜索。它仍然适合用于构建简单直接的 RAG 实现,尤其是在有限的内部使用场景中。
  • 混合 RAG:这种方式会结合多种类型的 RAG,通常指将简单的关键词搜索与稠密向量检索相结合。
  • 纠正式 RAG:这是一种 RAG 形式,由经过微调的模型评估检索到的信息,以判断其与用户提示词的相关性。
  • Self-RAG:Self-RAG 与纠正式 RAG 类似,但在 Self-RAG 中,LLM 会评估自身的输出,并在需要时发起检索。它通过专门的反思 token 来实现这一点。
  • 智能体 RAG:智能体 RAG 是指智能体 AI 平台调用不同检索方法的方式。LLM 可以通过编排器进行推理,并从多种 RAG 方案中做出选择。
  • 多模态 RAG:这类 RAG 会将图像和音频等其他形式的媒体纳入其摄取和检索管道中。
  • GraphRAG:GraphRAG 通过知识图谱遍历(实体搜索)来检索信息。它可以与稠密向量检索结合使用,但并非必须如此。
  • 分支 RAG:这种 RAG 架构会同时运行多个检索查询,并且通常采用不同的架构模式。分支 RAG 是运行复杂工作流的 AI 工具中的常见功能。
  • HyDE(假设文档嵌入):假设文档嵌入是由 AI 生成的回答,用于模拟针对用户提示词的理想答案可能是什么样的。它们被用于优化 RAG 查询,从而提高检索信息的准确性。

主要 RAG 用例及示例

RAG 在现实世界中是什么样的?如果你曾向 AI 聊天机器人询问过时效性强的问题、咨询过客服机器人,或使用个人助理处理过行政事务,那么你就已经用过 RAG 了。

在消费级和企业级场景中,最主要的 RAG 示例包括网页搜索、个人助理(包括编程场景)、编程助手、客户支持和企业知识管理。

网页搜索

网页搜索是一种被广泛使用的 RAG 形式,可以说也是最普及的面向消费者的应用。所有主流聊天机器人都提供网页搜索功能,LLM 会借助最新的来源来补充其训练材料中包含的信息。

AI 工具中的编排器通过 API 调用连接到第三方搜索引擎,搜索结果以摘要片段的形式添加到 LLM 的上下文窗口中。这样,用户就能了解时事、最新研究、产品信息,以及其他信息频繁更新的话题。

在实践中,API 请求可能如下所示:

json
{ "query": "latest US inflation news", "max_results": 1, "language": "en", "country": "US" }

返回的信息会包含来源和摘要片段:

json
{ "query": "latest US inflation news", "results": [ { "title": "US inflation rises slightly in latest report", "url": "https://example.com/us-inflation-report", "snippet": "Consumer prices increased in the latest monthly data, with housing and energy contributing to the rise.", "published_date": "2026-11-05" } ] }

个人 AI 助理

个人助理利用 RAG 连接个人或共享企业环境中的信息源。信息源的示例包括用户的电子邮件、文件、日历和数据库。

由于信息可以通过多种方式存储,个人助理最好被理解为完全智能体化的 RAG 系统。根据提示词的不同,它们可能会使用 API 调用、关键词搜索、稠密向量检索或知识图谱遍历。

越来越多的企业 RAG 系统会将知识编码到向量数据库中,以便全公司范围的个人助理能够轻松检索,许多企业级 AI 产品在设计时也考虑到了这一点。

编程助手同样值得关注,因为它们代表了另一个主要用例。GitHub Copilot 等代码助手可以连接到代码仓库和项目专属文档,以检索相关的文件、函数、符号、指南、API 和提交历史。

客户支持

客户支持是 RAG 的另一个主要用例,近年来 AI 聊天机器人的采用率迅速提升。Crisp 在其《State of AI Customer Support》报告中发现,40% 的对话无需人工介入即可解决,显示出很高的有效性。

当用户向客服机器人提问时,编排器通常会搜索公司的内部知识库。为确保准确性,系统还经常采用纠正式 RAG 和 Self-RAG,并在适当时转接人工客服。

企业知识库

在中大型企业推广 AI 工作流和生成式 AI 工具的同时,内部知识库也在同步建设。这使全公司范围的助理能够在保护隐私的前提下访问内部数据,无论是敏感的客户信息、私有的企业数据,还是专业领域知识。

这些系统通常围绕向量数据库构建,但也会使用其他 RAG 方法。例如,Microsoft 365 Copilot 具有一个 API 层,可以开放向量数据库、知识图谱和语义索引等多种信息源,从而提供对公司数据的广泛访问。

这些 RAG 系统通常也内置于通用智能体工具的企业版套餐中。例如,Perplexity Enterprise 允许用户上传大量文档,供内部安全使用。

用户还可以在独立的项目中上传自己的文件,这实际上相当于创建了迷你 RAG 系统。这些搜索可以与网页搜索等其他形式的 RAG 结合使用,实现混合增强。

RAG 与 LLM 有什么区别?

大语言模型(LLM)只能利用其参数中所表征的信息来生成输出。它为内部词表分配概率,以预测序列中的下一个词(即 token)。因此,如果其参数未经过相关信息的训练,它就无法提供准确的答案。

在通用或专业 AI 平台中,RAG 管道与一个或一组 LLM 协同运作。它们连接外部信息源,以补充提供给语言模型的输入上下文,这正是RAG 与 LLM 之间区别的核心所在。

是检索额外信息,还是完全依赖参数化知识,这一决策既可以在编排器层面做出(通常采用基于规则的逻辑),甚至也可以由 LLM 自己决定。

RAG 与 MCP 有什么区别?

RAG 与模型上下文协议(MCP)最好被理解为互补的技术。MCP 是一项用于构建架构的开放标准,使 AI 工具能够通过单一端点访问外部功能、资源和提示词。

当 AI 工具连接到 MCP 服务器时,服务器会公开客户端有权访问的所有原语(MCP 工具、资源和提示词)。客户端是在客户端一侧的编排器与服务器之间建立连接的组件。有时,这可能涉及公开数据库和信息源,在这种情况下,MCP 充当 RAG 管道检索层中的中介。

RAG 与 API 有什么区别?

API 是一种明确定义的接口,两个应用程序可以通过它相互发送请求。RAG 则是 LLM 获取外部信息以改进和扩展其输出的过程。

RAG 通常使用 API 调用来检索信息。例如,在网页搜索信息检索中,编排器会根据用户的提示词,向相应的搜索引擎发起 API 请求。

RAG 为何重要,以及它将如何继续演进

RAG 之所以重要,是因为 LLM 本质上受限于其训练数据。从时事到公司私有知识,有大量信息是它们无法获取的。RAG 无需投入过高的资源就能解决这一问题。

然而,仅靠信息检索还不够,这也是 RAG 将继续演进的原因。RAG 是当前 AI 研究的重要组成部分,其重点在于改进系统,使其能够跨多种格式返回正确的信息,并有效地对信息进行判断和优先级排序。

随着 RAG 变得越来越强大,AI 系统在重要的消费级和企业级应用中的实用性也随之提升。这些应用包括客户支持、网页搜索、编程、个人助理、专业研究等。