一、RAG认知篇：什么是RAG？为什么需要RAG？RAG与微调的区别

1.1 先聊聊我为什么开始研究RAG

说实话，我第一次接触RAG这个概念，是在一个客户项目里。

客户想做一个智能客服，要求能回答公司内部的各种政策问题。我一开始想得很简单——把文档喂给大模型不就行了？结果发现，大模型要么胡编乱造，要么说「我不知道」。后来我才意识到，大模型的知识是有「截止日期」的，它没法知道你们公司昨天刚发的通知。

这就是RAG要解决的问题。

1.2 RAG到底是怎么工作的？

我习惯用一个比喻来解释RAG：

想象你是一个学霸（大模型），考试时闭卷考（纯生成），你只能靠记忆答题。但如果是开卷考（RAG），你可以翻书找答案。RAG就是给大模型配了一本「可以随时翻的书」。

具体流程分三步：

1. 检索（Retrieval）：用户提问后，系统先去知识库里找相关文档片段
2. 增强（Augmentation）：把找到的文档片段和原始问题拼在一起，形成新的提示词
3. 生成（Generation）：大模型基于这个增强后的提示词，生成最终答案

嗯，这里要注意：检索的质量直接决定了回答的质量。我在项目中遇到过，检索回来的文档如果相关性不够，大模型反而会被带偏。

1.3 为什么需要RAG？

你可能会问：直接用大模型不就行了吗？为什么要多此一举？

原因其实很现实：

• 知识更新太慢：大模型训练一次要几个月，等你训练完，知识又过时了
• 幻觉问题严重：大模型会「自信地胡说八道」，RAG能给它一个「事实锚点」
• 数据隐私：很多企业数据不能上传给大模型训练，但可以放在本地知识库里检索
• 成本可控：微调一次大模型动辄几万块，RAG只需要维护一个向量数据库

1.4 RAG与微调的区别

很多人会把RAG和微调搞混。我刚开始也犯过这个错。

简单来说：微调是「改变模型本身」，RAG是「改变模型的输入」。

对比维度	RAG	微调（Fine-tuning）
核心思路	检索外部知识 + 生成	用新数据继续训练模型
知识更新	只需更新知识库，秒级生效	需要重新训练，耗时数小时到数天
幻觉控制	强（有外部知识约束）	弱（依赖训练数据质量）
数据隐私	数据不出本地	数据需要参与训练
适用场景	问答、知识检索、实时信息	风格迁移、特定任务优化
成本	低（只需向量数据库）	高（需要GPU训练）

1.5 RAG的核心知识体系

下面这张图是我自己整理的RAG知识体系，你可以看到它涉及哪些关键环节：

从这张图你可以看到，RAG不是简单的「检索+生成」，而是一个完整的闭环系统。每个环节都有坑，后面我会一一展开讲。

1.6 什么时候该用RAG？

我总结了一个简单的判断标准：

• 你的知识库经常更新（比如每周都有新内容）→ 用RAG
• 你的问题需要引用具体来源（比如法律条文、公司政策）→ 用RAG
• 你的数据涉及隐私（不能上传给第三方模型）→ 用RAG
• 你想快速验证一个想法（不想花时间训练模型）→ 用RAG