模块一-RAG概述系列导航本文是 RAG 技术教程 的第一篇。本系列基于吴恩达 RAG 课程整理面向有基础知识的开发者。前置知识无本篇是系列起点。版权声明本系列基于 DeepLearning.AI 课程Building and Evaluating Advanced RAG Applications讲师 An Hassan整理为学习笔记性质的二次创作。原始课程版权归 DeepLearning.AI 及讲师所有。1. RAG 入门从模型不知道的事到检索增强生成1.1 1. LLM 的知识盲区大语言模型训练时读遍了互联网上的公开数据但它仍然回答不了很多问题。原因很具体训练数据有截止日期之后发生的事它不知道公司内部的文档、客户手册、产品规格从未出现在训练集里专业领域的病例、判例、行业报告也不是公开互联网能覆盖的。要求一个模型精通所有领域本身就不现实。更麻烦的是LLM 不会老实说我不知道——它会生成听起来合理但实际不正确的回答这叫幻觉。当用户问了一个模型训练时没见过的信息它可能编造一个看似可信的答案而用户很难分辨真假。解决办法不复杂如果模型不知道就把信息放到它的提示里。这就是 RAG 的出发点。1.2 2. RAG 的核心思想RAG 的全称是 Retrieval-Augmented Generation检索增强生成。名字有点长但做的事情很直接——在用户的问题发送给 LLM 之前先从知识库中检索相关信息把这些信息拼进提示中让模型基于真实数据生成回答。人类回答问题本来就是两步走先收集信息再推理回答。问周末酒店为什么贵靠常识就行不需要查资料问温哥华这周末酒店为什么暴涨就得搜一下结果发现是泰勒·斯威夫特在开演唱会问温哥华为什么市中心酒店容量不足可能需要查城市规划历史。问题越专业、越有时效性就越需要检索外部信息。RAG 就是把第一步自动化了。工作流程用 mermaid 表示用户提问检索器查询知识库返回相关文档构建增强提示LLM 生成回答增强提示的构建方式很朴素就是字符串拼接defrag_query(question):# 1. 检索相关文档documentsretriever.search(question)# 2. 拼接增强提示promptf请回答以下问题{question}以下是可能有帮助的参考资料{documents}# 3. LLM 基于增强提示生成回答answerllm.generate(prompt)returnanswer没有复杂的魔法就是把检索到的内容塞进提示里。RAG 能工作的根本原因在于 LLM 的上下文理解能力——即使信息不在训练数据中只要在提示里提供了模型就能理解并将其融入回答。1.3 3. RAG 系统架构一个 RAG 系统由三个核心组件构成LLM、检索器、知识库。相关文档原始问题回答用户检索器知识库增强提示LLMLLM负责理解上下文并生成回答检索器负责从知识库中找到与问题最相关的文档知识库存储 LLM 训练数据中没有的信息这三者的分工很清晰检索器从海量信息中筛选关键内容LLM 专注于文本生成每个组件做自己最擅长的事。检索器不需要会写文章LLM 不需要会查资料各司其职。RAG 相比直接用 LLM 有四个明显优势优势说明访问私有信息使 LLM 能获取训练数据之外的专有或最新信息降低幻觉通过提供相关事实锚定LLM 的回答减少编造便于信息更新只需更新知识库无需重新训练模型支持来源引用可在回答中包含引用便于读者验证“锚定这个词用得挺形象——就像给 AI 一根绳子拴住让它不要天马行空地编造而是基于提供的事实回答。模型没有经历心理发作它只是在生成可能的文本”而 RAG 确保这些可能的文本更接近真实的文本。1.4 4. LLM 基础速览要理解 RAG需要对 LLM 的工作原理有基本认识。1.4.1 词元TokenLLM 处理文字的最小单位是词元不完全等于单词。英文中 “programmatically” 可能被拆成 “program” “matic” “ally” 三个词元标点符号各自是一个词元。中文里人工智能可能是一个词元也可能拆成人工 “智能”不同模型的分词方式不同。大多数模型的词汇量在数万到十万个词元之间。1.4.2 自回归生成LLM 每次只生成一个词元。生成过程拿到当前所有文本 → 遍历词汇表中每个词元 → 计算每个词元作为下一个出现的概率 → 从概率分布中采样一个 → 追加到文本末尾 → 重复。这意味着早期的随机选择会影响后续方向同一提示多次运行可能产生不同结果。1.4.3 幻觉LLM 设计的目标是生成可能的文本序列而非真实的文本。当模型缺乏相关信息时它会基于训练数据中的模式生成听起来合理但实际不正确的内容。幻觉从轻微把折扣说成 5% 实际是 10%到严重虚构公司从未提供的信息不等。幻觉级别表现示例轻微准确描述但细节错误折扣 5% vs 10%中等错误声称存在实际不存在的信息声称某功能已上线严重完全虚构信息虚构不存在的客户折扣RAG 解决幻觉的原理不是改变模型本身而是改变模型能看到的信息。在提示中注入相关事实让模型的回答锚定在真实数据上。1.4.4 上下文窗口LLM 有上下文窗口限制——一次能处理的最大词元数量。添加的检索信息会占用这个窗口所以需要控制检索结果的数量和长度。旧模型的窗口可能只有几千词元新模型可以处理数百万但成本随窗口使用量线性增长。1.5 5. 检索器的角色检索器的工作可以用图书馆来类比知识库是藏书文档索引是按主题分类排列的书籍查询处理是能理解你问题并帮你找到相关书籍的图书管理员。检索器有三大组件文档知识库所有可用文档的集合文档索引将文档按某种结构组织便于快速搜索查询处理理解用户问题的含义利用索引搜索并返回最相关的文档返回文档数量是个需要权衡的问题。返回太多信息会被淹没在无关内容中提示成本增加甚至耗尽上下文窗口返回太少可能遗漏重要信息。理想情况是检索器完美排序并返回恰到好处的数量但现实中检索器有时会把相关文档排得太低或把无关文档排得太靠前。检索器可以用两种方式实现向量数据库擅长找意思相近的内容语义搜索传统关系型数据库擅长找精确匹配的内容关键词搜索。实际生产中通常将两者结合使用形成混合搜索。1.6 6. 实际应用场景RAG 的应用比想象中广泛场景说明代码生成以代码库为知识库LLM 生成符合项目风格的代码企业客服了解产品详情、库存状态、故障排除步骤内部助手回答公司政策、流程指引引导至相关文档医疗法律高精准度要求的专业场景涉及大量私密信息AI 搜索搜索引擎的 AI 摘要本质上就是以互联网为知识库的 RAG个人助手短信、邮件、日历中的个性化协助知识库虽小但富含上下文只要拥有未用于训练的额外信息就有构建 RAG 应用的潜力。1.7 7. RAG 的演进路径RAG 不是一成不变的技术经历了三个阶段阶段特点基础 RAG人工编写规则决定文档分割、检索策略、上下文数量高级 RAG更复杂的检索策略和优化技术混合搜索、重排序Agentic RAG多个 LLM 各司其职AI 代理自主决定何时检索、用什么关键词、是否需要二次检索吴恩达认为 RAG 不会被淘汰——随着语言模型技术提升语言模型将持续受益于高质量的相关数据。RAG 常成为复杂多步骤工作流中的一个组件比如在某个企业任务的第五步或第七步发挥作用。来源吴恩达 RAG 课程模块一讲1-讲8讲师 An Hassan。1.8 思考题如果你的公司有一份 100 页的产品手册你会如何设计 RAG 系统来回答客户关于产品功能的问题需要考虑哪些组件RAG 能完全消除 LLM 的幻觉吗为什么除了文中列出的场景你还能想到哪些 RAG 的应用场景下一篇模块二信息检索与搜索基础
