完整题目
项目里想让大模型掌握公司的业务知识，你会选择 RAG 还是微调？请从知识时效性、成本、幻觉三个角度说说你的判断依据。
本文目录
答案要点
- 微调是“改模型本身”：用领域数据继续训练模型，把知识和行为方式写进参数里
- RAG 是“外挂资料库”：模型不动，回答前先检索资料喂给它
- 知识时效性：知识经常变 → 选 RAG，改知识库即时生效；微调的知识固化在参数里，更新就得重训
- 成本：RAG 主要是工程成本；微调需要标注数据 + GPU 训练，且每次知识更新都要再花一遍
- 幻觉：RAG 答案有原文可溯源，更可控；微调过的知识模型照样可能记岔、编造
核心概念
RAG 与微调（Fine-tuning）是给大模型补充领域能力的两条路线：RAG 在回答时从外部知识库检索资料喂给模型，模型参数不变；微调则是用领域数据继续训练模型，把知识和说话方式直接写进模型参数。前者像给员工发一本随时更新的操作手册，后者像送员工去脱产培训。
三个角度对比
| 角度 | RAG | 微调 |
|---|---|---|
| 知识时效性 | 改知识库立即生效，适合频繁更新的知识（价格、政策、文档） | 知识固化在参数里，更新一次就要重新训练一次 |
| 成本 | 无需训练，主要是建知识库和调检索的工程成本 | 需要准备标注数据 + GPU 算力，门槛和单次成本都高 |
| 幻觉 | 答案有检索原文支撑，可标注出处、可核对 | 学过的知识仍可能记岔编造，且很难定位错误来源 |
一个简单的判断口诀
- 要补的是知识（事实、文档、制度、产品信息）→ 优先 RAG
- 要教的是能力和风格（固定输出格式、行业话术、特定任务套路）→ 考虑微调
- 实际项目里两者并不对立，常见打法是组合拳：RAG 管知识来源，微调管表达方式和任务能力
对入门者的建议是：九成的“让模型懂业务”需求，先用 RAG 验证效果，不够再考虑微调。入门之后，可以深入了解 LoRA 等低成本微调方法，以及 RAG 与微调结合落地的真实案例。
换一种问法，检查是否真正理解
场景切入
假设你在做一个电商客服机器人，退换货政策每个月都可能调整，同时又要求回复口吻符合品牌风格。这种情况下 RAG 和微调你怎么安排？
追问边界
你说知识类需求优先 RAG，那有没有 RAG 搞不定、必须上微调的情况？反过来，微调做完了是不是就可以不要 RAG 了？
练习口述回答 · 约2分钟
- 面试官问RAG还是微调，本质是问怎么给模型补知识
- 先说边界：RAG管事实，微调管表达
- 然后从时效性、成本、幻觉三个角度展开
- 最后给出组合拳的判断和延伸
这道题其实问的是：当你想让大模型掌握公司业务知识，你是打算动模型本身，还是给它一个外挂资料库。我理解这本质上是在问知识接入的架构选择。
先说边界划分。[[RAG]] 适合补事实类知识，比如价格、政策、产品参数，这些知识经常变，改了知识库马上生效。微调适合教能力和风格，比如固定的输出格式、行业话术、特定任务套路，这些需要写进模型参数里才能稳定。但实际落地很少二选一，真正常见的做法是RAG加微调组合，RAG管知识来源，微调管表达方式。
具体从三个角度对比。先说知识时效性。如果知识频繁更新，比如电商平台的满减政策每周调，那RAG天然有优势，改知识库就生效。微调的话，知识固化在参数里，每次更新都得重新训练，成本很高。
再一个成本。RAG主要是工程成本，建知识库、调检索、搭链路，不需要GPU训练。微调需要标注数据加GPU算力，门槛高，而且每次知识更新都要再花一遍钱。如果团队没有持续标注和训练的能力，微调很容易做成一次性项目，上线后知识就僵住了。
最后是[[幻觉]]。RAG的答案有检索原文支撑，可以标注出处，用户能核对。微调过的知识，模型照样可能记岔或者编造，而且错误来源很难定位。所以对准确率要求高的场景，比如客服退款、企业合规文档，RAG更可控。
当然，RAG也不是万无一失。比如检索质量如果不行，召回的都是无关文档，那模型再强也答不对。所以上线我会特别关注[[Rerank]]这一步，确保Top5文档确实能回答问题。
所以整体上我更倾向：九成以上的业务知识需求，先用RAG快速验证效果，不够再考虑微调。如果必须微调，也会优先用[[LoRA]]这类低成本方法，降低迭代开销。