【AI大模型进阶】什么时候该微调，什么时候该 RAG？一张决策图帮你搞定写在前面：这不是二选一上一课我们聊了微调，这一课换个更现实的视角：很多业务刚起步时，最纠结的问题其实是“我到底该微调，还是该上 RAG（检索增强生成）？”不少团队把时间浪费在反复横跳上——先微调，发现知识更新跟不上，又重做成 RAG；或者先做 RAG，发现风格总不对，又回头微调。先说结论：微调和 RAG 不是竞争关系，而是解决两个不同问题的工具。微调改变的是模型“怎么说话”（风格、格式、行为），RAG 解决的是模型“知道什么”（最新、私有、可追溯的知识）。本文给你一张决策图和一套判断标准，帮你快速定位该走哪条路，并附上两种方案的落地代码。一、先分清两个“问题维度”做选择之前，先把自己的需求放到两个维度上量一量：知识维度和行为维度。知识问题：模型不知道某个事实，或知道的是过时的。例如“我们公司今年 3 月刚发布的新品价格”“最新的政策条款”。这类问题的特征是“内容在变、且只属于特定来源”。行为问题：模型“懂”但“不会按你的方式表达”。例如“所有客服回复必须用礼貌且简短的话术”“技术文档必须用固定模板输出”。这类问题的特征是“内容不变、但要稳定地换一种说法”。判断口诀：知识不对 → 想 RAG；行为不对 → 想微调；两个都不对 → 组合使用。二、一张决策图帮你搞定下面是本文的核心，把选择路径画成一张决策图。从“业务痛点”出发，逐层向下问，就能落到对应方案： 【AI大模型进阶】什么时候该微调，什么时候该 RAG？一张决策图帮你搞定
【AI大模型进阶】什么时候该微调，什么时候该 RAG？一张决策图帮你搞定写在前面：这不是二选一上一课我们聊了微调，这一课换个更现实的视角：很多业务刚起步时，最纠结的问题其实是“我到底该微调，还是该上 RAG（检索增强生成）？”不少团队把时间浪费在反复横跳上——先微调，发现知识更新跟不上，又重做成 RAG；或者先做 RAG，发现风格总不对，又回头微调。先说结论：微调和 RAG 不是竞争关系，而是解决两个不同问题的工具。微调改变的是模型“怎么说话”（风格、格式、行为），RAG 解决的是模型“知道什么”（最新、私有、可追溯的知识）。本文给你一张决策图和一套判断标准，帮你快速定位该走哪条路，并附上两种方案的落地代码。一、先分清两个“问题维度”做选择之前，先把自己的需求放到两个维度上量一量：知识维度和行为维度。知识问题：模型不知道某个事实，或知道的是过时的。例如“我们公司今年 3 月刚发布的新品价格”“最新的政策条款”。这类问题的特征是“内容在变、且只属于特定来源”。行为问题：模型“懂”但“不会按你的方式表达”。例如“所有客服回复必须用礼貌且简短的话术”“技术文档必须用固定模板输出”。这类问题的特征是“内容不变、但要稳定地换一种说法”。判断口诀：知识不对 → 想 RAG；行为不对 → 想微调；两个都不对 → 组合使用。二、一张决策图帮你搞定下面是本文的核心，把选择路径画成一张决策图。从“业务痛点”出发，逐层向下问，就能落到对应方案： RELATED READING
延伸阅读
更多一线实战笔记与深度复盘，助您持续精进
