RAG 与微调怎么选？企业知识、模型行为与成本对比

模型缺少准确的企业资料，先用 RAG；资料已经齐全，却反复用错表达方式或判断规则，再考虑微调。RAG 与微调的区别，在于前者提供依据，后者训练行为。下面的 3 个业务案例会说明：一次训练费用低，并不意味着整套系统更省钱。

文档、模型可用性及公开标价已于 2026 年 10 月 16 日核实。 下文的工作量与费用计算均为预算示例，并非客户实测结果。

RAG 与微调怎么选？先看要解决哪类问题

检索解决知识获取问题，微调针对反复出现的行为问题。 分清这一点，才能先确定该把精力花在哪里，再决定购买什么服务。

检索增强生成，即 RAG，会在模型回答前，找到相关资料并放入它的工作上下文。微调则用符合预期的回答或决策示例，对预训练模型继续训练，改变它学到的参数。可以把模型想象成一名客服：检索是把最新版参考手册交给他，微调是用批改过的案例教他如何处理问题。两者都不能替代清晰的指令。

这是实用的默认判断方法，并不意味着训练无法让模型学到事实。微调可以让模型学会事实之间的关联，但仍无法提供可靠的数据库来管理最新政策、文档权限和来源引用。AWS 的对比文档也区分了知识获取与模型定制这两类作用。

先做依据测试： 找一个回答失败的问题，手动补上正确且最新的原文段落。如果答案因此达标，就去修复检索。如果仍然不合格，就检查指令、任务难度和回答行为。只有先改进这个更简单的基线方案，才有必要把微调列入候选。

对开发者来说，这能分清文档处理流程与训练流程；对运营负责人来说，这能明确问题由谁负责：知识维护者，还是训练样本的审核者；对采购方来说，这提供了一个实用的验收方法：让供应商证明，新增组件到底解决了哪一种失败。

RAG、微调和提示词工程有什么区别？

从能够通过任务验收的最小改动开始。 提示词工程，就是改进每次请求中提供的指令、示例和上下文。无论采用检索还是微调，它始终是系统的一部分。

RAG 和提示词工程如何取舍？

如果请求中已经包含必要资料，用提示词即可。如果应用需要到企业资料中查找这些内容，再加入检索。取消条款从未提供给模型，指令写得再好也无从得知；至于应该如何适用条款，若指令本身相互矛盾，搜索索引也解决不了。

什么时候从提示词工程转向微调？

经常变化的品牌规范和偶发任务，继续放在提示词里。对于稳定、反复执行的行为，如果指令已足够清晰，也提供了有代表性的示例，模型仍然做不好，再考虑微调。Google 的微调指南也建议先建立提示词基线。

大模型微调与迁移学习是什么关系？

微调是迁移学习的一种：将模型在之前训练中获得的能力，适配到当前任务。它并不是另一种资料检索技术。对于眼前的选型，真正要问的是：是否有必要改变模型已经学到的行为？

动手前，先确认模型与账号支持微调

准备托管微调项目之前，既要检查模型是否支持，也要检查账号是否有资格使用。 旧教程里出现过某个模型名，并不足以作为依据。

OpenAI 的自助微调平台已于 2026 年 5 月 7 日停止向此前从未使用过该平台的组织开放。从 2026 年 7 月 2 日起，此前 60 天内未运行过微调模型的组织，也失去了创建训练任务的权限。当前公告指出，仍在使用该平台的现有客户，将于 2027 年 1 月 6 日失去创建新任务的权限；已有微调模型的推理服务，也仅持续到其基础模型被弃用为止。对于企业新项目，这已不适合作为默认路线。参见 OpenAI 弃用公告。

Google Gemini 3.1 Flash-Lite 可以列入候选，因为当前 Google Cloud 文档明确支持对它进行监督微调，也就是用标注好的样本训练。Google 当前文档将平台称为 Gemini Enterprise Agent Platform；原来的 Vertex AI 微调文档已重定向至该平台。下文选用这个模型，是为了给出具体预算，并不代表它在你的任务中一定表现最好。参见支持微调的模型。

部署限制也会影响选型：这个模型的微调在 us-central1 或 europe-west4 运行，微调后的推理服务则使用 us 或 eu 多区域端点。预算应采用这些端点的价格，不能直接套用更便宜的基础模型全球端点费率。Google 的服务等级保障也不涵盖监督微调。参见微调限制。

以下案例的价格口径： 标准非全球端点的文本推理，每百万 token 的输入费为 $0.275，缓存输入费为 $0.0275，输出费为 $1.65；微调按每百万训练 token 收费 $3，重复训练轮次也计入 token 数。微调后的推理费率为基础费率的 1.5 倍，即输入 $0.4125、输出 $2.475。以上均为 Google Cloud 公开标价，并非 Gemini 应用的订阅价格。参见 Google 定价。

一个 epoch，是指将整个训练数据集完整训练一遍。所有案例都假设每项任务只调用一次模型，计费输出总量包含推理 token。预算不含税费、工程开发、数据标注、评估调用、重试、源文档存储、文档扫描及额外搜索服务。这些项目需要单独预算；训练账单并不是实施报价。

3 个业务案例：怎么搭建，费用怎么算？

根据企业文档回答客服问题：先从 RAG 开始

软件公司的客服助手，首先需要最新依据，然后才谈得上训练。 例如，客户询问取消服务是否立即生效，答案必须遵循当前政策，并考虑适用的合同例外。

先搭建资料导入流程：读取已批准的文档，切分成有用的段落，并保留来源 URL、生效日期、产品和访问权限。收到请求时，把搜索范围限定在该客户有权查看的资料内，检索相关段落，再要求模型依据这些内容回答并附上引用。段落变更后要替换，删除后要移除。源文档一旦更新，索引并不会自动同步。

OpenAI text-embedding-3-small 将文本转换为用于相似度搜索的数值表示。其价格为每百万输入 token $0.02，默认输出 1,536 维向量。为文档生成嵌入向量，是为了让文档可被搜索，并不是在训练撰写答案的模型。参见模型价格、嵌入维度。

本例使用 Cloudflare Vectorize 作为向量数据库，存储这些表示并查找相似向量。它的局限在于依据质量：向量相近的段落，可能已经过时，也可能并不相关。应用必须落实访问权限，并验证所选文本确实能够支撑答案。

初始搭建费用： 假设切分后得到 10,000 个段落，平均每段 500 token。首次生成嵌入的费用为 5 百万 token × $0.02 = $0.10，不包括解析文档和上述工程工作。

这个索引存储 15.36 百万维，超过 Vectorize 5 百万维的免费额度。付费额度包含 10 百万存储维度和每月 50 百万查询维度；超出部分按每 100 百万存储维度 $0.05、每百万查询维度 $0.01收费。按照 Cloudflare 公布的公式，这个索引在每月 10,000 次查询下会产生 30.72 百万查询维度，仍在额度内。超额存储费为 $0.00268/月。这里假定账号内其他用途没有占用这些额度。参见 Vectorize 定价。

每月组件预算： 替换 1,000 个段落，并为 10,000 个问题生成嵌入，每个问题平均 100 token，费用为 $0.03。生成 10,000 个回答，每次总输入 2,500 token、输出 400 token，费用为 $13.475。再加上 Workers Paid 账号最低费用 $5及超额存储费，合计约 $18.51/月，另需支付首次生成嵌入的费用。这里假定 Worker 执行量保持在套餐额度以内。参见 Workers 定价。

实际验收要看：答案是否采用正确的现行政策，引用的段落是否足以支撑结论，以及模型是否会拒绝编造例外。还要测试文档已删除的情况，以及客户试图查看其他客户合同的情况。只有在依据正确的前提下，仍然反复出现同类行为错误，才考虑后续微调。

统一品牌文风：先试示例与缓存，再考虑训练

稳定的编辑风格可以成为微调的理由；如果品牌内部还在争论该怎么写，就不适合开始训练。 以一家发送产品邮件的公司为例：邮件要求表达直接，避免夸大，结尾给出明确的下一步行动。

先把风格指南和已批准的范例放进提示词。如果模型仍反复处理不好细微的编辑要求，再构建训练样本对：输入是原始写作需求和事实，输出是编辑审核通过的稿件。只有过往邮件成稿，无法说明什么样的输入应该对应什么样的回答。

例如，一份写作需求要求宣布周六也提供客服支持，审核通过的目标文案可以是：“现在，周六也能联系客服了。需要帮助时，打开聊天窗口即可。”目标文案展示表达风格，写作需求则提供事实。

要把风格与事实内容分开。可以训练模型偏好简短的开头，但本周的产品信息应在请求时提供。保留未用于训练的写作需求用于评估，请编辑分别判断是否存在无依据的说法、语气是否合适、必需内容是否齐全，以及还需要多少改写。文本相似度得分不能证明文案符合品牌要求。

初始训练费用： 1,000 对样本，每对平均合计 1,600 token × 3 个 epoch = 4.8 百万训练 token，单次任务费用为 $14.40。这只是预算假设，并不意味着这样的数据量或训练轮次就能通过评估。

每月模型使用费： 使用微调模型生成 10,000 篇初稿，每篇输入 1,200 token、输出 400 token，费用为 $14.85。如果使用同一个基础模型，并在每次请求中额外加入 4,800 token 的风格指南与示例，在没有缓存命中的情况下，费用为 $23.10。达到稳态、所有重复前缀均命中隐式缓存时，这个提示词基线方案的费用可降至 $11.22，另加缓存未命中和预热产生的费用。以上计算采用前述 Google 费率。

成本比较就此反转。微调仍可能通过减少编辑返工体现价值，但为了避免重复支付长篇风格提示词的费用，微调并不一定更便宜。决定搭建训练流程之前，应先测量缓存使用情况和编辑验收通过情况。

工单分类：稳定的判断适合微调，变化的规则交给检索

当分类标签稳定、反复出现的错误也能量化时，工单分类很适合列入微调候选。 假设允许的标签为 billing、access、bug 和 review。

“我打不开账单”这条消息就体现了难点。它包含账单相关词语，但负责处理的队列可能是访问权限队列。先与客服负责人就分类边界达成一致，再为有代表性的消息打标，其中也应包含模棱两可的情况。划分训练集和评估集时，同一段对话中的相关消息应放在同一组；还要纳入较晚出现的工单，以便发现用语或产品的变化。

输出必须是允许的标签，但格式正确不等于分类成功。应分别衡量紧急问题漏判、分错队列、不必要的人工复核，以及后续重新分派带来的工作量。模型自报的置信程度，并不是经过校准、可以用于路由的阈值。

初始训练费用： 5,000 条标注样本，每条平均合计 300 token × 3 个 epoch = 4.5 百万训练 token，单次任务费用为 $13.50。每月模型使用费： 处理 100,000 张工单，每张输入 250 token、计费输出 20 token，微调模型费用约为 $15.26；同样的简短提示词用于基础模型，费用为 $10.18。微调模型必须靠更准确的决策证明这部分额外支出值得。参见 Google 定价。

通过应用代码拒绝无效标签，并将难以确定的案例送交人工复核。Google 的微调文档提醒：推理时加入受控生成，即用 schema 约束输出，可能造成推理与训练不匹配。因此，要评估的是准备实际部署的完整组合。参见已知微调问题。

如果队列职责经常调整，就把当前路由策略保留在模型权重之外，通过检索或提示词提供。如果连标签之间的划分边界都在不断变化，应先推迟微调，等业务运行足够稳定、规则可以明确教给模型时再做。

到了 2026 年，长上下文与提示词缓存改变了什么？

对于规模小、内容稳定的文档集，现在值得先试着直接交给模型，再决定是否搭建检索服务。 长上下文和缓存并不是 2026 年才出现的，但它们改变了如今选型时应采用的比较基线。

上下文窗口，是模型在一次请求中能够处理的材料总量。Gemini 3.1 Flash-Lite 于 2026 年 5 月 7 日发布，列出的上下文窗口为 1,048,576 token。这说明容量有多大，并不保证它能正确运用大型手册中的每一条例外。要为指令、问题和生成内容留出空间，再测试那些难处理的段落。参见模型规格。

RAG 和 CAG 有什么区别？

缓存增强生成，即 CAG，指预先加载知识并复用缓存上下文，从而避免每个问题都重新检索文档。它适用于相关资料能够全部放入上下文、更新不频繁，而且所有接收这些资料的用户都拥有相同访问权限的情况。提示词缓存复用的是对重复输入的处理结果，并不会把事实写入模型权重，也不能保证答案反映最新情况。

假设一本 80,000 token 的手册被复用于 10,000 次请求，仅手册这一部分的输入费用，在不使用缓存时为 $220，全部命中缓存时为 $22。新问题、输出、缓存未命中和创建缓存仍然收费。按照公开列出的每百万 token·小时 $1的费率，将该手册的显式缓存保留 720 小时，还会增加 $57.60 的存储费。参见 Google 缓存定价。

隐式缓存不收存储费，但不保证命中。把公共资料放在前面，保持前缀一致，并检查响应中的 cachedContentTokenCount。这个模型要求符合条件的上下文至少达到 4,096 token，因此，简短的工单提示词不应按缓存费率编制预算。参见缓存文档。

两者的边界取决于实际需求。如果手册范围有限，能够整体更新并统一授权，可以直接使用长上下文。如果企业资料规模更大、各部分分别更新，或文档之间权限不同，就使用检索。在 RAG 系统中缓存公共指令前缀，只要有效也可以采用；这些方案可以共存。

不要假设微调模型也能使用所有缓存功能。Google 当前的微调模型缓存文档指出，微调模型不支持显式缓存，而是否支持隐式缓存取决于模型版本。

资料会更新，行为也有问题时，再把两者结合

只有分别证明检索与微调各自解决了一个问题，才值得把它们组合起来。 例如，客服助手通过检索取得当前取消条款，同时由微调模型遵循企业要求的回答结构：先给答案，再给依据，最后提供允许的下一步操作，或升级处理。

训练示例应尽量接近模型上线后实际接收的依据。加入资料缺失、不相关和相互冲突的案例，让预期行为也涵盖请求澄清和拒绝编造答案。运行时，仍然必须先检查访问权限，再让受限资料进入模型。

检索质量与回答行为应分开评估。引用是否正确、权限边界是否守住、来源是否及时更新，仍然是应用的责任；微调不会替你落实这些要求。

如果寻找依据需要追加搜索，Agentic RAG 指南会说明，何时值得为一个有边界的检索循环增加系统复杂度。确认存在稳定的行为问题、确实需要训练之后，可参阅如何微调 LLM，了解数据集准备、检查点和评估。

哪些说法被夸大了？

“RAG 永远更好”和“微调后模型就懂我们公司了”，都不能作为可靠的开发要求。 来源过时、段落选择不当或上下文缺失，都可能让检索失效。微调则可能学到相互矛盾的样本，更稳定地重复一条已经过时的规则。

人们也容易高估廉价训练算力的价值。训练账单没有包含定义“什么才算好”、解决标注分歧、持续维护有效测试集的工作。更大的上下文窗口消除了容量上的一个限制，却不能证明模型会对所有已提供的事实进行正确推理。

真正值得要求供应商证明的，应当更具体：在未参与训练的实际任务上，这个组件解决了某个明确问题，同时没有破坏其他要求。如果现有提示词已经通过验收，就不必改动系统。

什么时候用 RAG，什么时候做微调？

缺少依据，就立即补齐；是否训练，则要等行为问题能够明确描述并量化之后再决定。 政策经常变化的运营团队，应先明确资料由谁维护、如何更新。编辑团队如果已有稳定范例，却仍反复改稿，就应比较提示词与微调的效果。分类标签还在变动的分类器，应先等待。现有提示词流程如果运转良好，不必仅因又有一种优化技术可用就进行改造。

下周一可以这样开始：

1. 1

   改系统之前，先保存失败案例

   挑选有代表性的客服问题、写作需求或工单，记录审核通过的答案或决策，并将这些评估案例保留在训练集之外。

2. 2

   手动补上缺失的依据

   提供正确段落和清晰指令，重新执行任务。把剩余错误分清楚：是知识缺失、规则不清、行为不对，还是任务超出了模型当前的能力。

3. 3

   为最小可行方案核算成本

   依次比较现有提示词、使用缓存或长上下文的提示词、检索，以及确有需要时受支持的微调方案。计算实际计费 token、缓存命中、重试和人工纠正的工作量。

4. 4

   通过任务验收，再上线

   选择能够通过验收的最简单设计。指定文档更新或训练样本审核负责人，记录部署版本，并保留回滚路径。

常见问题

AI 微调是什么？

微调是用额外训练样本来适配预训练模型。对于企业工作流程，通常最有价值的目标，是可重复执行的回答风格或任务行为。

微调一个模型要花多少钱？

在文中写作案例给定的 token 数量与 epoch 假设下，一次 Google 训练任务的费用是 $14.40。标注、评估、推理服务和工程开发另计；实验失败，也会增加训练任务数量。

有没有比 RAG 更好的方案？

如果已经包含全部必要依据，直接使用提示词可能更简单。对于稳定的行为问题，微调可能有所帮助。但当系统必须查找最新且有权访问的事实时，两者都不能替代检索。

微调模型与 RAG 方案的核心区别是什么？

微调通过训练改变模型学到的参数；RAG 改变每次请求时提供给模型的依据。更新来源索引、重新训练模型，以及证明答案的引用有效，是不同的工作。

微调已经被证明无效了吗？

如果指的是对机器学习模型进行适配，答案是否定的。微调的价值取决于任务，应使用未参与训练的样本，与提示词基线进行比较来证明其效果。

ChatGPT 是如何微调的？

OpenAI 于 2022 年发布的最初版 ChatGPT 公告介绍了这一过程：先使用监督式对话样本，再进行基于人类反馈的强化学习。这个历史过程，与今天企业是否有资格使用 API 微调服务，是两回事。

Stephen Hawking 对“微调”说过什么？

这个问题讨论的是宇宙学中的“微调”，属于同一术语的另一种含义，与适配语言模型无关。本文讨论的企业决策是检索与训练的选择，并不涉及对宇宙的判断。

现在还会用到微调吗？

会。Google 当前文档列出了支持微调的模型，包括本文使用的 Gemini 模型。供应商提供的服务会变化，因此准备任务之前，应核实具体模型及账号资格。

哪个模型最适合微调？

应选择支持微调、已经能够完成核心任务，并且符合部署限制的基础模型。本文用 Gemini 3.1 Flash-Lite 展示费用，并没有通过测试认定它在所有场景下都最优；最终要由未参与训练的评估案例来决定。

想获得更多 AI 开发中的实用决策建议，欢迎订阅通讯。