Prompt、RAG、微调怎么选？先定位错误再试验

Prompt、RAG 和微调处理的是不同的失败原因。指令不清楚时，先改任务说明和示例；模型缺少当前事实时，先把有权使用的资料送到请求现场；资料已经齐全，却仍反复做错同一种稳定行为时，才有理由试验训练。三者可以组合，但不能互相冒充。

这篇课文帮助你选下一项值得测试的干预。RAG 是否值得建设另有独立门槛，用来判断已发现资料选择瓶颈后，检索的收益能否覆盖索引、权限和维护成本。这里先问：现在的错误到底发生在哪里？

先固定任务、合格线与失败样本

挑一条真实工作流，保留用户输入、模型实际收到的指令和资料、输出、预期结果，以及评审者指出的第一处错误。写清无法接受的失败，例如引用过期保修条款、把高风险工单分到普通队列，或输出不符合机器接口。若评审者连合格答案都不能一致确定，应先修订验收契约；换方法只会把分歧藏起来。

用当前模型和当前流程跑出基线。给案例打上切片标签：常规、资料缺失、旧版冲突、易混淆类别、拒答或人工接管。把一组代表性案例留作最后比较；不要把这些保留案例全部写进 Prompt 示例或训练集。OpenAI 的模型优化和监督微调文档都把评测放在调优之前，Anthropic 也要求先定义可检验的成功标准。

按第一处失效点分流

观察到的失败	下一项较小的试验	何时再考虑另一方法
目标、输出格式或例外规则表达不清	澄清指令、加入少量正反例，给结构化输出加校验	清楚的规则在保留案例上仍反复失效，再查模型能力或微调
回答缺少某次请求的事实	附上用户指定的当前文件，或查询权威结构化字段	需要在大量不同资料中按请求选证据时，再做检索试验
正确资料已进入上下文，稳定行为仍偏离	比较示例、校验器与模型候选	有合规训练数据且当前平台支持时，才做微调对照
精确金额、库存或资格取决于业务系统	让确定性程序或受控工具返回结果	模型只负责解释已核验的结果，不训练它猜当前值

这里的“Prompt 路线”包括明确指令、少量示例，以及在范围很小时直接附上批准资料。RAG 是请求时选择外部证据的一种实现；它不替代来源质量和权限检查。微调改变的是模型在类似输入上的行为倾向，不是可靠的实时资料同步机制。

三条路线各有进入条件

先试 Prompt 与直接上下文。 对同一批失败输入，只改变一处：规则、示例、输出结构或附带的当前资料。记录改动是否真的修复目标切片，以及是否让其他切片退步。两页固定规范无需为了使用“RAG”而建索引。

需要检索时先证实资料选择问题。 写出每题应命中的文档或段落、应排除的旧版和越权资料，以及没有可用证据时的结果。如果直接附文档或权威数据库查询已通过验收，就暂不增加检索层。若仍需 RAG，继续使用检索试验单独验证命中、排序、版本与访问边界，再检查生成回答。

需要微调时先核对能否真的训练。 必须有可合法用于训练、质量经人工复核的输入输出示例；任务规则相对稳定；Prompt 基线仍有可重复的行为错误；且已确认当前提供商、产品接口、模型、账号与地区开放相应训练能力。不同平台不能混称：截至 2026 年 10 月 1 日，OpenAI 官方文档写明其微调平台正收尾，对新用户不开放；Google Gemini API／AI Studio 当前没有支持微调的模型，而 Google Cloud 的 Gemini Enterprise Agent Platform 另有调优路径。发布前按实际部署环境重新核对，不要把本文的日期当成永久保证。

训练样本数量也没有跨供应商通用的合格线。先留出未参与训练和 Prompt 示例选择的案例，确认标注一致、许可与隐私条件满足，再按所用平台的最新要求设计小规模试验。微调若改善格式或分类，仍可与检索当前事实组合使用。

用同一保留集做有停止条件的对照

为每个候选保留模型版本、Prompt、资料快照、检索配置、训练数据版本和运行日期。对同一保留案例比较：合格完成率、关键切片、不可接受的严重失败、人工修改量、端到端延迟，以及每项合格完成任务的成本。RAG 路线还应拆开检查正确证据是否进入上下文；微调路线要看训练集外的行为和旧能力回退。

在运行前写下硬门槛：越权资料进入上下文、会改变结论的过期证据、危险动作或必需字段缺失，只要发生就暂停该候选，不能让平均分抵消。若两个候选差异小到不足以支持额外运维，记录“不换方案”也是有效结论。业务规则、资料更新周期、模型版本或训练服务可用性改变时重测。

案例一：保修公告每周更新

一家设备服务商要回答某型号在购买日期之后是否适用延长保修。公告由不同地区的服务团队维护，每周可能替换；回答必须指出生效公告，且经销商只能查看获授权地区的资料。基线失败是模型引用了旧公告，而非语气不够坚定。

先试按型号与购买日期做确定性查询，并把匹配公告直接附给模型。如果查询能稳定选中唯一有效条款，Prompt 只需规定引用和不确定性表达。若问题需要在大量非结构化公告中跨段寻找条件，才按 RAG 投资门槛评估检索，并测试旧版、同名型号、权限空结果。把公告内容微调进模型无法兑现“下周公告一生效就停止引用旧规则”的承诺。

案例二：七类售后工单分流

另一团队把完整工单分到七个稳定类别，输出固定 JSON，模糊或高风险案例交给人工。所有判断事实都在工单正文和已批准的类别定义里；没有跨文档找当前事实的需求。首次对照应给模型清楚的类别边界、少量容易混淆的示例和 JSON 校验，不需要先建向量库。

若同一类别边界在未见过的工单上仍反复错分，团队可以审查标注者是否一致、训练例是否有使用权、当前训练服务是否可用，再试一版微调模型。它必须在保留集的混合诉求和高风险工单上通过预设门槛，且把训练、部署、复训与人工复核成本算进去。若新模型只是少重试几次、却增加严重错分，就保留较简单的基线。

把选择写成一份可复核记录

下方工作台请填写任务、首次失效层、直接上下文或确定性查询是否试过、事实变化与引用要求、可用训练样本和权利、供应商实际可用性，以及三项候选的同题结果。最后写“下一项试验”、阻断条件、负责人和复评日期。不要只写“选择 RAG”或“微调更高级”；下一位同事应能用同一案例复跑你的决定。

常见问题

能用微调保存产品知识吗？ 对长期稳定的行为或格式可做试验；会更新的事实、权限和生效日期仍需在请求时由权威来源提供，并在回答中验证。

资料多就一定要做 RAG 吗？ 不一定。若用户已指定唯一文件，或者业务系统可以直接返回准确字段，先测这些更小的路径。是否建检索链路由资料选择瓶颈和维护能力决定。

Prompt、RAG、微调只能三选一吗？ 不是。任务规则可以写在 Prompt，当前证据可以检索，稳定且可训练的输出行为可以另做微调试验；每加一层都要证明增益和运行责任。

不适用边界

这份方法选择记录不能替代具体提供商的能力、数据使用条款或价格核对，也不能把业务规则争议变成技术问题。少量案例只能指明下一项实验，不能证明长期稳定性。任何候选进入生产前仍须通过任务专属评测、资料与权限检查，以及失败时的人工处理路径。