AI Agent 的真实成本：每个被接受的任务花多少钱

团队比较两个模型，按每百万 token 的价格选了便宜的那个。一个月后，token 账单确实降了，整条工作流却更贵：便宜模型需要更多重试，产出更多要人修的草稿，在关键案例上失败更多。

Token 单价是输入，不是成本。真正的运行数字是每个被接受任务成本：产出一个符合验收规则、不需要返工的结果，团队总共花了多少。

Token 单价不是成本

一次 AI 任务可能消耗：

• 输入 token，包括检索上下文和工具结果；
• 输出 token，包括重试和被拒草稿；
• 工具调用及其费用；
• 人工复核分钟；
• 失败与重复处理时间；
• 编排、日志和存储的基础设施。

一个 token 便宜 40% 的模型，如果让其他桶变大，每个合格任务可能更贵。只有把所有桶放到同一个分母——被接受的结果——比较才有意义。

先定义“被接受”

“被接受”必须是属性，不是感觉。客服分流可以定义为：

• 队列正确；
• 紧急度正确；
• 需要时出现缺失信息问题；
• 不出现对客户的承诺；
• 复核者不需要重写输出。

生成了但被拒绝的任务不算接受；修十分钟后被接受算，但修复时间要进成本；没人复核的任务不是“免费”，而是没被测量。

先写验收规则，再算成本。否则团队会通过多叫几声“接受”来优化分母。

一条成本公式

按月建一个简单模型：

每个合格任务成本 =（模型 + 工具 + 重试 + 人工复核 + 失败恢复 + 基础设施）/ 合格任务数

每个桶要有单位和负责人：

成本桶	单位	数据来源
模型	输入/输出 token × 单价	供应商账单导出
工具	调用次数 × 单价	工具发票
重试	额外模型/工具调用	编排日志
人工复核	分钟 × 人力成本	复核队列导出
失败恢复	分钟 + 外部费用	事故/修复记录
基础设施	月运行成本 / 任务数	托管与观测账单

不要把整个工程团队工资摊进来。只算会随工作流变化而变化的复核与恢复时间。目标是决策数字，不是会计准则。

案例一：客服分流的每个合格工单成本

一个说明性例子：每月处理 1,000 张工单。按上面的五项验收规则，700 张无需修改通过，200 张短改后通过，100 张被拒并转人工。

月度成本：

• 模型与工具：420 美元；
• 重试：60 美元；
• 人工复核：40 小时 × 30 美元 = 1,200 美元；
• 失败恢复：6 小时 × 30 美元 = 180 美元；
• 基础设施：140 美元。

总计 2,000 美元。合格任务 900 个（700 个干净 + 200 个修复后）。每个合格任务约 2.22 美元。

Token 只占总成本 21%。token 降 30% 省 126 美元；复核时间降 20% 省 240 美元。复核队列才是更大的杠杆。数字是说明性的，结构才是重点：测量真正会动的桶。

反例：更便宜的模型，更贵的复核

第二个团队换了一个 token 更便宜的模型。新模型在混合意图工单上不太稳定，复核者花更多时间改队列和缺失信息问题。

Token 账单降了 90 美元，复核时间增加 12 小时，也就是 360 美元。每个合格任务成本反而上升，尽管“AI 成本”看起来降了。

团队差点漏掉，因为看板只报模型支出，不报复核支出。修复不是立刻换回去，而是增加分切片复核分钟指标，并定一条规则：模型变更带来的复核增量超过 token 节省时，要按质量重新评估，而不是按价格。

每月看哪些数

一个小看板就够：

• 每个合格任务成本，按任务切片拆开；
• 无需修复的接受率；
• 每个合格任务的复核分钟；
• 重试率与重试成本；
• 失败恢复分钟；
• 抽样复核发现的误放行率；
• 模型/工具价格变化。

看板回答三个问题：每条有用结果是不是更便宜了？省钱是不是来自质量下降？哪个切片在推高成本？

不要把所有切片平均成一个数。便宜简单的切片会藏住昂贵的边缘案例；退款、资格、审批往往正是复核与恢复成本集中的地方。

如何降成本而不藏质量

按顺序，先做最便宜的：

1. 减少被拒草稿。 更好的验收标准和上下文能减少重试与复核，通常是最大节省。
2. 按难度路由。 常规案例走便宜模型或确定性路径；强模型留给模糊和高风险案例。
3. 缓存可复用前缀。 同时看缓存命中与合格任务影响，不只看延迟。
4. 限制重试。 不可能改变结果的重试是纯成本；给每项操作设上限和停止条件。
5. 改复核界面。 把证据、差异和政策版本放在同一屏，更快的复核是真实降本。
6. 批处理非紧急任务。 只有在用户截止时间允许时才批。

不要通过“去掉人工复核”来降本。那只是把成本移进错误，而错误更贵、更难测量。

不适用边界

这个模型适合有稳定验收规则和复核环节的工作流：分流、抽取、政策回答、草稿生成、审批准备。它不适合开放式创作、研究探索，或“被接受”无法定义的任务。它也不是完整会计方法，而是比较模型、Prompt 和运行设计的决策工具。如果团队还测不到复核分钟或合格结果，先用一周样本，再相信月度数字。