开课前准备
带着真实材料来,课程才会产生真实结果。
- 01 · 适合谁
- 适合准备把 Agent 或工具调用流程从原型推向生产的团队。
- 02 · 准备什么
- 准备当前流程图,以及涉及的工具、负责人和不可逆动作。
- 03 · 如何结课
- 每个自动动作都有负责人、审批规则、可观察结果和恢复路径;复核者能够检查控制主线,并验证这项任务实际需要的分支证据。
适用场景
出现下面任一情况,就从这门课开始。
不需要先证明自己属于某个水平。只要当前工作出现对应信号,就带着真实材料进入;完成信号由课程验收决定。
- 01✓
Agent 即将改变外部状态
流程会写入系统、通知他人、提交付款或触发不可逆动作。
- 02✓
人工复核存在,但放得太晚
审批人看不到依据和变化,确认时已经无法阻止上游错误传播。
- 03✓
系统能成功运行,却不会安全失败
重复执行、部分成功、工具超时和模型漂移还没有恢复负责人。
课程里程碑
每一段都要留下可以复核的变化。
里程碑不是新的课文清单。它用来判断你是否把前后课次连成同一项工作:起点有真实材料,中段有成形产物,结课有别人能够重复的证据。
- 01 开始前↓
列出每个动作,并决定谁选择下一步。
先用真实案例比较固定分支与受限循环;再为读取、生成、写入、通知、付款等动作记录工具、负责人、影响范围和可撤销性。
起点证据:控制循环选择有案例支持,任何不可逆动作都有负责人和审批方式。 - 02 课程中段↓
让权限、工具契约、人工复核和恢复方式同时成形。
先设置数据边界与权限阶梯,逐个工具写清参数、前置条件、外部效果和错误状态;再把人工放在仍能改变结果的位置。
中段证据:每个工具动作都有校验、批准、幂等处理与可复核结果。 - 03 结课证明✓
在受控环境演练失败,再核算真实运行代价。
模拟工具超时、重复请求和人工拒绝;确认可以恢复后,把重试与复核纳入成本。若任务需要换模型、本地部署或缓存,再完成相应支线试验。
完成证据:演练可恢复,适用支线有实测记录,成本和漂移信号有负责人。
这门课怎样选
先完成控制主线,再选真正需要的分支。
目录收录所有课文,进度条只表示标记已读的数量,并不要求云 API 工作流做本地显存、量化或并发试验。结课以真实任务的控制与恢复验收为准。
- 01 · 12 课
控制主线
所有会调用工具的工作流都先完成:控制权、数据边界、权限、运行停止、人工复核、恢复与运行成本。
进入这一组 → - 02 · 11 课
按需:协作与持续状态
只有任务确实涉及不同接口的工具循环、多 Agent、长期记忆、长任务、运行排错、MCP、可复用 Skill 或可执行插件时,才进入对应课文。
进入这一组 → - 03 · 10 课
按需:模型与部署
换模型时做任务评分;按需验证显存、量化、适配器、引擎兼容、负载及 GPU 副本;只有可复用前缀时才测试缓存。
进入这一组 → - 04 · 4 课
按需:落地案例
当你的工作流与某个案例相似时再读;每个案例都展示复核门、被拒绝的版本和恢复路径。
进入这一组 →
- 01✓第 1 课 · 控制主线
固定工作流还是 AI Agent?先决定谁控制下一步
用真实任务判断固定流程是否足够;只有需要根据工具反馈选择下一步时,才设计有预算、停止条件和人工接手的 Agent。
本课产物 · 控制循环决策表未读进入本课 → - 02✓第 2 课 · 控制主线
在 AI 读取输入前,先画清数据边界
把每个字段分配到允许、变换、隔离或排除路径,避免一条有用的工作流悄悄变成失控的数据传递。
本课产物 · 数据边界图未读进入本课 → - 03✓第 3 课 · 控制主线
只给 Agent 完成任务所需的最小权限
把每个动作放进五级权限阶梯,从只读建议到必须明确批准的不可逆操作。
本课产物 · 权限阶梯未读进入本课 → - 04✓第 4 课 · 控制主线
AI Agent 沙箱怎么验收?测试文件、网络、命令与凭据隔离
为 Agent 执行环境设计允许与拒绝探针,逐项验收挂载、网络出口、命令与资源限制、服务身份和持证适配器。
本课产物 · 沙箱边界试验表未读进入本课 → - 05✓第 5 课 · 控制主线
给 AI Agent 设计工具调用契约,再开放函数
在工具可被 Agent 调用前,写清输入结构、前置条件、身份与审批、外部效果、重复调用、超时结果和复核轨迹。
本课产物 · 工具调用契约未读进入本课 → - 06✓第 6 课 · 控制主线
AI Agent 何时继续、重试或停下?设计运行中的循环护栏
用可观察的进展、分开的轮次与成本预算、错误分类和写入去重规则,决定 Agent 每一步是继续、重试、换路径还是交给人。
本课产物 · Agent 运行时循环护栏表未读进入本课 → - 07✓第 7 课 · 控制主线
把人工复核放在仍能改变结果的位置
根据影响、可撤销性和不确定性设置复核关卡,并给评审者足够的证据与动作,让人工真正能够改变决定。
本课产物 · 复核关卡图未读进入本课 → - 08✓第 8 课 · 控制主线
在 Agent 出错之前,先设计恢复方式
在自动化进入生产前,写清停止信号、保存状态、负责人、回退动作和安全重试规则。
本课产物 · 恢复手册未读进入本课 → - 09✓第 9 课 · 控制主线
模型服务故障时如何降级?设计备用模型、排队与人工接管
按错误类型、用户截止时间、数据边界和备用模型验收结果,决定模型 API 故障时何时重试、排队、切换或交给人。
本课产物 · 模型服务降级阶梯未读进入本课 → - 10✓第 10 课 · 控制主线
算清一条 AI 工作流的完整成本
不要只比较 token 单价,把输入、输出、重试、工具、等待、复核和失败恢复一起算进去。
本课产物 · 成本图未读进入本课 → - 11✓第 11 课 · 控制主线
AI Agent 的真实成本:每个被接受的任务花多少钱
把 token、重试、工具、人工复核和失败恢复放进同一个分母:每个合格任务成本,而不是每次 API 调用价格。
本课产物 · 成本图未读进入本课 → - 12✓第 12 课 · 控制主线
在漂移变成事故前监测 AI 工作流
把任务构成、输入、依赖、结果和人工改判与明确基线对照,让每个告警都能触发可检查的响应。
本课产物 · 漂移观察板未读进入本课 → - 13✓第 13 课 · 按需分支
Agent 工具调用循环怎么实现?从完整响应到安全续跑
梳理模型响应组装、调用校验、执行与结果配对,并按各家接口协议安全保存和续跑工具调用循环。
本课产物 · Agent 循环执行契约未读进入本课 → - 14✓第 14 课 · 按需分支
子 Agent 还是多 Agent?按控制权和共享状态选择协作拓扑
判断任务是否值得拆给多个 Agent;比较父 Agent 调用专家、对话交接与并行委派,并写清状态、费用和失败归属。
本课产物 · Agent 委派拓扑选择表未读进入本课 → - 15✓第 15 课 · 按需分支
Agent 长期记忆什么时候写入、纠错与删除?
为跨会话记忆设计写入门槛、偏好更正规则和删除验证,避免一次性要求或模型推断变成难以清除的用户画像。
本课产物 · 记忆生命周期契约未读进入本课 → - 16✓第 16 课 · 按需分支
AI Agent 长任务如何断点续跑?保存状态并避免重复执行
为跨进程、隔夜等待的 Agent 任务设计持久检查点、审批与外部操作台账,以及只能由一个执行者通过的续跑关卡。
本课产物 · 长任务续跑状态契约未读进入本课 → - 17✓第 17 课 · 按需分支
Agent 执行轨迹怎么排错?复盘一次运行的可见证据
用 trace、span、工具调用编号、人工改判和外部状态还原一次 Agent 运行,找出第一个有证据的偏离点,同时控制敏感数据记录。
本课产物 · 单次运行轨迹复核表未读进入本课 → - 18✓第 18 课 · 按需分支
第三方 MCP Server 接入前检查什么?验收工具、权限与数据流
用一份 MCP Server 准入清单核对真实工具列表、OAuth 或本地凭据、数据去向、版本变更、故障和撤销演练,再决定开放哪些能力。
本课产物 · MCP Server 准入清单未读进入本课 → - 19✓第 19 课 · 按需分支
什么时候该把重复任务做成 Agent Skill?五道判断关卡
用触发条件、输入、步骤、验收和维护责任,判断一项重复任务是否值得封装为可复用的 Agent Skill。
本课产物 · Agent Skill 设计判断卡未读进入本课 → - 20✓第 20 课 · 按需分支
Agent 插件如何安全加载与卸载?验收钩子、资源和回退
发布 Agent 插件前,检查注册、事件错误语义、两次热重载、禁用残留、初始化中途失败和外部写入的处理。
本课产物 · 插件发布验收表未读进入本课 → - 21✓第 21 课 · 按需分支
MCP Server 在本地跑通之后,团队一用会坏在哪里?
一份 MCP 团队上线检查:每用户凭据、工具白名单、租户边界、限流、审计日志与故障隔离。
本课产物 · MCP Server 准入清单未读进入本课 → - 22✓第 22 课 · 按需分支
让 AI 写代码但不失控:编码 Agent 的复核优先工作流
编码 Agent 的任务门、差异门与运行时门:先看测试有没有被改弱,再让人类合并,而不是看到绿色就放行。
本课产物 · 复核关卡图未读进入本课 → - 23✓第 23 课 · 按需分支
记录决定,而不是 Prompt:AI Agent 的 trace schema
一套 Agent 运行 trace:记录身份、工具效果、审批、状态变化和成本,但不默认保存秘密或完整 Prompt。
本课产物 · 单次运行轨迹复核表未读进入本课 → - 24✓第 24 课 · 按需分支
用任务评分表选择模型,而不是追榜单
用真实工作流案例为质量、延迟、工具能力、隐私、恢复和运行约束设置权重。
本课产物 · 选型评分表未读进入本课 → - 25✓第 25 课 · 按需分支
本地大模型需要多少显存?拆开估算权重与 KV Cache
分别计算模型权重与 KV Cache 的理论载荷,检查上下文和并发,再用目标服务框架实测缺失的峰值开销。
本课产物 · 显存预算与峰值试验表未读进入本课 → - 26✓第 26 课 · 按需分支
大模型量化到 4-bit 值不值?同题比较显存、质量与速度
用同一个基础模型的未量化 BF16 参照与指定 4-bit 文件,对照任务错误、完整显卡驻留、峰值显存和目标负载,而不是只比文件大小。
本课产物 · BF16 与 4-bit 对照试验表未读进入本课 → - 27✓第 27 课 · 按需分支
LoRA/QLoRA 微调怎么试?先过数据、显存和验收关
为稳定的行为问题设微调准入门槛,隔离训练与最终测试数据,实测训练显存,并用未见过的案例比较适配器和原模型。
本课产物 · LoRA/QLoRA 小试验记录未读进入本课 → - 28✓第 28 课 · 按需分支
Ollama、llama.cpp、vLLM、SGLang 怎么选?本地推理引擎验收法
按模型文件、硬件、应用接口和运维要求筛选本地大模型推理引擎,再用同一组任务和负载逐关验证。
本课产物 · 推理引擎选择试验表未读进入本课 → - 29✓第 29 课 · 按需分支
本地大模型能扛多少并发?测到达率、首 Token 与排队
在真实推理服务上逐档测试到达率,核对首 Token、输出速度、两层排队、错误和显存压力,找出已经验证的持续负载边界。
本课产物 · 推理服务负载试验表未读进入本课 → - 30✓第 30 课 · 按需分支
AI 推理延迟怎么排查?从请求到屏幕拆分等待阶段
按单次请求追踪客户端、网关、模型、工具与页面渲染时长,再决定要修哪一段,而不是先换模型或加硬件。
本课产物 · 推理延迟诊断轨迹表未读进入本课 → - 31✓第 31 课 · 按需分支
本地大模型上线要几张 GPU?从单实例负载算副本与故障余量
用已实测的单副本合格到达率估算副本数,再验证 GPU 放置、故障容量、预热时间和滚动更新峰值。
本课产物 · GPU 副本容量工作表未读进入本课 → - 32✓第 32 课 · 按需分支
本地部署大模型还是云 API?按数据、峰值和运维选择
比较自有硬件、团队管理的租赁 GPU 与供应商托管 API,逐项核对数据路径、峰值容量、运维责任和每项合格任务成本。
本课产物 · 推理部署决策矩阵未读进入本课 → - 33✓第 33 课 · 按需分支
Prompt 缓存为什么没命中?用三次请求验证
用稳定前缀和改动前缀的对照试验,按提供商规则记录缓存写入、读取、延迟与合格任务成本。
本课产物 · 缓存试验表未读进入本课 → - 34✓第 34 课 · 按需分支
AI 客服分流:10 条案例如何换来一道人工复核门
用十条工单把队列准确率与承诺权限分开,并把一次错误退款承诺变成人工复核门。
本课产物 · 试验表未读进入本课 → - 35✓第 35 课 · 按需分支
AI 内容审核:一道引用门,如何拦下看似自信的错误答案
内容团队给 AI 草稿加引用门:每个关键说法都要有当前来源、版本、负责人和通过/修改/阻止决定。
本课产物 · 引用审计未读进入本课 → - 36✓第 36 课 · 按需分支
AI 研究综述:来源在简报之后变了,引用审计怎么救
AI 研究简报的来源变更演练:重跑检索、标记过期结论,证据不足时交出“无法确认”便签。
本课产物 · 检索试验表未读进入本课 → - 37✓第 37 课 · 按需分支
会审批但不能付款的 Agent:权限阶梯、超时与回滚演练
只准备审批包、不碰付款的发票 Agent:审批绑定发票范围,并演练重复与未知付款结果。
本课产物 · 权限阶梯未读进入本课 →
结课验收
每个自动动作都有负责人、审批规则、可观察结果和恢复路径;复核者能够检查控制主线,并验证这项任务实际需要的分支证据。
把控制主线与适用分支的产物放在一起,交给另一位同事复核;不适用的部署试验不应成为结课障碍。