返回课程目录
让 AI 回答稳定到可以使用第 3 课,共 14 课

长对话什么时候该压缩上下文?保留决定与证据

用实测用量和下一轮需求设置压缩检查点,保留关键否定条件、来源与未完成动作,再用同题复测验证没有丢失事实。

所属问题主题上下文与 Prompt
本课完成物 · 压缩检查点更新于 · 2026年10月1日
已读课文0 / 14
学习方式

先带着一个真实任务阅读,再完成页面中的工作台。能让另一位同事复核你的产物,才算完成本课。

一个长任务可能已经过了几十轮:目标调整过,某些建议被否决,工具返回积累成大段日志。继续把全部历史传给模型会消耗窗口;直接删掉前半段,又可能把“尚未批准”压成“已同意”。本课解决运行中的取舍:何时压缩、哪些内容必须留住、怎样证明压缩后的下一轮仍做对事。

上下文图用于盘点指令、资料、示例和历史怎样进入一次调用。本页接着处理任务进行中,旧历史需要改变形式的那个检查点。压缩后的摘要不是新的权威来源,应用仍须提供有效的系统规则、真实权限与原始资料入口。

先确定触发条件,而不是套一个占比

保存这一次实际请求和提供商返回的 token 用量,查当前模型、接口的上下文窗口,再估计下一轮可能新增的用户输入、工具结果和回答空间。窗口不仅装历史消息;系统指令、工具定义、文档与图片,以及将要生成的输出也占空间。已命中 Prompt 缓存的输入仍占上下文容量,价格优惠不等于窗口变大。

先用单次调用上下文预算表核对下一次请求的输入、输出和窗口限额,再决定需要改动多少历史。

当下一轮按真实工作负载可能越界,或者旧工具结果与过时讨论开始干扰当前决定时,在安全的轮次边界设置压缩检查点。不要把“对话超过某个固定百分比”写成跨模型规则;余量取决于输出长度和下一步工具可能返回多少内容。若使用按需压缩,也须趁原始对话仍能进入压缩请求时执行。部分接口支持设阈值自动压缩,具体参数和可用性以所用提供商文档为准。

在检查点先留原始快照,记录负责人、请求配置与原始资料位置。只把脱敏后的标识和结论填进本站工作台;原始对话、凭据和敏感文档应留在团队批准的存储位置。

为每条历史选一种去向

处理方式适合的材料主要检查
近期逐字保留刚刚修正的需求、精确措辞、仍在讨论的条件保留这些轮次会占用多少空间?
写成有状态的摘要已定结论、被否决方案、仍待决定的问题否定词、数值、负责人和有效状态是否完整?
留在可检索原件长合同、搜索结果、诊断日志和引用段落记录的版本与位置能否在当前权限下找回?
从活动上下文移除已过时且可重取的重复日志、无关闲谈是否还有未被记录的决定或异常?

逐项写“来源轮次或文件、陈述内容、状态、处理方式、原件指针”。状态至少区分已确认、待确认、已取代、被否决。例如“批准年度上限 18 万元”和“有人提议提高到 20 万元”不能合并为“预算约 18–20 万元”。如果后续回答必须引用具体条款,摘要只负责提示取回原件,不能冒充条款原文。资料取不回来,就承认缺少可验证依据。

工具调用及其结果也要作为一个交接单元处理。切点不要落在调用已发出、结果尚未返回的中间;Anthropic 的按需压缩接口明确会拒绝以未回结果的工具调用结尾的请求。对于可能改变外部状态的动作,即使后来结果未知,也要把操作编号、权威查询路径和“未知”状态留在应用记录中,不能靠聊天摘要猜测成功或失败。

分清压缩项与可审阅的状态

提供商实现并不相同。OpenAI Responses 的服务端压缩可在达到所设阈值时产生加密压缩项,文档明确说明它不可供人阅读。团队不能声称检查过其中每个字;应另外维护可见的决定表、证据位置和行为回归记录。Anthropic 的按需压缩返回可读、带签名的摘要块;应用必须按接口要求原样传回,不能在原块上手改字句。若默认摘要遗漏了必要内容,应调整压缩策略或提示,重新生成并验证。

清除旧工具结果与摘要旧对话也不是同一件事。前者可把旧结果移出活动上下文,但没有自动保存你以后需要引用的条款或错误细节。先从原件提取可验证的状态和返回路径,再决定清除什么。模型产出的“我们已经确认”只是一条待核对的说法,不能代替审批系统、文件版本或工具实际结果。

用同一组问题做压缩前后复测

在压缩前写出将来最可能出错的几个问题及标准答案,并标出原始位置。压缩后使用相同模型配置和同一问题再问一遍,记录回答、使用的资料和动作。至少覆盖四类:

  1. **硬边界:**数值、日期、“不得”“尚未批准”等否定条件能否准确复述?
  2. **冲突状态:**最近的更正是否覆盖已废弃的旧决定?待定事项有没有被写成已定?
  3. **证据回取:**遇到要求原文引用的问题,是否回到正确版本,而非引用摘要本身?
  4. **下一步:**未完成的工具结果、人工审批与责任人是否仍能阻止不该开始的动作?

只减少 token 不是成功。还要看关键任务的通过率、所需人工修正和延迟。若有一条关键测试失败,恢复原始快照,把切点后移、保留更多逐字内容,或缩小摘要范围,再跑同组问题;高影响动作在验证通过前交给负责人。

案例:采购询价中的否定条件

采购同事与助手讨论了多家供应商。第 8 轮确认年度预算上限为 18 万元,第 19 轮否决自动续约,第 31 轮说供应商 B 仍在安全审查,尚未批准下单。随后又出现大量产品参数和邮件草稿。如果摘要只剩“预算约 18 万,B 是首选”,下一轮起草采购单就可能越过两个边界。

检查点把预算数额、不自动续约和B 未获下单批准分别列成状态行,并附对应轮次与审批记录入口。重复的宣传资料移出活动上下文,最新版报价保留可取回的文件指针。复测问题问“现在能否向 B 下单?是否可以自动续约?预算上限是多少?”;只要任何答案把提议误认成批准,就回退这次压缩。

案例:多轮故障排查保留未验证状态

一支团队让助手排查接口间歇性超时。前几轮收集了很长的重复日志;当前有效信息是一个错误签名、受影响的请求路径、已排除的假设,以及刚提交但尚未运行回归测试的修复。旧日志全文可以从受控存储中按事件编号取回,摘要保留错误签名和排除依据,最近的修复说明逐字留在当前上下文。

假如测试工具调用已经发出,先取得它的返回,或暂停压缩并把未完成动作交给负责人员。压缩后的回归问题是“修复是否已验证?”合格回答必须说“尚未验证”,列出待运行测试与原始日志位置。回答“超时已解决”即使简短且流畅,也说明压缩后的状态不可用。

不适用边界

短对话通常没有压缩收益;真正的问题可能是错误资料进入上下文,应先回到上下文图检查来源。如果任务目标、资料权限或审批范围已经变了,应重新建立任务状态,不把旧授权压进新摘要。长期跨会话偏好、用户画像和删除请求属于单独的记忆生命周期设计。任何摘要都不能替代原始证据、后端权限关卡或对高风险决定的人工复核。

核验来源

这篇内容参考了哪些一手资料?

来源用于核对定义、风险边界或操作事实;判断框架和工作台由 AI Vista 独立编写。

  1. OpenAI API — Compaction核验于 2026-10-01
  2. Anthropic — Context windows核验于 2026-10-01
  3. Anthropic — Compaction on demand核验于 2026-10-01
  4. Anthropic — Compaction that keeps recent turns核验于 2026-10-01
  5. Anthropic — Context editing核验于 2026-10-01

AI 工具可能协助研究、提纲和语言编辑;事实、案例和最终措辞由编辑复核。发现错误请通过联系页提交更正。

可带走的工具

长对话压缩检查点

记录压缩切点、保护关键状态,再与原始记录同题复测。

compaction / checkpoint
什么时候用准备压缩一项进行中任务的对话历史时
填写后得到一个可回退的切点,以及检查事实与动作是否丢失的同题测试
使用顺序01—03
  1. 01
    写任务摘要用脱敏摘要写明要交付的结果。
  2. 02
    补齐判断字段写清输入类别、风险、证据位置和接手方式。
  3. 03
    交给同事复核对方能复述结论,工具才算完成。
完成信号字段齐全,边界明确,可被复核。
编辑内容会自动保存

本课已读

完成工作台,再标记已读。

已读状态会更新课程目录与学习进度。

  1. 01字段齐全
  2. 02案例走过
  3. 03可以复核

文章实践笔记

读到这里,留下一条可复核的判断。

下方虚构示例展示写法;你的笔记只保存在当前浏览器。记录哪一步有效、哪个边界不成立,或一个值得测试的问题。

↗
关联文章长对话什么时候该压缩上下文?保留决定与证据查看示例与本机笔记 →
0 条示例与本机笔记观点 · 问题 · 建议