第 8 章 Agent 自进化、经验晋升与成本
8.1 自进化闭环
自进化不是每失败一次就改 Prompt:真实失败 → 候选案例 → 归因 → 候选改动 → 与旧版本对照 → 通过评估才晋升。
图解:经验先成为候选,再通过门禁
读图: 这是经验进入长期规则的候选流程,不是声称系统已经能自行进化。一次失败不应直接变成全局 Prompt。
正确理解
- 失败可能来自数据、权限、工具、状态、代码导航或 Prompt。没有归因就自动加规则,只会让系统越来越乱。
- 怎么归因:对照 Trace 找最可能出错的节点,只改这一个;拿不准时把可疑节点的输出换成正确答案再跑,结果变对才算找到原因。评分器自己也会错,人工和自动评分经常不一致时先查评分器。具体机制和工具分工见自进化系统 2026-10 补充、提示词自动优化。
8.2 经验候选池
一条偶发错误不是长期规律;经验先进候选池,多次出现、有人确认或能重复验证后,再决定沉淀成 Prompt、Skill、规则还是测试。
正确理解
- 进候选池时保留失败或修复的证据和适用前提。
- 经验晋升为 Skill 前,要用另一批任务或确定性测试检查可复用性,评审通过后再版本化发布。 旧经验也会过时,需要更新、降权和退出机制。
- 成熟的 Skill 是经验的一种组织形式,不是把所有经验堆进系统提示词,也不是把文件挪个目录就生效。
8.3 版本对照与晋升门禁
明确基线版本、固定评测集、新旧对照和回滚方式;没有稳定的 Eval,就证明不了下一次比上一次好。
我踩过的坑
- 旧小萤材料列过反思、技能提炼和规则引擎等文件,看到有
evolution.py就容易以为 Agent 已经会自我优化;材料里其实注明了有些代码尚未接入。
正确理解
-
平均分略涨,高风险任务却失败更多,不一定是好版本。执行和收集可以自动化,高风险规则的晋升要有明确门禁。
-
自进化能力分阶段验收:代码存在 → 主循环接入 → 通过隔离评测 → 可回滚发布。 有
evolution.py不能证明 Agent 已经能无人值守地优化 Prompt 或核心代码。其他 Agent 宣称“低成本自主进化”时,也要核对实际版本、数据集、审批和独立测试。 -
优化门槛也是被测对象。 历史 GEPA 小实验里,候选在小批量赢过父版本才进入完整验证,较长的新 Prompt 也可能被拒;小批量会误拒好版本,过关更不保证未来都更好。按任务保留各有所长的候选,和只取平均最高者不同,但候选多样性、合并收益要另验。评测调用上限不是模型请求数或金额上限;重尾惩罚主导的均分提升应拆开查看。
历史依据:优化门槛、评分尺度与实验限制。原实验只有少数候选,没有证明 Pareto 保留或合并策略带来实际收益。
8.4 Token 成本与 Prompt Cache
省 Token 不只是换便宜模型;缓存要先验证实际命中,并算清是否值得维护。
我踩过的坑
- 以为在提示词里插一条分界线,就能让服务端从那里切缓存。
- 2026-08-30 看到底栏显示
CH0.0%,以为是旁边正在跑的命令把缓存清零了,见附录 A.8.1。 - 我以为
pi-cache-optimizer是省上下文的关键,个人 Pi 的旧缓存 A/B 纠正了这个直觉。
减少用量
- 减少长 Prompt、重复文件、无关的工具说明和无休止的调用;能确定性计算的交给程序。小模型适合边界清楚、容易验证的任务,复杂判断留给主模型。
- 限制工具调用次数、执行时间和上下文大小。预算耗尽时说明完成了哪些、哪些还没验证,不要继续偷偷跑。
Prompt Cache
- 上下文压缩和提示词缓存是两件事。 只有下次请求重用了相同的前缀,缓存才会命中;一次性拼出完整会话做摘要,如果以后不会再发同样的前缀,写入缓存未必省钱。应先减少反复注入的工具原文、按阶段拆分任务;各服务商的缓存计费和行为要按当前文档验证。
- Prompt Cache 优化首先是验证实际命中。 把相对稳定的角色规则、工具说明放在前缀,把当前时间、实时环境和检索结果放在后面,可能提高服务端重复前缀的命中。客户端插入
__SYSTEM_PROMPT_DYNAMIC_BOUNDARY__之类的文字,本身不会通知服务端从那里切缓存,实际判别规则因 Provider 和版本而异。DeepSeek 要读返回的usage.prompt_cache_hit_tokens/prompt_cache_miss_tokens;缓存是尽力而为,不保证百分之百命中。 - 缓存要先算是否值得维护。 一份历史记录说 29 次工具调用的缓存命中率为 0,但统计口径之前混进过写工具,不能据此推定 29 次都是符合缓存条件的只读请求,只能提示要重新核对样本和精确参数的重复率,不等于所有 Agent 缓存注定无用。一次缓存如果只省下很短的本地读文件、不省模型调用,可能不值得复杂维护;远程高延迟检索则要另算。先量清楚缓存对象、实际 hit/miss、工具耗时和维护成本,再决定要不要优化。
- 看缓存命中率时,要把指标对应到实际的模型请求。 按“用户消息 → 模型请求并选择工具 → 工具执行 → 下一次模型请求”对齐,再比较每次请求的前缀和用量。重载可能改变工具 Schema 或系统前缀,但是否导致未命中,仍要核对实际请求。
- 节省上下文不一定靠提高服务端命中。 在相同模型和负载下,
pi-cache-optimizer在工具场景的热缓存命中率只从 94.11% 到 94.26%(0.15 个百分点);真正明显的下降来自Hypa缩短冗长的工具输出,热区新增输入从约 73,968 降到 29,700 token。所以要同时比较工具字节量、新输入、缓存读取、费用和事实遗漏。旧 Pi 底栏的CH 0%还曾只表示最后一轮没命中,不能推论整个会话累计缓存为零。这些数值都来自 2026-08/09 的旧样本。
Skill 按需加载
- Skill 先给简短目录,任务需要时再加载正文。 正文可以通过读文件的工具结果进入上下文,框架也可以在会话后部注入临时技能,尽量保住已有的稳定前缀。用 User 消息还是其他载体,取决于框架和模型接口;需要全局生效的规则,要另外确定指令优先级。减少输入 Token 和提高缓存命中要分别统计。
- 旧稿《技能树极限精简与 Token 压缩策略》记载:技能从 68 个裁剪到 45 个,基础 Token 从 4000+ 降到约 1800,自述节省超过 55%。原稿另提全量目录有 92 个技能,但没交代它和裁剪前 68 个的配置关系。这些是历史案例,不能外推为通用的节省幅度。
指标与口径
- 工具调用次数是诊断线索,不直接等于成本或低效。 一份旧日志统计了 209 次调用,其中 Shell 约占 44%;次数多可能是在执行短命令,也可能是重复失败或安全绕路,要再看每类工具的成功率、真实耗时、Token、修改副作用和任务收益。很多
write_file不代表一定该换成edit_file,要先看文件大小、调用语义和批量写入的场景;一段时间的样本也推不出所有 Agent 的长期行为。 - 推理档位和 Fast 模式的 A/B 要看真实响应,不只看本地开关。 调高 reasoning effort 是允许模型投入更多推理预算,不是固定的耗时倍率,要按实际质量、成本和多次测试决定。案例见附录 A.8.2。
- 上下文容量、总任务成本和 Agent 对比要用不同口径。 上下文窗口是单次请求的承载量;任务成本是多轮请求、工具结果、缓存和模型计费的累计。对比 Pi、Codex 等 Agent,要用相同的任务和成功标准,记录实际发出的上下文和模型配置,不用字符数代替 token。
- Token 用量异常时,先分清本地估算、请求级 Usage 和账单。CodexBar 的历史案例和核对顺序见《大模型基础学习》4.2。
来源
原始笔记:[Loop Engineering](辅助材料/批次00-旧/理解-Loop Engineering.md) · 自进化系统。参考:DeepSeek 当前上下文缓存说明 · Agent Skills 加载指南;旧库 90-归档/草稿-Agent-技能树精简Token压缩策略.md。
8.5 自动优化先接现有执行与评分,再扩大改动范围(待学习)
我想把反复改提示词交给 AI,先复用已有选题、执行、证据和判定能力。只改现成文本可研究独立 GEPA 的 evaluator;要用 Signature、示例和模块化程序再考虑 DSPy。DSPy 的适配器还会拼字段说明和格式,单抄 instructions 未必复现。
评测、局部优化、拓扑优化分三层推进:局部改动不必等整图完备,改变路由或并行则必须测真实调度。优化集、独立测试集分开,同一原案例的重复运行放同组;正确答案只能供反馈,不能进入被测输入。平台版本参数存在,还要核对实际查询、最终消息及解析是否使用它。接入收益尚未实测。
来源与当时边界
详细条件与线索:《优化器接入与游戏实验》。
8.6 优化预算覆盖反思、重试和整轮耗时(待学习)
评测次数只限制评测,不包含反思请求、失败重试和整轮耗时。教程试验里,任务提取成功,反思却耗尽输出预算并继续尝试。分别记录任务与反思调用,设置总请求、输出和停止条件;检查点可能等当前批次结束才生效。教程固定依赖版本,按安装后的签名和对应标签源码写,不能把官网主分支接口当发布版。
来源与当时边界
8.7 用新局面检验攻略变化,别把选版成绩当泛化(待学习)
我更想先从小游戏看懂 GEPA:原策略为什么输、反馈是什么、新策略改了什么。ChainLex 的一盘选版中,WARDROBE 让队友猜到中立词 SUIT,得 0 分;候选改用 ERA,选了另一组四个目标,得 10 分。变化也可以是换一组更好沟通的目标。
这盘参与过选版,不能当独立成绩;用新局面测迁移,再查候选被拒原因。JSON 外附解释要先统一解析,别混成策略能力。Wordle 要查版本;宝可梦的 JevHarness 优化完整程序,不能说成只改 Prompt。
来源与当时边界
详细条件与线索:《优化器接入与游戏实验》。
8.8 Agent 预算按整条调用链计量(待学习)
“一条提问”可能触发多次模型请求,历史、工具说明和工具结果也会反复进入输入;最终回复短,不表示推理开销小。先跑完一个代表任务,记录调用次数、输入、缓存输入、输出与推理量,再按当时单价估算。情景表不是我的实际用量,缓存写入、长上下文、工具费和额度到期另核对。