胡泽贤 律师RULES & BEYONDLEARNING NOTE 08 / 2026

AI AGENT / 第 8 章应用笔记

让每一次失败,长出下一条可验证的规则。

长期运行的 Agent 会积累大量轨迹。真正的进化不是自动把所有经历写回系统,而是筛选经验、形成候选改动、独立验证后再发布。

运行轨迹经过沉淀、验证、发布与回滚形成学习闭环的编辑视觉
VISUAL METAPHOR / 主题隐喻学习闭环 · 轨迹、沉淀、验证、发布与回滚

Agent 每次运行都留下成功、失败、人工纠正和环境变化。这些轨迹可以成为学习信号,但未经筛选的轨迹也会把偶然错误固化成长期规则。

持续进化首先是工程闭环,其次才是训练问题。

经验只有经过抽取、验证和可回滚发布,才算进入系统能力。

01 / LEARNING SIGNAL从轨迹里找可重复的失败模式。

重点不是保存更多日志,而是识别反复出现的决策缺口、工具错误和人工纠正。一次偶然失败不应立刻变成全局规则。

02 / FOUR UPDATE LAYERS经验可以写进四个层级。

知识、指令、程序和参数的成本与风险逐级上升。能用知识库解决的,不必先改提示词;能用规则和程序约束的,也不必立刻训练模型。

1

知识

补充事实、案例、索引与时效信息。

2

指令

更新流程、边界、示例与停止条件。

3

程序

把稳定经验变成测试、工具或校验器。

4

参数

在数据和评估成熟后进入后训练。

03 / VERIFY & RELEASE候选改动必须独立验证。

新知识可能过期,新规则可能互相冲突,新程序可能破坏旧任务。持续进化系统需要影子测试、版本记录、分批发布和快速回滚。

04 / FORGET SAFELY长期学习也包括遗忘。

系统要清理过期事实、低质量记忆和不再适用的策略,并防止敏感信息进入长期资产。所谓睡眠学习,更像周期性的整理、合并、验证和能力保鲜。

第一道练习:收集 30 条失败轨迹,只挑一个重复问题形成候选规则,并用旧任务回归测试它有没有带来副作用。

原书与章节来源

  • bojieli/ai-agent-book:开源主仓库与全书目录。
  • 8 章正文:本页概念主线与术语来源。
  • 8 章实验:配套代码、复现说明与读者练习。
  • 本页是面向应用的学习整理与转述,不替代原书;准确表述以原文和代码为准。

下一篇:多模态与实时交互

继续沿着“理解结构—动手改变—观察结果—形成判断”的方式学习。

继续学习

读者评论

把这篇文章留给你的想法写下来。

0 / 300

还没有评论。你可以留下第一条。