本文探讨了模型参数冻结后,Agent 的工作系统(任务接口、记忆、能力图谱和路由)仍会持续变化的问题。作者提出了 Harness 持续学习(HCL)框架,该框架包含生成候选、独立评估和决定提交的闭环流程,确保 Agent 的自我改进既可验证又可拒绝。文章强调,可靠性的核心从“能否产生变化”转向“能否管理变化”,并指出新任务收益与旧能力保持需分别评估。通过版本治理,Agent 能在自我更新的同时避免退化,这对长期系统至关重要。
模型参数冻结后,任务接口、记忆、能力图谱和路由仍会持续变化。HCL 提出一套可验证、可拒绝、可回退的更新制度,让 Agent 的持续学习从产生变化走向治理变化。
读完《Harness Continual Learning》,我最大的收获,是把 Agent 的持续学习理解成一次次可验证、可拒绝、可回退的系统更新。
模型参数即使保持不变,围绕模型工作的任务接口、记忆、能力图谱和路由仍会持续改变。这些变化会让 Agent 学会新任务,也可能悄悄改写旧任务的行为。长期系统因此需要两种能力:吸收有效的新经验,以及识别并拒绝会破坏旧能力的更新。
2026 年 8 月提交的论文,把这个问题定义为 Harness 持续学习(Harness Continual Learning,HCL)。这里的 Harness,可以理解为围绕基础模型组织任务、经验、能力和执行路径的工作系统。作者提出了一套受控更新框架:生成候选,分别检查新任务收益、旧能力损失和执行有效性,通过后再提交。
概念备注|本文所说的 Harness,指围绕基础模型组织任务接口、记忆、能力图谱、路由和工具环境的工作系统。
本文更关心这套设计带来的思路:当 Agent 开始修改自己的工作系统,可靠性的核心会从“能不能产生变化”,继续推进到“能不能管理变化”。
核心 Insight
- 模型参数冻结,不代表 Agent 的行为已经冻结。模型外的工作系统同样会学习,也同样会遗忘。
- 任务接口、记忆、能力图谱和路由需要作为一个整体版本管理。任何局部变化,都可能通过组合关系改变旧任务表现。
- 自我改进要形成“提出候选—独立评估—决定提交”的闭环。能够拒绝一次错误更新,与能够生成更新同样重要。
- 新任务收益和旧能力保持需要两张成绩单。把两者压成一个平均分,容易让局部进步掩盖长期退化。
01
模型参数冻结后,Agent 的工作系统仍在变化
传统持续学习主要关注模型参数怎样随任务更新。Agent 系统的可变状态已经延伸到模型之外:输入、记忆、能力和执行路径都在参与最终行为。
论文的 Figure 1 并列展示了两种遗忘:左侧更新模型参数,右侧冻结模型、更新 Harness。两种情况下,新任务的改进都可能伴随旧任务失败。
图 1A|传统持续学习主要更新模型参数,旧任务可能随顺序更新而退化。
图 1B|模型冻结后,Harness 的更新仍可能改变旧行为。
右侧现象被论文称为 Harness 级遗忘(harness-level forgetting)。新提示可能破坏旧格式,新经验可能被错误召回,路由变化也可能让旧任务选中另一套工具。一次很小的编辑,也可能影响整套能力。
02
任务接口、记忆、能力图谱和路由需要一起版本化
HCL 用四个部分描述 Harness 的可变状态。它们分别承担不同职责,又在一次执行中彼此连接。
| 组件 | 运行时作用 | 可能发生的更新 |
|---|---|---|
| 任务接口(Task Interface) | 组织任务描述、输入输出格式、行为约束和工具入口 | 提示词、任务模板、解析规则、可用工具 |
| 经验记忆(Experience Memory) | 保存具体交互和从多次经历中抽象出的经验 | 成功轨迹、失败教训、通用规则 |
| 能力图谱(Capability Map) | 组织外部可调用技能与可被上下文激活的内部能力 | 工具、程序、技能说明、能力关系 |
| 自适应路由(Adaptive Router) | 根据任务选择经验、能力和执行路径 | 选择标准、路由提示、工作流程 |
↔ 左右滑动查看完整表格
Agent 的行为来自四部分的组合。能力文件不变,新的路由仍可能在错误时机选择它;记忆内容无误,与新接口组合后也可能改变原有语义。
一次可复现的更新,至少要记录基础模型、任务接口、记忆快照、能力图谱、路由和工具环境。版本要描述 Agent 真正运行的联合状态,旧结果才能复现,新旧候选才有共同起点。
03
提议—评估—提交,让自我改进具备拒绝能力
当前 Harness 执行任务并获得反馈,优化器据此修改一个或多个组件,形成候选。候选不会因为当前任务表现更好就自动替换旧版本。
图 2A|任务接口、经验记忆、能力图谱和路由共同组织 Agent 的实际执行。
评估器随后检查三件事:当前任务是否改善,历史锚点上的损失是否可接受,输出、工具和环境是否仍然有效。全部通过,候选才成为下一版本;任何一项失败,系统保留当前版本。
图 2B|优化器提出候选 Harness,评估器决定接受或拒绝。
历史锚点只提供给评估器,优化器不能直接读取,以免围绕固定验收题定向修改 Harness。新旧版本还要在相同模型、工具和环境下比较。有限锚点只能代表被覆盖的能力;其中没有观察到损失,也不能推出所有旧场景都不会退化。受控提交提高了可审查性和可拒绝性,不等于覆盖所有情况的安全证明。
04
新任务进步与旧能力保持,需要两张成绩单
论文实验展示了一个重要张力:更积极地学习新任务,常常会增加旧能力退化;更严格地保护旧能力,也可能阻止系统获得足够的新能力。
在 ALFWorld 的六类顺序任务中,该论文冻结同一个基础模型,比较静态 Harness、稳定版 HCL 和可塑版 HCL。
| 方法 | 最终平均表现 | 遗忘量 |
|---|---|---|
| 静态 Harness | 47.12 | — |
| 稳定版 HCL | 61.74 | 2.64 |
| 可塑版 HCL | 62.98 | 10.94 |
↔ 左右滑动查看完整表格
可塑版获得略高的最终平均表现,也付出更大历史损失;稳定版少拿到一点收益,却显著降低遗忘。两者代表不同运行策略。只看平均表现会遗漏历史代价,只看遗忘又会忽略系统学到了多少新能力。
Minecraft 的长课程中,HCL 完成了 50 项任务,静态版本停在 15 项,显示前序经验可以转成后续能力。论文以保留技能测试检查旧能力,并未在每次更新后重放全部任务,因此这个结果不能证明每个中间版本都完整保住所有旧任务。
预算实验还显示,允许更多历史损失,并不会单调换来更强的长期系统。在这组任务里,中等预算的最终平均表现为 63.46、遗忘量为 1.22;完全放开后,前者降至 60.13,后者升至 3.45。这不是通用参数建议,但揭示了路径依赖:一次激进更新会改变后续学习的起点。
图 4|历史损失预算越宽松,遗忘总体越容易随任务推进累积。
文本、多模态和组件消融实验也给出同一提醒:总体平均提升时,个别任务仍可能退化;受限版本遗忘更少,也可能只是因为它学得更少。新任务收益、历史能力保持和任务级异常,需要分别观察。
05
Harness 越能自我更新,版本治理越成为核心能力
HCL 没有直接验证真实生产环境的发布流程,但它给出了一套可迁移的制度框架:分开服务版本与候选版本,分开更新生成与更新批准,分开一次改进与长期能力。
生产版本需要一份联合清单,把基础模型、任务接口、记忆快照、能力图谱、路由、工具和环境配置放进同一记录,让行为变化可以复现和定位。
真实反馈适合触发候选分支,不直接改写运行版本。候选可以吸收新经验,但要在隔离环境中检查新任务、代表性旧能力和运行约束。
每次提交都应保留父版本、评估结果和回退目标。失败候选留下的拒绝原因也有价值:它会暴露记忆污染、路由回归和锚点盲区。
新的瓶颈也会出现:能力越多,历史保持评估越贵;记忆、技能和规则越多,内容整合越难;任务流越长,远期影响越难被短期测试捕捉。该论文也把高效保持评估、Harness 内容整合和更长任务序列列为后续问题。
未来 Agent 系统的差异,很可能也会体现在谁能以更低成本判断变化是否值得留下。生成更新是能力,管理更新会逐渐成为基础设施。
思考
Agent 竞争正在转向如何管理变化
这篇论文让我重新理解“自我改进”这个词。很多演示把注意力放在 Agent 能否总结经验、修改提示词或生成技能;这些动作证明系统具备产生候选变化的能力,却没有回答变化应不应该进入下一版本。
当模型外的工作系统越来越可编辑,Agent 的演化可能会先在 Harness 层加速。相应地,竞争重点会从单次生成质量,扩展到一整套变化治理能力:版本是否完整,评估是否独立,历史能力是否有代表性锚点,拒绝理由与恢复路径是否真实可用。
评估也会从发布流程末端进入每次学习的内部,直接决定系统能不能继续演化。它会成为更新机制的一部分。
结语
会产生更新还不够,可靠系统还要会拒绝错误更新
HCL 提供的关键启发,是把 Agent 的学习看成连续的版本决策。任务接口、记忆、能力图谱和路由共同改变行为;每次变化都先成为候选,再分别接受新任务、旧能力和执行有效性的检查,最后才决定提交或拒绝。
这套框架没有消除遗忘,也不能保证有限测试之外的所有能力都保持不变。它让变化拥有了更清楚的边界:什么被修改,依据什么接受,因为什么拒绝,出现问题怎样回退。
Agent 会越来越擅长产生自己的下一版。真正决定它能否长期可靠工作的,是系统有没有能力对下一版说“可以”,也有能力在必要时说“不”。
大模型的知识又多又杂,到底怎么学?
做这行久了,被问最多的问题就一个:大模型的知识又多又杂,我到底先学啥?翻了一堆资料,看啥都像重点,结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍,零基础、应届生、转行的都适用。跟着走,至少方向不乱、不瞎忙,学完拿得出手。
第一阶段(10天):初阶应用
这一阶段就一个目标:把大模型真正"玩明白",不是只会聊天那种,而是能调教它、能用代码把大模型和业务接起来。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
这阶段正式进实战,目标很实在:做出两个能拿出手的东西——一个私有知识库,一个 agent 对话机器人。
为什么要做 RAG
搭建一个简单的 ChatPDF
检索的基础概念
什么是向量表示(Embeddings)
向量数据库与向量检索
基于向量检索的 RAG
搭建 RAG 系统的扩展知识
混合检索与 RAG-Fusion 简介
向量模型本地部署
…
走完这 30 天,Python 或 JavaScript 背景的基本能独立做一套 RAG 应用,简历上也敢写"大模型应用开发"了。
第三阶段(约20天):动手微调
学到这,你已经开始 “造” 模型了 —— 通过微调,搞出垂直领域的专用小模型。
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗?
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
第四阶段(20天):商业闭环,部署落地
技术学完,落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
想要入坑大模型的朋友,给大家准备了一份2026 年最新 AI 大模型全套学习资料:
1、大模型系统化学习路线
2、大模型学习视频教程
3、大模型学习书籍&电子文档
4、AI大模型最新行业报告
5、大模型项目实战&配套源码
6、2026大模型大厂面试真题
7、为什么要学习大模型?
我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。
8、适合谁学?
- 传统后端 / Java / 前端开发,想转型 AI 应用
- 大学生、应届生,想拿更好的 offer
- 产品经理、运营,想武装职业竞争力
- 技术负责人,想给团队落地提效
学习是反人性的,但回报是真金白银。技术会更新,赛道会切换,但只要你先动手,机会就永远站在你这边。
9、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!
好了,就写到这。路线是死的,人是活的,卡住了随时来问我。觉得有用就点个收藏,别让它进收藏夹吃灰——动起来比啥都强。