2026年6月10日 · 前沿·Agent自进化 · arXiv:2606.09498
📌 为什么我推荐你读这篇
大多数人聊「Agent 能力提升」眼睛只盯模型大小。这篇论文换了角度——让 Agent 自己优化自己的运行框架(Harness)。
① 模型参数没动性能涨60%——MiniMax 40.5%→61.9%、Qwen3.5 23.8%→38.1%、GLM-5 42.9%→57.1%
② 能进化的不只是模型还有使用方式——三阶段全自动闭环:弱点挖掘→提案生成→回归验证
③ 能写好 Harness ≠ 能用好 Harness——更新是手段,收益才是目的
如果你在做长期运行 Agent,这篇直接告诉你:Harness 该自动化了。
原标题
Self-Harness: Harnesses That Improve Themselves 作者 Hangfan Zhang et al. | 机构 上海人工智能实验室 方法 三阶段自进化 · Terminal-Bench 2.0 | 标签 #SelfEvolution #Harness #FixedLLM
本报讯 上海人工智能实验室最新研究 Self-Harness 提出反直觉命题:不改变 LLM 任何参数,让 Agent 自己分析失败、提出修补、用回归测试验证——三阶段全自动循环,在 Terminal-Bench 2.0 上让三个不同家族的固定模型分别获得 33%、52%、60% 的相对提升。
论文核心观点:LLM Agent 性能由基座模型和 Harness(系统提示词、工具包装、规划模板、验证逻辑)共同决定。不同模型有不同失败模式,Harness 设计本质上是模型相关的——但今天还靠人类工程师手写,这种范式在 LLM 快速迭代下完全不可扩展。
+52.8%MiniMax M2.5相对提升 | 3自进化阶段 | 89Terminal-Bench2.0 任务数 | 0外部依赖无需人类/强模型 |
|---|
三阶段循环:把"调 Harness"变成自动化任务
① Weakness Mining:从执行轨迹挖掘系统性失败模式。收集工具调用、错误消息、成功失败状态,按"工具选择/上下文/规划/错误处理/验证缺失"五维归类,按频率×影响度排序。
② Harness Proposal:针对每个弱点生成 3-5 个候选方案。四类提案:系统提示词修改、工具包装器添加、验证步骤注入、规划模板更新。设计原则:针对性 + 最小化 + 多样性 + 可测试。
③ Proposal Validation:四条接受标准——无回归、净正向、弱点修复、不引入新故障。70/30 训练验证切分。未通过直接丢弃。
模型 | 初始 | 优化后 | 相对提升 |
|---|---|---|---|
MiniMax M2.5 | 40.5% | 61.9% | +52.8% |
Qwen3.5-35B-A3B | 23.8% | 38.1% | +60.1% |
GLM-5 | 42.9% | 57.1% | +33.1% |
三模型 × 三种弱点 × 三种修补
MiniMax M2.5:8 个 git 任务因 user.name/email 未配置失败 → 系统提示加预检规则 → 8 个全部通过,+9% git 任务通过率。
Qwen3.5:12 个任务假设文件操作必然成功 → create_file 包装器加存在性+内容校验 → 10/12 修复,+11.2% 文件操作通过率。
GLM-5:7 个长任务中段丢失中间状态 → 规划模板加显式状态跟踪 → 6/7 修复,+6.7% 多步任务通过率。同框架,三个完全不同的修补——这就是"模型相关 Harness"命题的直接证据。
So What:三类人的行动清单
🔧 如果你是工程师 |
|---|
1. Harness 优化的 ROI 远高于模型升级——花 $50-100 跑一轮 Self-Harness > 花 $5000 换更大模型 2. 建立"轨迹→挖掘→提案→回归测试"工程化流程,轨迹日志结构化采集,回归测试集早期建立 3. 明天就能做:拉最近 100 次失败轨迹,按五维归类,出现 ≥5 次的就是值得修补的弱点 |
📊 如果你是技术管理者 |
|---|
1. 建立模型上线时的 Harness 自动适配流程——手写 Prompt 不可扩展,自动化自进化可以 2. 进化者用便宜模型、执行者用大模型——预算花在刀刃上 3. 明天就能做:拉 Prompt 库按模型分桶,同一份 Prompt 跑多模型是反模式 |
🚀 如果你是创业者/产品经理 |
|---|
1. 开辟"模型无关的差异化赛道"——同模型下 Agent 就是比竞品更好用、成本更低 2. 长期运行 Agent 是杀手场景——日跑千次的客服/编程助手才是真受益者 3. 明天就能做:选一个高频场景,对比"无 Self-Harness vs 跑过 5 轮"两版的用户成功率,算 ROI |
路易乔布斯 © 2026 · AI论文观察 · 论文精读
原文:Self-Harness: Harnesses That Improve Themselves
arXiv:2606.09498 | 基于开放获取论文研读