首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >Harness也能自我进化?上海AI Lab Self-Harness:让同一个LLM实现33%-60%提升

Harness也能自我进化?上海AI Lab Self-Harness:让同一个LLM实现33%-60%提升

作者头像
用户1589488
发布2026-07-08 16:29:40
发布2026-07-08 16:29:40
20
举报

AI论文观察

2026年6月10日  ·  前沿·Agent自进化  ·  arXiv:2606.09498

📌 为什么我推荐你读这篇

大多数人聊「Agent 能力提升」眼睛只盯模型大小。这篇论文换了角度——让 Agent 自己优化自己的运行框架(Harness)。

① 模型参数没动性能涨60%——MiniMax 40.5%→61.9%、Qwen3.5 23.8%→38.1%、GLM-5 42.9%→57.1%

② 能进化的不只是模型还有使用方式——三阶段全自动闭环:弱点挖掘→提案生成→回归验证

③ 能写好 Harness ≠ 能用好 Harness——更新是手段,收益才是目的

如果你在做长期运行 Agent,这篇直接告诉你:Harness 该自动化了。

原标题

 Self-Harness: Harnesses That Improve Themselves 作者 Hangfan Zhang et al.  |  机构 上海人工智能实验室 方法 三阶段自进化 · Terminal-Bench 2.0  |  标签 #SelfEvolution #Harness #FixedLLM

本报讯 上海人工智能实验室最新研究 Self-Harness 提出反直觉命题:不改变 LLM 任何参数,让 Agent 自己分析失败、提出修补、用回归测试验证——三阶段全自动循环,在 Terminal-Bench 2.0 上让三个不同家族的固定模型分别获得 33%、52%、60% 的相对提升。

论文核心观点:LLM Agent 性能由基座模型和 Harness(系统提示词、工具包装、规划模板、验证逻辑)共同决定。不同模型有不同失败模式,Harness 设计本质上是模型相关的——但今天还靠人类工程师手写,这种范式在 LLM 快速迭代下完全不可扩展。

+52.8%MiniMax M2.5相对提升

3自进化阶段

89Terminal-Bench2.0 任务数

0外部依赖无需人类/强模型

三阶段循环:把"调 Harness"变成自动化任务

① Weakness Mining:从执行轨迹挖掘系统性失败模式。收集工具调用、错误消息、成功失败状态,按"工具选择/上下文/规划/错误处理/验证缺失"五维归类,按频率×影响度排序。

② Harness Proposal:针对每个弱点生成 3-5 个候选方案。四类提案:系统提示词修改、工具包装器添加、验证步骤注入、规划模板更新。设计原则:针对性 + 最小化 + 多样性 + 可测试。

③ Proposal Validation:四条接受标准——无回归、净正向、弱点修复、不引入新故障。70/30 训练验证切分。未通过直接丢弃。

模型

初始

优化后

相对提升

MiniMax M2.5

40.5%

61.9%

+52.8%

Qwen3.5-35B-A3B

23.8%

38.1%

+60.1%

GLM-5

42.9%

57.1%

+33.1%

三模型 × 三种弱点 × 三种修补

MiniMax M2.5:8 个 git 任务因 user.name/email 未配置失败 → 系统提示加预检规则 → 8 个全部通过,+9% git 任务通过率。

Qwen3.5:12 个任务假设文件操作必然成功 → create_file 包装器加存在性+内容校验 → 10/12 修复,+11.2% 文件操作通过率。

GLM-5:7 个长任务中段丢失中间状态 → 规划模板加显式状态跟踪 → 6/7 修复,+6.7% 多步任务通过率。同框架,三个完全不同的修补——这就是"模型相关 Harness"命题的直接证据。

So What:三类人的行动清单

🔧 如果你是工程师

1. Harness 优化的 ROI 远高于模型升级——花 $50-100 跑一轮 Self-Harness > 花 $5000 换更大模型 2. 建立"轨迹→挖掘→提案→回归测试"工程化流程,轨迹日志结构化采集,回归测试集早期建立 3. 明天就能做:拉最近 100 次失败轨迹,按五维归类,出现 ≥5 次的就是值得修补的弱点

📊 如果你是技术管理者

1. 建立模型上线时的 Harness 自动适配流程——手写 Prompt 不可扩展,自动化自进化可以 2. 进化者用便宜模型、执行者用大模型——预算花在刀刃上 3. 明天就能做:拉 Prompt 库按模型分桶,同一份 Prompt 跑多模型是反模式

🚀 如果你是创业者/产品经理

1. 开辟"模型无关的差异化赛道"——同模型下 Agent 就是比竞品更好用、成本更低 2. 长期运行 Agent 是杀手场景——日跑千次的客服/编程助手才是真受益者 3. 明天就能做:选一个高频场景,对比"无 Self-Harness vs 跑过 5 轮"两版的用户成功率,算 ROI

路易乔布斯 © 2026 · AI论文观察 · 论文精读

原文:Self-Harness: Harnesses That Improve Themselves

arXiv:2606.09498 | 基于开放获取论文研读

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2026-06-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 一深思AI 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • AI论文观察
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档