别再堆参数了：这个 35B Agent，靠“拉长视野”打平万亿模型

一个反直觉的实验

过去两年，大模型圈默认了一条潜规则：想让Agent更聪明，就把参数堆上去。从千亿到万亿，Kimi-K2.6、DeepSeek-V4-Pro这些顶级模型无一例外走的是这条路。

但上海人工智能实验室最近的一份技术报告，给出了另一种答案。他们训练的 Agents-A1 只有 35B 参数（还是MoE结构，激活参数更小），却在SEAL-0、IFBench、HiPhO等多个长程任务基准上，打平甚至反超了千亿乃至万亿参数的模型。

论文链接：https://arxiv.org/pdf/2606.30616

他们把这条路径叫做“扩展Agent视野”（scaling the agent horizon）——不扩大模型的脑容量，而是拉长它能连贯处理的任务跨度。

这不是一次简单的调参优化，而是一整套关于“长程Agent到底该怎么练”的系统性方法论。

长程Agent卡在哪里

想象一个Agent要完成一项复杂的科研任务：检索资料、执行代码、验证结果、根据反馈调整策略——这个过程可能需要连续几十步、几万个token的上下文才能走完。Agents-A1团队认为，这种“长程”能力目前主要卡在两个瓶颈上。

第一个瓶颈是基础设施缺失。公开的网络语料几乎不记录“证据从哪来、动作怎么执行、验证是否通过”这类过程性信息，模型很难从中学到如何规划、调用工具、验证结果、并从失败中恢复。

第二个瓶颈是能力太杂。长程任务需要的信息检索、工具调用、代码迭代、约束追踪等能力分布在不同领域，彼此的推理模式差异很大，想把它们揉进同一个模型里，常常“学会了这个、忘了那个”。

核心方法：知识—行动图 + 三阶段训练

为了解决这两个瓶颈，Agents-A1搭了一套完整的训练流水线，核心是两件事：一套知识—行动基础设施，和一套三阶段训练配方。

知识—行动图（KAG）：把“过程”存下来

论文提出了一个叫知识—行动图（Knowledge-Action Graph，KAG）的数据结构。对每个领域，KAG都用一个四元组来表示：

G = (C, A, O, V)

其中 C 是领域语料（证据、实体、约束），A 是动作空间（工具调用、代码编辑、推理步骤），O 是观测空间（工具返回、执行状态），V 是验证器集合（自动检查正确性）。与传统知识图谱只存“实体—关系”不同，KAG把一次任务被获取、测试、修正、验证的完整过程都记录下来，既保留成功轨迹，也保留失败轨迹。

为了让图的质量不断变好，团队还设计了一个自对弈图搜索机制：一个“出题者”在图上采样区域、提出任务，一个“解题者”用检索和工具解题，一个“验证者”检查答案、证据、执行结果是否合格——三方博弈，层层筛选出过程有信息量、证据被真正用到、没有投机取巧的高质量数据。

这套基础设施最终落地为六个异构领域的数据管线：长程搜索、机器学习工程、科学推理与研究、指令遵循、工具调用、通用Agent任务。生成的Agent轨迹平均长度达到 45K token，SFT数据集总量约 10万条轨迹。

三阶段训练配方

有了数据，Agents-A1采用了一套三阶段的训练流程（基座模型为Qwen3.5-35B-A3B）：

第一阶段：全域监督微调（Full-domain SFT）。用六个领域混合的长程轨迹，训练出一个具备广泛长程能力的通用模型Agents-A1-SFT。

第二阶段：领域专家教师训练。团队分别为不同领域训练出专精教师模型——比如用GRPO强化学习专门打磨搜索能力的教师，让GAIA得分从59.8飙升到95.1；用两阶段SFT打磨科学推理能力的教师，让FS-R（前沿科学研究基准）得分从2.5暴涨到54.3；还有专门强化指令遵循与工具调用能力的教师。每个教师只对自己的领域负责，把该领域的能力“喂饱”。

第三阶段：多教师在线策略蒸馏（OPD）。这是全文最关键的创新——如何把这些各有所长、推理风格迥异的教师揉进同一个可部署的学生模型里。

显著词表对齐：蒸馏时最容易被忽视的细节

直接把多个教师的知识蒸馏进一个学生模型，并不容易。常见的做法是只用教师在采样到的那个token上的打分做监督，但这种“单token近似”会让附近本该同样重要的候选词失去约束，造成蒸馏信号不稳定。

Agents-A1提出了显著词表对齐（Salient Vocabulary Alignment，SVA）：在每一步，先看教师认为概率最高的top-k个候选词，只在这个“教师认定的显著词表”上，让学生和教师的概率分布重新归一化对齐，再计算两者的KL散度作为损失。

学生分布 p̄s'(u) 与 教师分布 p̄t(u)  只在教师top-k候选词 u ∈ S(k) 上对齐

换句话说，不再只盯着教师“选中”的那一个词，而是盯住教师认为靠谱的一小撮候选词，让学生在这个更宽的显著区域里跟教师对齐，蒸馏信号因此更稳。

由于六个领域的推理风格差异很大（比如搜索任务偏好多轮短思考，指令遵循偏好单轮长思考），团队还引入了领域路由：每条样本只接受其对应领域教师的指导，并把损失先在领域内平均、再跨领域平均，避免样本量大的领域“喧宾夺主”。

效果：35B如何打平1T

最有意思的结果出现在全域SFT和最终OPD模型的对比上（见下表逻辑）。团队发现，Agents-A1-SFT虽然在搜索、工程、科研等任务上明显进步，却在通用Agent任务、指令遵循、HLE上出现了明显退步——原因是长思考推理模式和多轮工具调用模式相互“打架”。而多教师OPD阶段几乎完全修复了这种冲突，让模型在保持广泛能力的同时，吸收各领域教师的专长。

最终对比结果显示，相对Kimi-K2.6和DeepSeek-V4-Pro这两个千亿级以上模型，Agents-A1在SEAL-0（56.4）、IFBench（80.6）、HiPhO（46.4）、FrontierScience-Olympiad（79.0）、MolBench-Bind（56.8）上都取得领先，在SciCode（44.3）、HLE（47.6）、BrowseComp（75.5）上也具备强竞争力。

一个35B的模型，在多个长程科研与推理任务上，打赢了体量是它几十倍的万亿参数模型。

不过论文也坦诚地指出边界：在MLE-Bench-Lite这类需要保持长期目标一致、记住历史决策的端到端工程任务上，Agents-A1（43.9）依然明显弱于GPT-5.5（72.7）——这类任务考验的不是单次问题求解，而是完整工程流程中的持续状态管理，仍是短板。

两个真实场景的长程实测

论文里给了两个具体案例，展示Agents-A1不是只会刷分，而是真能完成长程闭环任务。

一个是持续12小时的机器学习优化：面对ICML 2013鲸鱼叫声检测挑战，Agents-A1从一个朴素CNN基线出发，自主完成时序数据分析、音频增强、Mel谱图CNN集成等一系列改进，把验证集AUC从0.58一路推高到0.9935，达到金牌水准。

另一个是地球科学案例：给定2008年“纳尔吉斯”热带气旋的原始最佳路径数据，Agents-A1自主定位数据源、完成清洗、计算移动速度与转向等衍生指标、生成可视化并撰写分析报告，重建出这场风暴从孟加拉湾生成、转向、直至在缅甸登陆的完整演变过程。

这两个案例的共同点是：任务本身没有标准答案模板，考验的正是“长时间保持目标一致、持续利用中间反馈”的能力——这恰恰是scaling the horizon这条路径想要专门强化的东西。

局限与未来

论文作者也很诚实地承认，Agents-A1目前的能力主要来自三个来源：基座模型本身的底子、统一的知识—行动基础设施，以及能减少跨域冲突的蒸馏方法。他们同时观察到，像先规划后推理、先反思后行动、长上下文中总结关键信息这类更基础的“原子能力”，仍是决定长程任务能走多远的关键变量，这也是团队后续要重点打磨的方向。

写在最后

Agents-A1给出的启示很朴素：参数规模不是长程Agent唯一的杠杆。当基础设施能把“证据—动作—观测—验证”这套过程性监督沉淀下来，当蒸馏方法能真正化解异构领域间的推理冲突，一个35B的模型也能在特定长程任务上，做到万亿参数模型做到的事情。

这或许提示了一条更具性价比的路径——不是所有团队都负担得起万亿参数的训练成本，但拉长“视野”、打磨基础设施，是一条更多团队可以走的路。

进阶学习

如果你正在关注大模型 Agent、强化学习后训练、RLHF、DPO、GRPO、RLVR 等前沿方向，欢迎学习我最新上线的精品课程：

课程围绕 Agent 架构、强化学习基础、Reward 设计、策略优化、工具调用、多轮任务执行、Agentic Workflow 以及前沿论文与实战案例展开，帮助你建立从理论到应用的完整知识体系。

Agent RL 正在成为大模型能力提升与智能体系统演进中的重要方向。未来的 Agent 不只是会调用工具，而是要能规划任务、评估结果、修正策略，并在复杂环境中持续优化自己的行为。

现在系统学习 Agent RL，提前进入下一阶段 AI 应用开发的核心赛道。

🌟 关注“唐国梁TGLTommy”，一起持续追踪 AI 技术演进背后的长期趋势。