4B干翻9B底座:首个Agent-Native模型NeoHorse-1,把“做事的过程”压进了参数里

0 阅读5分钟

摘要:基元律动联合无问芯穹、清华、北大、阿里等机构发布首个Agent-Native模型NeoHorse-1。它解决了一个行业长期忽视的问题:Agent在真实任务中积累的执行经验,几乎从不进入模型参数。NeoHorse-1把Routing Harness产生的结构化执行轨迹用于后训练,结果是4B模型在五项基准上超过Qwen3.5-9B底座,9B版本τ²-Bench达到90.82,超过30B规模的Muse Glimmer。

一、Agent最大的浪费:经验从不进入参数

今天大多数Agent系统里,模型在真实环境中执行任务、调用工具、踩坑、纠错、最终完成,但这一切经验几乎从不进入模型参数。经验停留在日志里,模型下一次遇到相似任务,依旧可能踩一遍同样的坑。

技术报告记录了一个典型案例:一个4B基础模型在项目排期任务中找到了工作目录里的文件,却漏读了一封包含最新依赖约束的邮件,基于过时信息生成计划,把文件写到了错误位置。模型不是不会写代码,不是读不懂中文,它缺的是“做事的过程感”——什么时候该先扩大信息搜索范围、工具返回什么算异常、发现自己基于过时假设之后该怎么回头。这些能力在教科书式的指令-响应对里几乎不会出现,因为它们不是知识,是执行策略。

NeoHorse-1的核心贡献,就是把这条经验从日志里捞出来,压进参数里。

二、数据变了:不是“题和答案”,是“做事的过程”

传统后训练依赖问答对和教科书式习题。NeoHorse-1的训练语料以Routing Harness产生的结构化轨迹为核心,记录的是任务请求、能力需求评估、路由选择、模型响应、工具调用、环境反馈、错误与恢复路径、最终完成状态。

一条完整的轨迹包含:任务需要什么能力、系统做出了什么执行决策、环境最终给出了什么反馈、走错了如何回头、什么时候该升级到更强的模型。数据规模在10⁵到10⁶条轨迹量级,并混入公开的指令、推理、工具使用、代码、偏好数据来拓宽能力覆盖。

每条轨迹经过结构检查和六维语义评估(目标完成、指令遵循、工具使用合理性、证据支撑、错误恢复、终止时机)后才进入训练。这里既有成功经验,也有失败轨迹。最终答案只说明“怎么做对”,失败与修复过程说明“哪里容易出错、出错后如何恢复”。

三、七步闭环:从轨迹到权重的工程路径

NeoHorse-1的训练是一条完整的“数据生产-训练-评估-反馈”闭环,拆为七个可逐环检查的步骤:采集、清洗、序列化、课程排序、课程化SFT、路由引导的On-Policy蒸馏、能力引导的数据分配。

路由信号负责估计任务所需能力,把监督微调组织成三阶段课程;评估结果反过来调整下一轮训练数据配比,形成“评估-选择-更新”的正循环。

四、数据:4B打赢9B,提升集中在Agent任务

模型宏平均分(后训练前→后)关键亮点
NeoHorse-1-4B58.94 → 64.87五项基准超过Qwen3.5-9B底座;τ²-Bench 88.46
NeoHorse-1-9B65.60 → 69.04τ²-Bench 90.82,BFCL v4 67.43

在工具调用和多轮交互最集中的τ²-Bench上,NeoHorse-1-9B拿到90.82分,同场Qwen3.5为88.04分,30B的Muse Glimmer只有76.64分。十项基准算总账,NeoHorse-1均分69.04分,Muse Glimmer为67.86分,Qwen3.5为65.60分——参数只到别人三分之一的模型,总分反而更高,工具链路上的优势更是断层。

4B模型在Agent任务上的表现已超过多个参数量显著更大的通用模型。但提升并非均匀分布:改善集中在流程清晰、反馈可观察、结果可验证的任务上;9B版本在复杂状态维护、长程调试和失败恢复中仍保持明显优势。

五、一个必须正视的边界

NeoHorse-1的训练数据来自Routing Harness,而Harness本身是人设计的。如果Harness的设计有偏差,训练数据就会携带这种偏差。

Agent-Native模型在“流程清晰”任务上提升最显著,恰恰说明它对“人已经梳理清楚流程”的任务效果最好——那些流程本身就不清晰的任务,仍然是它的盲区。

NeoHorse-1仍处于早期阶段。本次发布的价值不在参数规模,而在于验证了一条路径的可行性:从Agent任务中产生的数据,能够训练出服务于Agent任务的模型。

六、上手:一条命令跑起来

NeoHorse-1基于Qwen3.5后训练,兼容vLLM、SGLang、Transformers等主流推理框架,Apache 2.0开源可商用。原生上下文262,144 tokens,可扩展至1,010,000 tokens。

bash

pip install vllm
vllm serve TokenRhythm/NeoHorse-1-4B --port 8000

4B版本消费级显卡即可运行,GGUF量化版本也已发布。9B版本同样支持vLLM一键部署。

查看原文

以上仅为核心速览。完整版包含:Routing Harness轨迹采集与六维质量评估的完整细则、七步后训练流水线的逐环拆解、三阶段课程学习与路由引导On-Policy蒸馏的代码级分析、与Qwen3.5-4B/9B及30B Muse Glimmer的完整基准对比、以及RSI双环闭环的工程边界讨论。

本文首发于微信公众号「阿Q的AI笔记」,点击下方链接阅读全文:

大模型必知必会:Agent-Native模型NeoHorse-1完全拆解


关注公众号

如果你想持续追踪Agent-Native训练范式、RSI工程实践与后训练前沿进展,欢迎关注公众号「阿Q的AI笔记」。