给 DeepResearch 打分的尺子是错的:百度发布首个全管线 DeepSearch 奖励框架

0 阅读1分钟

氛围图

💡 一句话总结:DeepResearch 类产品火了一年,但给它们当训练信号的奖励模型还停留在「单轮问答」时代。百度与天大的 F²DR 把尺子换成了三维过程级评估:检索到的内容全不全、搜索轨迹聪明不聪明、最终答案覆盖够不够。新基准一考,现有开源奖励模型集体不及格——多步决策链是共同的软肋。

导语:训练信号的尺子,跟不上产品的形态

打开任何一个 DeepResearch 产品(深度搜索、深度调研),它的工作方式都是迭代闭环:先规划要查什么,检索一轮,反思哪里不够,再检索,最后综合生成答案。这是多步决策链。

但训练这类系统的强化学习需要奖励模型(RM)来告诉系统「哪条轨迹更好」。尴尬的是,现有 RM 和评测基准几乎都为静态单轮任务设计——它们只会给「最终答案」打分,看不见检索质量、看不见规划好坏、看不见轨迹里的弯路。

用单轮的尺子量多步的活,训练信号自然是糊的。百度和天津大学决定重做这把尺子。

想看原文?

它的思路是什么?

  • 📐 三维过程级评估(F²DR):
    • Content(内容):检索到的资料覆盖率——按「核心信息命中率」分档打分(≥60% 满分,25–60% 半分,<25% 零分)
    • Trajectory(轨迹):搜索过程的质量——规划是否合理、反思是否有效、步骤是否有冗余
    • Answer(答案):最终生成的覆盖度与准确性
  • 🏆 首个专项基准:DeepSearch RM-Bench——带严格过程级标注的高质量偏好对,专考 RM 在全管线场景的判断力
  • 🔬 双向验证:F²DR 与人工/真值的一致性、开源 RM 在新基准上的区分度

效果到底怎么样?

  • 📊 F²DR 一致性显著领先:相比让模型自评的基线方法,三维框架与真值的评估一致性高出显著幅度
  • 🚨 开源 RM 集体吃力:主流开源奖励模型在新基准上表现疲软——多步决策链的评估是普遍短板,不是某家的个别问题
  • 🧭 诊断价值:基准清晰区分了「内容检索型失败」与「轨迹决策型失败」——两种病要吃不同的药

为什么你要关心?

  • 🏗️ 训 DeepResearch 的地基工程:奖励信号的质量决定 RL 训练的上限——如果你的搜索 agent 训不动,先检查尺子对不对
  • 📏 「核心信息命中率分档」可以直接抄:这是个具体到可以直接实现的检索质量度量,比「相关性打分」可操作得多
  • 🧪 自评不等于可靠:让强模型自己给自己的输出打分,一致性显著更低——评测体系里要留独立裁判的位置

理性看待

冷静看三点:过程级打分本身依赖强模型当判官,判官偏差需要持续校准;数据集「即将开源」,第三方独立验证还差临门一脚;三维框架的权重如何组合成单一奖励信号,实践者仍需自行调参。但方向毋庸置疑:产品的形态进化到了多步,训练信号的尺子也必须进化到过程。