作者：飞樰
本文已收录至《Alibaba Cloud AI Agent Handbook》实践篇中的 Jev 专题，作者飞樰。除了这篇，后续还会发布我们使用 Jev 在多个领域的实践和评测效果。欢迎在文末加入 Handbook 共读群。
官方给 Jev 的定位很有意思，叫做 “System One Model” ，也就是系统1模型。接下来，咱们就来深入聊聊：到底什么是 “系统1” ？以及为什么这个叫 Jev 的模型会这么火？
Agent 决策类任务的痛点
我们在日常构建 Agent Harness 的过程中，是不是经常遇到这样的痛点？就是我需要非常多的子模块或者子 Agent 来帮我做决策。比如，用户问了一个问题，我该怎么去做意图识别和路由？我可能会有很多个 Agent 去处理不同的逻辑或意图，那么在最前面，我必须得有一个意图识别或者说路由模块，把用户的问句准确地分发到对应的系统或 Agent 上去。
在这种情况下，通常我们有两种做法。第一种做法，是直接用大模型。 我们写一段 Prompt，要求它做一个分类或者路由的任务，并且强制要求它的 Output 必须是一个结构化的格式，比如直接输出分类结果，或者通过 JSON、YAML 的结构化形式输出。然后让工程代码去解析这个结果，再映射到我们想要调度的那个 Agent 上。但这种基于大模型的做法，效率其实并不高，经常遇到几个痛点：
- 速度慢。 因为大模型要推理嘛。你要想让它分得准，往往就得开启 “Thinking”（思考模式）。如果你不开思考，速度可能会快一点，但如果你的 Prompt 写得很长、要求很复杂，它输出整个 JSON 的过程依然会很漫长。
- 指令遵循不稳定。 某些情况下，它还是很可能会输出错误的 JSON 结构，或者不按照你预期的字段来输出。这种情况虽然偶发，但确实存在。哪怕我们加了一些 Format 约束，让模型按约定解码，也难免会出岔子。
第二种做法，是为了追求极致的速度和稳定性，去训练一个小参数模型。 我们可以把大模型的结果进行蒸馏，或者通过人工标注，快速训练一个小的 LLM。目的就是为了节省推理时间，加快速度，同时提高准确性。在更极致的场景下，甚至可以训练一些像 BERT 这样的传统机器学习模型。这样能在毫秒级就输出一个分类结果以及对应的置信度（Logits）。有了这个置信度，我们就可以通过阈值来灵活控制。比如，我可以设定置信度 90% 以上才认为是某种决策，或者 80% 以上。这个阈值可以根据业务需求动态调整，这是 BERT 这类模型的一个优势。
这种做法的好处很明显：速度快，且对特定任务非常有效。 但坏处也很明显：训练成本相对较高。 你需要有相应的 GPU 卡，需要有一定量的数据集，还需要搭建训练 Pipeline，不停地调优参数、做评测，最后才能获得这样一个模型。而且，这个模型没有任何迁移能力，只能用在当前这一个单任务场景上。为此，你还得专门部署一个模型，占用推理资源。无论是训练还是推理，都需要消耗一定的 GPU 算力。我们之前也有很多任务是这样做的。
这类任务，本质上就是一个典型的分类、决策任务：输入是一段任务描述（可能包含样例），输出是一个结构化的分类结果，由工程侧去解析。其实，这种场景非常多。比如根据问题的难度，路由到不同参数的模型，比如简单问题用小模型，中等用中模型，复杂用大模型；判断某个 Agent 的输出结果是否有风险等等，这也是一种分类决策。
也就是说，在构建 Agent Harness 的过程中，除了解决用户核心场景（如 Coding、问答、工单解答）的那些主力 Agent 之外，我们有非常多的场景需要做这种“小而快”的决策。所以说，面对 Agent 里这么多类似的场景，到目前为止，其实没有一个特别完美的解法。用大模型写 Prompt，好处是落地快，能迅速用上；但坏处是稳定性差、推理速度慢。而训练专用小模型，好处是快且准；但坏处是成本高，耗费算力资源和人力都比较多。
Jev 的定位：专为结构化决策而生
那么，还有没有别的办法呢？
有的，Jev 这个模型就是为了解决我们刚才说的那些痛点而提出的。它并不是一个传统意义上的 LLM。传统 LLM 的特点是你输入任何 Instruction（指令）或描述，它也能对应输出各种形式的内容。但 Jev 不一样，它的输入可以是你的各类任务要求 Instruction，但输出一定是一个结构化的、针对特定场景的分类决策结果，以及它的置信度。这就是它的核心定位。
这个模型开发团队的创始人 Diogo Almeida 在 OpenAI 期间就参与了很多让语言模型“听得懂指令、能和人对话”的 AI 研发工作，也成就了 ChatGPT 这样跨时代的产品。当时他也认为，这种基于 Chat 的模型是通往 AGI 的一条路径。但经过最近这些年的发展，他发现了一些问题：纯粹通过 Chat 的方式可能是不够的。
纯靠聊天这种模式，很难做到完全的自动化。就像我们刚才讲的那些场景，在很多地方需要做决策时，如果纯靠 Chat，你很难把它收敛到一个非常稳定的状态。所以，如果想要做到真正的自动化，很多必要的、重要的模块，我们需要让它能结构化，并且能够输出对应的概率和置信度，以及分类结果。只有这样，我们才有了一个非常好的判断依据：这个结果的可信程度到底有多高？分类结果可能是怎样的？
基于这个思路，Jev 采用了一种全新的模型架构，追求极致的运行效率。更重要的是，他们使用了一种全新的强化学习算法，叫做 RLCD（Reinforcement Learning for Calibrated Decisions，面向校准决策的强化学习）。 Jev 是他们第一款公开的模型，也就从前两天开始正式开放给一些早期用户试用。
按照官方的说法，Jev 的智能水平和现有大模型 LLM 差不多，但速度和效率却快了整整两个数量级，大约 100 倍左右。Jev 没有生成文字的能力，但它对结构化输出做了专门调优。这带来几个好处：很难产生幻觉；能给出概率置信度；方便进行阈值调整。
所以，你可以把 Jev 理解为一个前沿智能级别的函数调用，或者说是一个决策函数。它的 Input 可能是杂乱无章的任务要求描述，但它的 Output 是一个有概率、有类型、安全的决策结果。
Jev 与 LLM 的核心差异对比
那既然，Jev 与 LLM 差异挺大的，那我们就先来做一下对比。为了更直观，我整理了一个表格：
简单来说，LLM 更像是一个“全能选手”，适合和人打交道或者处理开放性问题；而 Jev 则像是一个“精密仪器”，专门为自动化流程中的那些需要快速、准确、结构化决策的环节而生。
什么是“系统1”？为何叫“Jev”？
在 Jev 的官方文档和描述里，经常提到一个词：System One（系统1）。这个名字是怎么来的呢？它其实借用了心理学家 Daniel Kahneman 在其名著 《思考，快与慢》（Thinking, Fast and Slow） 中提出的概念。在这本书里，人类的思维被分为两种模式：
- 系统一（System 1）： 快速、直觉式的思维。它能立即做出反应，省力且瞬时。
- 系统二（System 2）： 缓慢、审慎的思维。它需要经过深思熟虑和逻辑推理，费力且耗时。
以前，那些没有开启深度思考的 LLM，我们一般也认为属于“系统1”；而开启了深度思考（Reasoning）的 LLM，则被视为“系统2”。Jev 显然属于系统1，因为它追求的是立即、快速的反应，而不是去进行深度的逻辑推演。
我们也通过表格的方式简单对比一下这两者：
所以，“系统1”擅长的就是那些分类、打分、路由这类需要“一眼定乾坤”的任务；而“系统2”则更擅长处理数学、逻辑证明以及多步的复杂规划。
那么，Jev 这个名字又是怎么来的呢？
它是以经济学家 William Stanley Jevons（威廉·斯坦利·杰文斯）命名的。这背后涉及到一个著名的经济学现象：杰文斯悖论（Jevons Paradox） 。
TypeSafe 这家公司预期，机器智能会走上和当年工业革命时期的煤炭产业类似的路径。在蒸汽机时代，随着效率的提升，煤炭的需求并没有因为“够用了”而减少，反而因为效率提升带来了更广泛的应用，导致需求大幅增长。这就是杰文斯悖论的核心：效率的提升并不会导致需求的饱和，反而会促进需求本身的增长。 应用到 AI 领域，这意味着：智能的成本每下降一个数量级，就会解锁出多个数量级的新应用场。 TypeSafe 认为，AI 的产生并不会让大家做的事情变少，反而会催生出更多的需求。
这一点我到是也挺赞同的，我们可以看到现在的 AI 发展十分迅速，似乎我们也并没有因为 AI 的出现而变得轻松。相反，AI 发展得越快，随之涌现的新需求也就越多，我们能做的事反而越多，反而导致更加疲惫。这是因为，原来在开发资源有限的时候，一些需求可能因为实现成本太高或排期太久而被舍弃；但现在有了 AI，研发迭代速度过快，导致各类需求都可以去尝试实现，结果反而引发了需求层面的爆炸。我觉得这是一个非常有趣且值得深思的现象。
集 LLM 与 BERT 两者之长
讲到这里，有同学可能会产生一个新的疑问：这个 Jev 跟传统时代的 BERT 挺像的啊。 BERT 的输入也是一段文本，输出是一个 CLS 头上的分类结果。这个分类同样也有 Logit，能拿到概率分布。
那么，Jev 和 BERT、LLM 的关系就变得非常有意思了。我刚接触 Jev 的第一反应就是：这个模型其实是取了 BERT 和 LLM 各自的长处，来实现特定任务的。 你会发现：
- 它能够像 BERT 一样，将输出收敛到结构化的类别和概率，不发散；
- 它又能够像 LLM 一样，理解任意的自然语言，做到 Zero-shot（零样本） 调用。
这意味着我们不需要去训练它，直接通过写 Instruction 的方式就能实现使用。这就解决了一个很大的痛点：我可以快速、低成本地用这样一个模型去解决问题，既不需要训练，又能拿到一个稳定、可用的结果。那么，下面我们把 BERT、LLM、Jev 三者再做一个详细对比：
简单来说，BERT 像是“特种兵”，每个任务都得单独练，练好了极快极准，但换任务就得重练；LLM 像是“全能博士”，什么都能聊，但干活慢、贵，还偶尔会“胡言乱语”；Jev 则像是“智能调度员”，既有博士的理解力（不用训练就能懂指令），又有特种兵的执行力（快、准、稳、便宜），专门为自动化流程中的决策环节而生。
如何定义一个“决策函数”
我们来细看一下这个模型的输入结构。它主要由几个关键字段组成，设计得非常清晰：
ID：结果的“身份证”
你需要自己取一个键名（Key），比如 intention_classify。这个 ID 的作用是在返回结果时，让你能准确地取到对应的结果。
Type：三种决策类型
type 字段定义了你要让模型做什么样的决策，主要有三种类型：
- Choice（选择）： 从一组选项中选出一个。输出选中的项（Choice）、每个选项的概率（Probability）以及置信度（Confidence） 。典型场景有意图路由、文档分类、模型识别等。
- Score（打分）： 判断内容落在哪个等级或分数段。输出是具体的分数（Score）、等级标签（Legend）、概率和置信度。典型场景比如严重程度分级、敏感程度评估、情绪强度打分等。
- Noul（是非判断）： 判断这句话是真的吗？或者这件事是对还是错？输出0 到 1 之间的概率值。越接近 1 代表“是”，越接近 0 代表“否”。典型场景是二分类任务，比如“是否合规”等等。
Instruction / Criteria：告诉模型“做什么”和“怎么选”
- Instruction： 你具体要问的问题或任务描述。例如：“请判断用户的这句意图属于哪个分类。”
- Criteria： 可能的选项列表或评分标准。
- 如果是 Choice，这里写上分类 1、分类 2、分类 3 等选项列表。
- 如果是 Score，这里写上分数段或等级的定义表。
- 如果是 Noul，这里必须写清楚“是”代表什么，“否”代表什么。不过，需要注意的是，对于是非判断，你一定要在 Criteria 里明确定义。比如“客户是否有情绪异常”，你得说明 1 代表异常还是 0 代表异常。如果不写清楚，模型就不知道该往哪边分。
State：上下文数据导入
这个字段虽然叫“状态”，其实就是“上下文”。你要让模型评估的具体内容就放在这里。例如：在做意图理解时，你可以把整个对话的对象数组、Message 的具体细节或者一大段文本传进 state。你可以在 instruction 里通过特定的格式去引用 state 里的某些字段。比如：“请根据 state 中最后这一句对话，判断它属于哪一类。”当然，你也可以不引用具体字段，直接说“根据这段对话进行分类”，模型都能处理。
最有意思的是，这三类问题（Choice, Score, Noul）可以一起放在同一个 API 请求里去访问。这意味着你可以一次性让模型既做选项分类，又做程度打分，还做是非判断。这些问题是并行、独立评估的，避免了串行调用带来的延迟，极大地提升了效率。最后，模型会根据你定义的这些字段，输出对应的结构化结果，包括你需要的分类、分数或概率，以及校准过的置信度。
RLCD：面向校准决策的强化学习
接下来，我们深入聊聊 Jev 背后的核心训练方法 “RLCD”（Reinforcement Learning for Calibrated Decisions，面向校准决策的强化学习）。 在介绍它之前，我们先回顾一下大模型后训练（Post-training）的两条主流路径，这样你就能明白为什么需要这个新算法了：
- RLHF（基于人类反馈的强化学习）： 这是 OpenAI 推出 ChatGPT 时的招牌做法。它的优化目标是“人类偏好”，通过训练一个 Reward Model 来拟合人类的打分，让模型输出更像人、更讨喜的回复。但是，标注和训练 Reward Model 的成本极高，而且很难完全拟合人类的真实意图。
- RLVR（基于可验证奖励的强化学习）： 随着 Coding Agent 的兴起，这种方法变得流行。它适合那些能通过程序化验证对错的场景（如代码、数学推理）。虽然速度慢一点，但效果精准，因为对错是客观可验证的，但适用场景有限。
而 Jev 采用的 RLCD 的优化目标非常明确：校准过的决策和概率。 那么，什么是“校准”（Calibrated）？ 这里需要注意，很多人会混淆 “概率”和“置信度” ：
- 概率（Probability）：模型会对每个选项给出一个概率值。比如分类 1、2、3，模型会告诉你选 1 的概率是 60%，选 2 是 30%... 但这只是模型内部的倾向性，不代表它一定是对的。
- 置信度（Confidence）：这才是 RLCD 的核心。模型在输出概率的同时，还会输出一个置信度。所以校准的含义就是，如果模型给出的置信度是 0.2（20%），那么在大量同类样本中，它确实只有约 20% 的情况是答对的；如果置信度是 0.9，那它就有 90% 的把握是对的。简单来说，置信度越高，准确性就越高。 这就是经过“校准”的意义，让模型的自我评估与真实准确率对齐。
那么，置信度又是怎么来的？ 它是基于概率分布计算出来的一个 0~1 的值（除了 Noul 类型外都有），如果分布越尖（集中在某一个结果上）：模型越自信，置信度越高；如果分布越平（各个选项概率差不多）：模型越不确定，置信度越低。这给了模型一个 “承认我不确定” 的机制。这对于构建可靠系统至关重要，高置信度 = 高可信度， 可以直接自动化执行；而低置信度 = 低可信度， 可能需要人工介入或触发备用方案。
虽然不同业务场景下，你需要通过评测来确定具体的阈值（比如 80% 以上才放行），但 RLCD 保证了一个核心点：这个置信度标准在不同样本间是统一且可信的。
那为什么不用 RLHF 或 RLVR呢？因为对于“决策”任务来说，这两种方案很容易出问题：RLHF 容易让模型去“迎合”人类偏好，而不是追求客观真理，导致幻觉；RLVR 虽然准，但只适用于有标准答案的场景，且缺乏对“不确定性”的量化。
而 RLCD 通过专门的校准环节，确保了模型输出的不仅是结果，更是可信的结果。当然，目前官方并未公开 RLCD 的具体实现细节和底层架构，以上分析都是基于其官方文档透露的理念来分析的。
最佳实践：如何用好 Jev？
在官方的 “How to Build” 文档里，强调了几条非常实用的方法论，我总结了一下：
1. 能用代码就别用模型： 对于逻辑性强、规则明确的任务（比如日期阈值判断），直接用代码写死。不要试图让任何模型去算这个，代码永远比模型准且快。
2. 精简 State，避免 Context Rot（上下文腐烂）： 只把当前问题真正需要的上下文塞进 state。无关信息不仅浪费 Token，还会引入噪声，拉低准确率。这就是所谓的“上下文腐烂”（Context Rot）。
3. 精准引用字段： state 里的字段可以通过反引号或路径的方式，直接在 instruction 里引用。这样能让模型聚焦到具体的数据点上，而不是在一堆文本里大海捞针。
4. 拆解问题： 问原子问题，别问大问题：这是最关键的一点。一定要在 Jev 里问最原子、最具体的问题。 比如说不要问：“这封邮件是不是垃圾邮件？” 而是要问：“这封邮件是否在索要密码？”、“是否承诺了额外奖励？”、“发件人身份与内容是否矛盾？”让模型对这些小问题做精确判断，然后你再用代码去做综合的加权决策。这种“模型判断+代码聚合”的模式，效果远好于让模型直接给一个大结论。
5. 结构化你的 Instruction 和 Criteria： 复杂的指令或选项，别堆成一长串文字。用带命名字段的对象来组织，把每个选项的定义写清楚（属于什么、不属于什么），甚至可以加几个例子（Few-shot）。模型对结构化信息的理解力远强于大段自然语言。
6. 一次多问，并行处理： 把同一个 state 相关的所有问题——哪怕有些你现在可能用不上——都打包放进一个请求里并行跑。比如用户对话进来，意图分类、情绪识别、风险检测可以一次性全做了。这样的效率最高，且多次调用和单次调用的答案是一致的，不会因为并行而降低准确率。最后根据返回的 confidence 来决定是否采纳结果即可。
虽然 Jev 很强，但它不是万能的。以下场景请谨慎使用或避开：
- 数学与日期计算： 它算不准。这类任务请务必交给代码或专门的工具。
- 多跳推理与双重否定： 涉及多层间接逻辑、双重否定等复杂语义理解时，准确性会下降。
- 庞大且嘈杂的 State： 如果上下文过长、干扰项过多，模型的注意力会被稀释，准确率变差。
- 对抗性内容： 如果
state里包含注入攻击或恶意诱导信息，可能导致决策失效。 - 结构不变性不保证： 同一个问题，你用
noul（是非）问和用choice（选择）问，结果可能不完全一致。因为它们是独立校验的，决策路径不同，输出可能有差异。不要假设两种方式的输出必然等价。
总的来说，Jev 是一个极其强大的决策函数，但它需要你像工程师一样去设计输入、拆解任务、并用代码兜底。把它当成一个“超级传感器”而非“全能大脑”，才能发挥它的最大价值。
实战案例详解
在拿到了官方的 API key 之后，我们就可以根据官方文档给的调用规范来实际运行了。我用一个“医疗分诊台”的案例来介绍一下，如何给 Jev API 入参，以及实际运行之后拿到的出参 JSON 是什么样子的。
我们先从入参开始看起，将一个患者用户描述的症状输入到科室 department、紧急性 is_emergency、严重性 severity 三个维度的分类决策中，入参格式如下：
{
"state": {
"source_text": "最近右下腹剧痛，还有点发热、恶心难受"
},
"questions": {
"department": {
"type": "choice",
"instructions": {
"question": "根据病人的症状描述，应该分到哪个诊室？",
"focus": "基于 `source_text` 中的核心症状进行科室路由判断"
},
"criteria": {
"外科": {
"what": "阑尾炎、外伤等需要手术的情况",
"examples": ["右下腹剧痛", "刀割伤"]
},
"内科": {
"what": "感冒、发烧、肠胃炎等非手术类疾病",
"examples": ["持续低烧", "腹泻呕吐"]
},
"急诊科": {
"what": "危及生命、需要立即抢救的情况",
"examples": ["意识模糊", "大出血", "呼吸困难"]
},
"皮肤科": {
"what": "皮疹、过敏、外观异常等皮肤相关问题",
"examples": ["全身红疹", "瘙痒起包"]
}
}
},
"is_emergency": {
"type": "noul",
"instructions": {
"question": "病人症状是否需要立即就医？",
"inspect": "source_text"
},
"criteria": {
"true": {
"what": "存在危及生命或需紧急干预的症状",
"examples": ["剧烈胸痛", "昏迷", "大量出血"]
},
"false": {
"what": "症状平稳，可常规门诊就诊",
"examples": ["轻微腹痛", "低烧", "轻度恶心"]
}
}
},
"severity": {
"type": "score",
"instructions": {
"question": "评估病人病情的严重程度",
"inspect": "source_text"
},
"criteria": [
{
"summary": "轻微",
"signals": ["症状不影响日常生活", "无发热或仅低热"]
},
{
"summary": "中等",
"signals": ["症状明显但可控", "伴有发热或持续不适"]
},
{
"summary": "严重",
"signals": ["症状剧烈或持续加重", "高热、剧烈疼痛、功能受限"]
}
]
}
}
}
经过真实的 jev-1.13.0 API 调用之后，我们就拿到了“结构化类别 + 校准置信度”的出参结构（篇幅问题，精简了部分字段）：
{
"model": "jev-latest",
"answers": {
"department": {
"type": "choice",
"choice": "外科",
"probabilities": {
"外科": 0.97,
"内科": 0.0,
"急诊科": 0.0,
"皮肤科": 0.03
},
"confidence": 0.96
},
"is_emergency": {
"type": "noul",
"noul": 0.95
},
"severity": {
"type": "score",
"score": 1.95,
"legend": {
"0": "轻微",
"1": "中等",
"2": "严重"
},
"probabilities": {
"0": 0.0,
"1": 0.05,
"2": 0.95
},
"confidence": 0.93
}
}
}
从输出可以看到，“右下腹剧痛”的话，基本上科室 department 是就是“外科”，概率是 0.97，置信度是 0.96，也就是 96% 的准确率就是外科，这基本上就是“阑尾炎”的典型症状。“是否紧急” is_emergency 是 95% 的概率。“严重性” severity 是 1.95 分，介于“中等”的 1 和“严重”的 2 之间，置信度是 93%。在这种情况下，就可以通过写代码，来卡一些阈值获得最终的决策结论了。
总结
本文讲到这里就差不多结束了。通过这次对 Jev 模型的分析，我们其实更多的是发现了一种全新的解决分类和决策型任务的方式。它让我们看到，在 LLM 的“全能”和 BERT 的“专精”之间，还存在一个专门为自动化决策而生的中间地带。当然，需要说明的是，当前所有的分析都是基于目前已有的文档资料整理的，不一定跟实际情况完全一致。而且这个模型还在不停地更新迭代中，后续版本可能会有差异，大家参考就好。
我估计，接下来会有很多模型厂商跟进这一类模型。因为它确实在我们构建 Agent Harness 的各种细节中，展现出了极高的价值和意义。我期待这类模型能尽快普及起来，让我们有更多的选择去做更快速、更有效、更准确的决策。
更进一步想，基于 Jev 这种原子化的决策能力，我们完全可以通过组合形成调用链，把复杂的 Agentic Workflow 通过这类轻量又快速的决策模型承载。用多个高置信度的小决策，拼接成一条稳定、准确的复杂任务决策链条。我觉得基于这类模型的 Harness 新玩法和场景探索，还有非常大的空间和前景。让我们拭目以待，也不停地跟随业界发展的方向去学习和跟进。希望未来能看到更多基于这类模型的业务场景落地，以及实际价值体验的提升。
以上就是本次分享的所有内容了。行文仓促，肯定会有瑕疵，如果大家有任何建议和意见，欢迎在评论区指正出来。我们互相学习、互相交流，一起在 AI 时代不停奔涌向前！
Reference：
[1] Introducing System One Models & Jev
[2] TypeSafe Docs
Agent Handbook 共读群，钉群群号：205120002588，微信群如下。
