这周爆火的 Jev 不会说话,却比大模型快 200 倍:LLM 与 Jev 的区别一次讲清
这一周的 AI 圈,大家却在疯传一个"不会说话的模型"。
它叫 Jev,9 月 15 日由初创公司 TypeSafe AI 发布,9 月 21 日全面开放。媒体给它的外号一个比一个响:"哑巴模型""Agent 的小脑""快 200 倍、便宜 400 倍"。也有人在标题里把它写成"谷歌的模型"——先纠正:它不是谷歌出品,就是一家叫 TypeSafe AI 的初创公司。
对刚接触 AI 的读者来说,问题很直接:ChatGPT、通义千问这些大模型(LLM)不是已经很强了吗?一个"不会说话"的模型火什么?这篇文章用一个类比讲透。
一、一句话区分:LLM 做问答题,Jev 做选择题
大语言模型(LLM)的工作方式是"逐字生成":你问它问题,它思考之后写出一大段文字,你的程序再从这段文字里解析出想要的答案。
Jev 砍掉了"写"这个环节。你给它两样东西:
- 当前的状态或问题(比如"这条服务器告警的日志和指标")
- 你预先定好的选项(比如"严重 / 一般 / 可忽略"三个级别)
它直接返回:选了哪个选项 + 它有多确定(概率)。不解释、不寒暄、不输出一个多余的字。
官方管这叫 System One 模型——借用了诺贝尔奖得主卡尼曼的分类法:System 1 是人的直觉反应(看到红色就松油门),System 2 才是深思熟虑(推导一道数学题)。LLM 擅长 System 2,Jev 专做 System 1。
二、区别到底在哪:一张对照表
| LLM(大语言模型) | Jev(决策模型) | |
|---|---|---|
| 题型 | 问答题 / 作文题 | 选择题 |
| 输出 | 一段自然语言文本 | 一个选项 + 概率 |
| 延迟 | 前沿模型通常 3 秒起步 | 端到端约 70–500 毫秒 |
| 你的程序要做的善后 | 解析文本、校验格式、处理瞎编 | 拿到即用,格式天然合法 |
| 单价 | 输出 Token 通常几美元/百万起 | 输入 $0.042/百万,输出免费 |
| 擅长 | 写作、推理、编程、聊天 | 高频判断:分级、路由、拦截、分类 |
| 不会做 | ——(它什么都能聊两句) | 生成任何新内容 |
为什么快这么多、便宜这么多?因为 LLM 哪怕回答"严重"两个字,内部也要把生成上千个字的架子摆开;而 Jev 的整个任务就是"在 3 个选项里挑 1 个",天然不需要逐字生成,算力省了一个数量级还多。厂商基准给出的数字是部分流程提速约 193.6 倍、降本约 444.6 倍——注意这是官方自报口径,社区实测(用开源演示 Jev Pong 打乒乓球做决策)单次裁决约 227 毫秒,量级可信、倍数别较真。
三、"零幻觉"是真的吗:不编选项,但可能选错
Jev 爆火时"零幻觉"的说法传得很广,这里要掰开说:
- 真的一面:它的输出被限定在你给定的选项集合里,不可能像 LLM 那样编出一个不存在的函数名或虚构一段引用——想幻觉都没素材;
- 要留心的一面:不幻觉 ≠ 不出错。它可能在正确的选项里挑错一个,尤其在训练分布之外的边缘场景。首发期的生产环境准确率,目前还没有独立的第三方评测。
所以合理的心态是:Jev 把"答案跑偏"的口子焊死了,但"判断失误"的口子还开着,关键决策仍要留兜底。
四、对做 Agent 的人意味着什么:给智能体装上小脑
这正是它和本站主题(MCP 与 Agent 工作流)的直接关联。一个 Agent 干活时的决策其实分两类:
- 低频高难:拆解任务、写代码、总结报告——交给 LLM 这个"大脑",慢一点贵一点没关系;
- 高频低难:这一步该调用哪个 MCP 工具?这条风控请求放不放行?游戏里这个状态做什么反应?——这类判断每秒可能发生几十次,用 3 秒 3 美元的 LLM 来做,既慢又烧钱。
Jev 的定位就是接管第二类:研报里"给 Agent 装小脑"的说法就是这个意思。典型用法是置信度分流——Jev 有把握就直接执行(70 毫秒),给出的概率太低就升级转给 LLM 细想。高频任务的单位成本因此可能掉两个数量级,这会让"每个动作都调一次大模型"的现有 Agent 架构显得奢侈。
五、最新羊毛:1.2 亿 Token 限时免费
截至本文发布(9 月 22 日),Jev 的接入方式:
- 官方控制台:console.typesafe.ai 注册即送 5 美元额度,按 $0.042/百万输入的定价,约合 1.2 亿 Token;
- OpenRouter 等平台已可直接调用——如果你本来就在用 OpenRouter 的
:free模型做批量小活(我们《每天签到领 AI 积分》一文提过),现在可以把"高频判断"这类任务迁过去试试成本差; - 模型权重未开源;社区衍生项目 NanoJev、Jev Pong 已公开代码和数据集,想本地研究机制的可以从这两个入手。
小结
Jev 不是"更强的 LLM",而是另一种物种:LLM 靠生成文字来思考和交流,Jev 放弃了文字,只留下判断。用一句话跟朋友解释它们的区别——你让 ChatGPT 写一份事故报告,它行;你要一个每 70 毫秒对告警定级一次的守夜人,ChatGPT 又慢又贵,Jev 才是那个不睡觉也不说话、只举手牌的值班员。专用决策模型会不会像 2024 年的小模型那样改变成本结构,一个月内就会见分晓——反正先领 1.2 亿 Token 试试不要钱。
本文由 AgentHub 首发,myagenthub.cn —— MCP Servers 与 Agent Skills 资源库。 阅读原文:myagenthub.cn/blog/jev-vs… 更多垂类 MCP 选型与安装教程:MCP 工具库 · 安装配置教程 · 场景专区