OpenAI 半夜把 Luna 降价 80%:开发者真正该重算的是 Agent 成功任务成本

111 阅读13分钟

北京时间 7 月 31 日约凌晨 1:17,OpenAI 半夜宣布 GPT-5.6 Luna 大幅降价 80%,Terra 降价 20%。

这个时间来自官方 X 帖的 Snowflake ID 反解,并不是页面直接展示的精确时间。更重要的是,这次并非“OpenAI 全线降价”:Sol 的 Standard API 价格没有变化,ChatGPT 与 Codex 的订阅价格、套餐内 quota budgets 也没有变化。变化的是 Luna、Terra 的 API 单价,以及相关入口中同等用量的 credits 消耗。

所以,如果只把这条消息理解成“以后用 AI 便宜 80%”,大概率会算错账。

对开发者真正有价值的问题是:当低价模型从偶尔调用的工具,变成可以被产品高频调度的基础能力,我们应该怎样重新设计 Agent 路由、Eval、缓存和失败兜底?普通用户最后会不会少付钱,又取决于哪些成本有没有被下游真正传导?

先把降价范围写准

官方给出的 API 列表价均按每 100 万 tokens 计费:

模型项目原价新价变化
Luna输入$1.00$0.20-80%
Luna输出$6.00$1.20-80%
Terra输入$2.50$2.00-20%
Terra输出$15.00$12.00-20%
Sol Standard输入$5.00$5.00不变
Sol Standard输出$30.00$30.00不变

Sol 新增的 Fast mode 是另一项变化:官方称速度最高可到 Standard 的 2.5 倍,价格是 Standard 的 2 倍,模型 intelligence 不变。这是用价格换延迟的服务档位,不是 Sol 标准单价下调。

pic1.png

pic3.png

还有一个容易混淆的产品边界:Terra 与 Luna 不是标准 ChatGPT 对话中的可选模型。官方帮助页把它们放在 Work in ChatGPT、Codex 和 API 等特定入口里,并且不同套餐的可用范围不同。例如,Free、Go 用户能在 Codex 使用 Terra;符合条件的付费用户才能在相关入口选择更多型号。不能把“API 降价”改写成“所有 ChatGPT 用户都降价”。

为什么这次降价值得工程团队认真看

Luna 上线时的输入、输出单价分别是 1和1 和 6。不到一个月,两个数字都变成原来的五分之一。Terra 则统一降到原价的 80%。

这可以放进“大模型价格战”的分析框架,但它不等于竞争者已经在同一天跟进,也不能反推出 OpenAI 的唯一商业动机。能确认的是,OpenAI 正在把自己的价格性能比推向新的区间;由此产生的竞争反应、需求增长与生态变化,仍需后续观察。

若调用结构和其他瓶颈完全不变,同一笔 Luna token 预算的算术上限会变成原来的 5 倍调用量,Terra 则是 1.25 倍。请注意,这是理论上限,不是吞吐承诺,更不是生产预测。实际系统还会受到 rate limits、工具费、检索费、人审、长上下文、重试、质量阈值和延迟预算约束。

真正的变化不是“同一件事便宜做一次”,而是一些过去因为边际成本太高、不值得逐条运行的步骤,现在可能被放进每一次用户操作里:

  • 每次代码修改后都跑一次小型语义检查;

  • 每封工单先做分类、字段抽取和证据整理;

  • 每个 Agent 动作都生成结构化自检结果;

  • 每个候选答案都并行跑一到多个低成本裁判;

  • 在高价模型介入前,先用低价模型完成可验证的准备工作。

这会让 AI 从“按钮触发的昂贵功能”变成“产品流水线中的常驻步骤”。但能否形成价值,取决于这些步骤是否真的提高成功率,而不是只把调用次数放大。

不要只算 token,要算每次成功任务

工程团队最该替换的一条公式是:

每次成功任务成本 = token成本 + 重试 + 工具/检索 + 延迟 + 错误成本

API 降价只直接改变第一项。若低价模型导致更多重试、更多人工复核、更长等待,或者把错误带进后续系统,最终降幅会远小于 80%。

举一个可复算、但不代表真实平均账单的假设:

  • 每次 Luna 尝试使用 5 万输入 tokens、5000 输出 tokens;

  • 单次工具与检索成本为 $0.01;

  • 单次延迟的机会成本按 $0.004 估算;

  • 成功率为 80%,即每个成功任务平均需要 1.25 次尝试;

  • 每个成功任务再计 $0.02 的人工复核与错误准备金。

旧价下,单次 token 成本为:


0.05 × $1 + 0.005 × $6 = $0.080

新价下变为:


0.05 × $0.20 + 0.005 × $1.20 = $0.016

但把重试、工具、延迟和错误成本都计入后:

口径旧价新价
首次 token 成本$0.0800$0.0160
预期重试 token 成本$0.0200$0.0040
工具与检索$0.0125$0.0125
延迟机会成本$0.0050$0.0050
人审与错误准备金$0.0200$0.0200
每次成功任务合计$0.1375$0.0575

这个示例里,token 单价下降 80%,成功任务总成本下降约 58.2%。如果工具、人审或失败代价更高,整体降幅还会更小;如果缓存命中率和一次成功率同时提高,整体收益才可能更接近单价降幅。

因此,财务看板只记录“本月 tokens 花了多少钱”已经不够。至少还要记录任务类型、模型路由、尝试次数、成功判定、工具调用、人工接管和最终交付延迟。

更合理的 Agent 路由:强模型规划,低价模型执行可评测步骤

OpenAI 在官方文章中给出的一个示例搭配是:Sol 负责消除不确定性和制定计划,Luna 负责实现边界清楚的修改、运行测试并评估结果。这是厂商提供的使用建议,不是所有任务的默认最优解,但它给出了一个值得验证的工程假设。

pic2.png

一个可落地的路由器不应该只看“任务难不难”,而应同时看五个维度:

  1. 不确定性:目标、约束或验收标准是否仍然模糊;

  2. 可验证性:结果能否用测试、Schema、编译器或规则快速判定;

  3. 失败半径:错误是否会写生产数据、触发付费或对外发送;

  4. 上下文成本:是否必须把大段历史、代码库或文档送入模型;

  5. 延迟预算:用户是在交互等待,还是允许后台异步处理。

可以把策略写成显式契约,而不是散落在 prompt 里:


type RouteDecision =

  | { model: "sol"; role: "clarify_and_plan"; requireHuman: boolean }

  | { model: "terra"; role: "balanced_execution"; eval: string[] }

  | { model: "luna"; role: "bounded_execution"; eval: string[] };

  


function route(task: Task): RouteDecision {

  if (task.uncertainty === "high" || task.failureRadius === "high") {

    return { model: "sol", role: "clarify_and_plan", requireHuman: true };

  }

  if (task.hasDeterministicEval && task.contextSize <= task.lunaLimit) {

    return { model: "luna", role: "bounded_execution", eval: task.evalIds };

  }

  return { model: "terra", role: "balanced_execution", eval: task.evalIds };

}

重点不是这段伪代码,而是路由决定要能被记录、复盘和回放。某类任务如果连续触发重试或人工接管,就应自动升级模型、缩小执行范围,或者直接退出自动化。

相邻领域也有类似的设计取向。比如这个与本次降价、GPT-5.6 没有项目关系的 LLM 规划、确定性执行与可验证反馈的 Agent 实践,展示了高层意图由 LLM 规划、具体动作由确定性系统执行并留下运行证据的分工。它适合作为运行时设计的延伸案例,而不是本文价格事实的来源。

Eval 才是低价模型能否放量的闸门

价格下降最容易诱发的错误,是“先把所有步骤都换成 Luna,再看看用户会不会投诉”。正确顺序应该是先建立 Eval,再扩大调用量。

建议把 Eval 分成四层:

  • 静态约束:JSON Schema、类型检查、格式和必填字段;

  • 可执行验证:单元测试、编译、SQL dry-run、沙箱执行;

  • 语义评估:事实一致性、任务完成度、风险分类;

  • 业务结果:一次解决率、人工接管率、撤销率和用户反馈。

其中前三层决定“模型输出是否可以继续流转”,第四层决定“这条自动化是否值得长期存在”。不要用模型自己的“我已经完成”作为成功标准。

缓存也应该按结果复用,而不是只盯输入折扣。稳定的系统提示、工具说明和公共上下文适合缓存;用户权限、实时库存、价格和安全策略则必须有清晰的失效条件。若为了追求 cache hit 把过期状态带进执行链,省下的 token 很可能抵不过一次错误操作。

此外,应把升级策略写进 Eval:


通过        → 继续流程

可修复失败  → Luna 定向重试一次

不确定      → 升级 Terra 或 Sol

高风险失败  → 停止执行并转人工

这比“失败就无限重试”更便宜,也更安全。

低价可能强化生态飞轮,也可能增加迁移成本

模型更便宜后,团队可能把更多工具协议、评测数据、缓存策略、审计面板和业务流程围绕同一供应商构建。调用量越大、优化得越深,短期单位成本越有机会下降;但迁移时要重做的路由、Eval、prompt、观测和合规审查也可能更多。

英国竞争与市场管理局在 foundation model 市场技术更新中讨论过一般性的生态风险:既有产品集成、兼容性、互操作性不足和 choice architecture 都可能形成真实或感知上的切换成本。这个研究可用于提醒团队管理依赖,但不能据此指控 OpenAI 已经实施了反竞争锁定。

开发者可以提前做四件事:

  • 用自有任务 Schema 描述输入输出,不把业务对象绑定到某家专有格式;

  • 在路由层维护模型能力表,而不是在业务代码里硬编码型号;

  • Eval 数据留在自己的可导出存储中;

  • 每季度用一组固定任务跑替代模型,记录迁移差异和转换成本。

所谓多供应商能力,不是写一个统一 SDK 就完成了。模型对工具调用、长上下文、拒答、结构化输出和延迟的行为并不等价。真正可迁移的是任务契约、验证方法和可观测数据。

普通人会得到什么:先是更多功能,不一定先是更低账单

API 单价通常只占产品成本的一部分。服务器、检索、第三方工具、客服、合规、销售、支付渠道和利润目标都不会随 token 价格同比下降。因此,普通用户最先感受到的变化可能不是订阅费下调,而是:

  • 原本收费的轻量功能被放进基础套餐;

  • 同一功能允许更高频率使用;

  • 响应前后增加了分类、检查和个性化步骤;

  • 小团队能以更低门槛提供过去只有大公司能做的自动化。

pic3.png

也不能把“更便宜”直接推导成工资、就业或宏观福利一定改善。一项发表于 2025 年《经济学季刊》的研究观察了单一企业的 5172 名客服坐席:AI 辅助使平均每小时解决量提高约 15%,低经验员工收益更大。这说明辅助工具可能提升特定工作流的产出,但研究范围只覆盖一个企业和一种职业,不能外推出全社会工资、总就业或长期福利。

最终是否让利给用户,要看市场竞争和产品策略:供应商可以降价,也可以提高额度、增加能力,或者把节省的成本投入可靠性。不能仅凭 API 价格表判断普通人的下一张账单。

低价也可能放大错误、滥用与用量反弹风险

当边际生成成本下降,合规内容和有害内容都更容易批量生产。NIST 的生成式 AI 风险框架列出了 confabulation、information integrity、隐私、偏见与同质化等风险,描述了虚假或误导信息被规模化生产的可能性,并指出生成式 AI 可能降低进攻性信息安全能力的门槛。

合理的推论是:降价可能放大“数量”,所以风控、速率限制、来源验证和异常检测必须按更高调用量设计。但不能进一步断言这次降价已经造成更多诈骗,也不能假定便宜会自动降低单条输出质量。

能源问题也不能做单向推导。IEA 的 2026 年分析指出,单任务能效改善可以与总需求增长同时发生;reasoning、Agent 和视频等任务的能耗也可能显著高于简单文本调用。因此,这次降价存在用量反弹风险,但没有证据支持“它必然推高总能耗”。总量取决于效率提升、任务结构和新增需求之间的共同作用。

对企业来说,最危险的不是调用量变大,而是观测和权限仍停留在小规模试验阶段。每个 Agent 至少要有:

  • 按用户、任务和工具拆分的成本上限;

  • 写操作前的权限检查与幂等键;

  • 可审计的输入、路由、工具结果和 Eval;

  • 对外发送、付款和生产写入的人工确认;

  • 异常调用量、失败率和内容风险告警;

  • 一键停用某个模型、工具或任务类型的开关。

开发团队接下来应做的七个动作

第一,建立旧价基线。按最近 30 天真实流量统计每类任务的输入、输出、缓存、重试、工具、人审和失败成本。

第二,重算而不是替换。分别估算 Luna、Terra、Sol Standard 和 Sol Fast 的成功任务成本,不用“最便宜模型”代替“最便宜成功路径”。

第三,先挑高可验证任务。格式转换、字段抽取、测试生成、规则解释等更适合先做 Luna 实验;高风险、目标模糊或不可逆任务不要因为降价就自动下放。

第四,固定一组回归 Eval。至少包含正常样本、边界条件、恶意输入、长上下文和工具失败;每次改模型、prompt、缓存或路由都重跑。

第五,给重试设上限。记录失败原因,把“再试一次”与“升级模型”“缩小范围”“转人工”分开。

第六,测成本传导。产品侧同时做额度、响应时间、功能完整度和付费转化实验,观察用户得到的究竟是降价、增量能力,还是更多噪声。

第七,保留退出路线。定期用同一任务集测试替代模型,计算迁移所需的 prompt、工具适配、Eval 重做和数据合规成本。

结论:这不是账单立减,而是调用频率的拐点

OpenAI 半夜宣布 Luna 降价 80%、Terra 降价 20%,最直接的意义不是“所有人立刻少付 80%”,而是低价模型可能从偶尔调用的工具,变成被产品高频调用的基础能力。

真正的红利来自三件事同时成立:任务被拆成可验证步骤,路由能把强模型和低价模型放在合适位置,节省的成本最终以价格、额度或更可靠的功能传导给用户。

真正的风险也来自同一个放大器:用量、生态依赖、错误、滥用和资源消耗可能一起增长。

所以,下一张值得看的表不是 token 单价榜,而是每一类任务的成功率、重试率、人工接管率、总成本和迁移成本。把这些数字测清楚,80% 的降价才会从公告变成可持续的工程收益。