如题。
这真的没在开玩笑。
这也是最近不少公司,在大力、甚至全面拥抱 AI 之后所发出的切实吐槽。
一个月前,Uber 的 CTO 曾对外透露,公司自部署 CC 以来,内部有超 9 成的工程师在高频率使用。
但是,AI 使用率惊人的同时,产出的费用账单那也是相当的惊人。
据 CTO 透露,Uber 原本准备覆盖 2026 年一整年的 AI 费用预算,仅在今年的前 4 个月,就已经被烧得个精光光了。
平均下来,单个员工的 AI 月均使用费用高达 500~2000 刀。
无独有偶,英伟达深度学习部门 VP 最近在接受采访时也透露,对于他们团队来说,如今的算力成本已经远远超过其员工成本了。
不是……咱就是说……这可是从一家专门卖算力的硬件公司的高管嘴里说出来的话。
不仅如此,我在逛论坛时也看到了不少团队 token 账单爆表、AI 预算失控、ROI 入不敷出的案例。
乍一听,这事是不是有点反常识?
要知道,在过去的几十年里软件行业的边际成本近趋于零,我们早已习惯了数字产品越用越便宜的逻辑和直觉。
但是来到 AI 时代,事情似乎并不是这样了,算力消耗呈现出了截然不同的经济特征,它更像是一种高消耗的工业科技原料,而非无限复制的代码副本。
为什么会这样?
有人说 token 本来就贵,尤其顶尖模型和工具的成本更高,没办法的事情,而且现代 AI 的工作方式也决定了其极高的 token 消耗量。
因为随着 Agent 的普及,AI 早已不再是一问一答的简单工具,而是变成了能自主拆解任务,循环深度推理,反复调用工具,并且能持续自我纠错的动态系统了,这种无限循环的工作模式使 token 消耗呈指数级增长,远超了普通认知下的线性预估。
而落实到具体使用层面,我倒是觉得首先要搞明白的一个事情就是,你得分辨出你的 token 到底烧在哪了,是烧在了低效的刷量和冗余的人力叠加上,还是烧在了真正能重塑价值的刀刃上。
这不禁让我想起来,前段时间的一个很搞笑的圈内新闻。
就是某些企业为了在 AI 浪潮中能快速急切地证明自身的转型决心,居然简单粗暴地将 token 消耗量作为衡量员工拥抱 AI 程度的 KPI 指标,与之而来,也催生了所谓的 Tokenmaxxing 风潮……
搞什么内部 AI token 使用排行榜、将 token 消耗纳入绩效考核、当成生产力指标、甚至是员工的身份标签,额……恕咱直言,这是不是多少有点草率了。
这就和当年那种有公司将员工代码行数或代码提交量作为 KPI 考核指标的笑谈行为又有何异?
像 Uber 的 CTO 在观察他们团队员工使用 AI 的时候,发现了一个现象,那就是同一个人用同一个工具同一天的 token 消耗差异居然能高达上十倍。
包括 Uber 的运营主管也表示,其内部的 token 消耗量与实际产品功能价值输出之间似乎并没有直接的相关性。
这些都说明了啥问题,相信其内部比谁应该都清楚。
因此这也就暴露出来了一个问题。
许多公司或团队目前虽然配了最先进的大模型,但是在工作流方式和管理层面却依然沿用着老旧的思维和模式,这种缺乏精准定位的粗放投入,其本质其实也是一种技术债的体现,用昂贵的算力成本去弥盖既存的兼容问题。
所以如果从这个角度看 token 比人贵的现象,与其说技术的问题,倒不如说是 AI 转型过程中的阵痛,总有一天,它会倒逼企业从单纯上工具转向真正改流程。
烧 token 谁不会,谁能烧更少的 token 来完成更多有价值的任务,把 token 烧在刀刃上,可能是未来许多公司和团队所需要考虑的事情。
只有当人机协作范式发生根本改变,让每一单算力都精准用到不可替代的价值创造环节时,估计这笔账才能真正算得过来。
而现阶段,很多公司可能都很难做到。
注:本文在GitHub开源仓库「编程之路」 github.com/rd2coding/R… 中已经收录,里面有我整理的6大编程方向(岗位)的自学路线+知识点大梳理、面试考点、我的简历、几本硬核pdf笔记,以及程序员生活和感悟,欢迎star。