7 月 9 日 GPT-5.6 上线之后,用 Codex / Work 的人应该有感觉:要么排队,要么突然又能跑了。OpenAI 自己说,流量大概到了历史峰值的 2 倍——不是多一个新模型那么简单,是写代码、长对话、后台挂着跑,挤在同一条推理池里。

7 月 13 日,Codex 负责人 Tibo Sottiaux 连发更新,把 Banked Reset(存额度)从桌面扩到 Web、手机;7 月 14 日计划给约 700 万 Work / Codex 活跃用户发一次。同期还有:推理侧优化大约 +10% 可用量;Plus / Business / Pro 的 5 小时上限暂时取消(啥时候恢复没说);Sol 先留在各档付费里。

Anthropic 把 Fable 5 免费又延到 7 月 19 日。两家现在抢的不只是谁 benchmark 高、谁更便宜——是高峰你会不会卡死。

我看完这几条,脑子里转的不是「又发福利了」,而是:卡不够,OpenAI 没先喊加卡,先让你自己选什么时候把额度跑满。Token 单价未必是主角,峰值窗口才是。


算力不够,就这三招

厂商历来就三招:加卡、限流、让用户自己错峰。OpenAI 这次把第三招做成产品了。

手段 你感受到啥 厂商在干啥 机房那边
加卡 排队短了 砸钱买物理算力 峰值更高,机柜热尖峰更尖,扩容按月算
限流 高峰卡顿、反复 Retry 先保底层不崩 峰值被压住,体验差,用户可能跑
存额度 自己挑时间「满血重置」 把重置机会当库存发 高峰散开,池子利用率好看些,不一定马上加卡

「存额度」不是多送你 Token。是你自己决定哪一刻把这一周期的额度吃满——同一分钟里挤爆的人少了。

但有一件事它解决不了:Agent、编码任务占 GPU 的时间变长了,平均负载是在涨的。7/1 写过 Agent 跑一整夜那类负载——尖峰能挪,平线挪不走。


为啥 GPT-5.6 一上,先动额度?

以前聊天,问一句等一句。现在是一轮改代码改十几版、上下文挂着不撤,5 小时上限对重度用户就是墙——官方暂时取消,说明他们也知道:负载不是脉冲了。

加卡呢?下单到上架按月,流量按天涨。产品侧能马上改的,只有怎么分池子。硬限流用户骂;存额度是折中——把「重置」做成能发、能囤的东西。

Anthropic 连延免费,抢的是同一批人:别在高峰把我逼走。企业采购如果只比 30 的单价,容易漏掉排队、SLA、能不能开专属池这些更贵的部分。


跟机房啥关系?

云厂削的是同一分钟里的并发尖峰。Agent 7×24 常开拉出来的平均热,产品削不掉。

用公有云,用户分散去点重置,推理池利用率可能更好看,不必立刻 1:1 加卡。自己建池、专有云,要是还按「每人每天问多少句」估卡,编码和 Agent 一上来,CDU、一次侧照样像平线——尖峰被挪开了,平均还在涨。

混部项目里,甲方最近爱问的已经不是「峰值多少 kW」,而是推理区常开占多少、CDU 按峰值还是按平均留。我们冷泉能控跑现场也是这条——云端可以卖「存额度」这种弹性,机房只能按负载形状留冗余,Token 账单看不出来。


买推理算力,别只盯单价

合同里写清楚:买的是 Token,还是并发 / 占卡时长?Sol 打 Fable 半价的故事听过很多,高峰排队加 Retry 叠上去,账单照样难看。峰值并发、队列 SLA、能不能私有化,该单列就单列。

Work / Codex 写代码写到半夜,已经是生产负载了,不是「员工随便玩玩」。走公网 API 还是内网池,IT 得和运维对齐——后者牵扯分区、留痕、外联,和 Nadella 说的敏感数据进模型,是一根线。

自建更直白:没有存额度这种中间层,就加卡、限流、排队三选一。别按「每人 100 问」买卡,按长任务占卡多久 × 同时几路估。


收束

今天约 700 万人拿到存额度,背后是 GPT-5.6 太火、加卡来不及——先卖弹性。

云厂卖的是什么时候能跑满;机房得按能不能扛平线留余量。两件事别混成一个 KPI。

Banked Reset 白话讲,就是把一次额度重置存起来,你自己挑时间触发;700 万是 Tibo 帖里 Work / Codex 活跃用户的量级,细则以官方为准。5 小时上限是暂时取消,别写死永久。

你们公司买推理,合同里写的是 Token 还是占卡?留言说一声——好奇下现在还有几家只按 Token 估。


FAQ:

存额度到底是什么?
就是把一次「额度重置」存起来,你自己挑时间手动触发——当前周期的限制重新算一遍。像高峰自选窗口满血,不是永久加量。

700 万用户,人人有吗?
按 Tibo 帖,面向 Work / Codex 活跃用户大约 700 万这个量级。具体账户规则看官方说明,发文前建议当日再核一遍有没有全量。

5 小时上限取消,会一直吗?
官方说的是暂时取消,恢复时间没公布。写稿、发文都按临时政策理解,别写死「永久取消」。

跟液冷、机房直接关系大吗?
直接关系不大,间接关系不小:峰值 2×、Agent 常开,推理集群会更尖、也更平。存额度替不了 CDU,但采购得按负载形状估,不能只看 Token 账单。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐