作者｜毕伟豪
编辑｜漠影
智东西 10 月 21 日报道，刚刚，ChatGPT 和 Codex 负责人 Tibo 宣布 OpenAI 模型的 API 服务将提供 12 小时缓存保留服务选项，Codex 和 Work 登录用户缓存将会永久保留。
在发布更新之前，Tibo 还发文表示看到了一些用户的额度消耗速度异常情况，并对大约 40000 个账户进行信用点返还。
不过，12 小时缓存也不是单纯延长保留时间。根据 OpenAI 的 API 文档，选择 12 小时缓存后，缓存写入价格将从未缓存输入 Token 价格的 1.25 倍升至 2.5 倍，而缓存读取价格不变。
永久保留缓存究竟指缓存状态的保留策略、缓存命中后的计费安排，还是面向用户的某种权益，需要结合官方对这项更新的具体说明判断。
不过，从机理上推测，Codex 和 Work 的永久缓存大概率不是真的缓存保留，可能是重新计算缓存时不计费，为用户永久保留缓存并不现实。
OpenAI 官方 API 文档明确指出，12 小时缓存设置规定的是缓存读取计费资格所对应的最短生命周期，并不保证每次请求都能复用已存储的 KV 张量，也不保证降低延迟。
从 API 一侧推断，相比于永久保留缓存，这次更新的永久保留更像是缓存 " 补贴 "，用于降低用户的额度消耗。
不过 OpenAI 这次关于缓存的更新时间也非常微妙，就在昨天，DeepSeek 刚开源了推理框架，其中就包括设计目标高达 3 天的缓存保留，相比于 OpenAI 此前默认的 30 分钟高出太多。
