GPT5.6读取缓存也收费？用户吐槽Token消耗快

背景

随着大语言模型（LLM）商业化服务的普及，按 token 计费已成为主流定价模式。OpenAI 的 GPT 系列（如 GPT-4、GPT-4 Turbo 等）均根据输入和输出的 token 数量收费，且付费用户（如 ChatGPT Plus、API 用户）会面临实时消耗。近期在 LINUX DO 社区中，有用户反映在使用 GPT-5.6（可能为笔误或内部代号，暂时沿用原文）时，发现 token 消耗异常迅速——仅一个提示词就花费了 1.3 美元。该用户进一步指出，该提示词并非全新输入，而是“从上次中断的地方继续”，即利用了对话历史缓存（上下文窗口）来恢复之前的对话。这一现象引发了关于“读取缓存是否应重复计费”的讨论。

核心内容

据 LINUX DO 用户发帖，该用户在使用 GPT-5.6 服务时，注意到 token 消耗速度远高于预期。经过查询，发现一个提示词（即用户输入的一条消息）被计费 1.3 美元。用户分析认为，该提示词实际上是从之前中断的对话中“继续”得出的——也就是说，系统在后台读取了对话历史缓存（包括之前已付费的 token），将其作为上下文的一部分再次计入当前请求的 token 数，导致重复计费。用户对此感到不满，质疑道：“读一下缓存也要收这么多钱啊？” 帖子共有 2 位参与者，讨论了相关情况。原文并未提供更多技术细节或官方解释。

关键要点

• 重复计费问题：对话缓存（历史上下文）中的 token 在首次输入时已被计费，但在后续请求中作为上下文再次被读取时，可能被系统重新计入消耗，导致用户为同一段内容付出两次费用。
• 异常高昂的单次成本：一个提示词消耗 1.3 美元，远高于普通 GPT 使用场景（通常一个长提示词的 token 费在几美分到几十美分）。暗示上下文缓存可能长达数千 token，且计费模型可能包含额外的“缓存读取”成本。
• 用户感知与透明度缺失：用户并非主动选择“读取缓存”，而是正常的对话恢复操作；计费明细对缓存 token 的收费规则不够透明，导致用户产生“被多收费”的质疑。
• 文档或政策存在模糊地带：OpenAI 等平台虽标明基于 token 计费，但关于“从缓存读取的 token 是否重复计费”并未在所有文档中清晰解释，容易引发用户误解和投诉。
• 社区讨论局限于个案：原帖仅两人参与，未呈现多角度技术验证或官方回应，因此该问题是否普遍存在尚待确认。

意义与影响

1. 对 AI 服务定价透明度的挑战：该事件暴露了当前 token 计费模式的一个盲区——上下文缓存被视为“新输入”而非“已付费资产”。若服务商不明确区分缓存读取与全新输入，用户可能因对话恢复而意外承担高额费用，损害信任。
2. 推动用户行为改变：用户可能会更谨慎地启动新对话或手动清理历史，以避免被“缓存税”侵蚀预算。同时，社区可能呼吁平台提供“缓存使用次数”的可视化或限制选项。
3. 服务商需重新审视计费策略：如果缓存读取确实被重复计费，服务商需在公平性和商业利益之间权衡。一个可能的优化方向是：对同一会话中已计费的上下文 token 提供折扣或免计费（类似 AWS 的保留实例），或至少清晰标注哪些 token 属于缓存。
4. 长期影响产业发展：随着长上下文模型（如 128K、1M token 窗口）普及，缓存复用将成为常态。若不解决重复计费问题，企业级用户的成本将不可控，可能倒逼出新的定价模型（如按会话固定费用+token 增量费用，或缓存 token 按比例折扣）。
5. 对 GPT-5.6 的猜测：虽然“GPT-5.6”并非 OpenAI 官方发布版本（截至 2025 年 5 月，最新公开型号为 GPT-4o 等），但该帖子可能反映了早期测试用户对未公开模型的反馈，或作者对版本号的误写。无论如何，问题本身对任何基于 token 计费的大模型服务都具有普遍警示意义。