Grok Free号在CPA反代中无缓存问题求助

背景

在 AI 模型服务领域，提示缓存（prompt cache）是一项关键优化技术，能减少重复请求的计算开销和响应延迟。对于通过第三方反向代理（如 CPA）调用 Grok 模型的用户而言，缓存是否生效直接影响使用体验和 API 成本。近期在 Linux DO 社区，有用户反馈在使用 Grok Free 号（通过 xAI OAuth 账号免费获取的额度）进行 CPA 反代时，发现缓存始终无法命中，即使两次请求完全相同且固定在同一个账号下。该问题涉及三种常见协议（OpenAI 兼容协议、Claude 兼容协议以及 xAI 原生 Responses 协议），引发了社区对 Free 号池缓存机制和 CPA 配置细节的讨论。

核心内容

用户通过 CPA 直连测试了 Grok Free 号，日志确认每次请求都固定到同一个 xAI OAuth 账号（即不存在号池切换账号的情况）。测试覆盖了三种协议：

1. /v1/responses（xAI 原生协议）：两次请求完全相同，拥有相同的 prompt_cache_key，输入约 2845 tokens。第二次请求返回的 cached_tokens 值为 0，说明缓存未命中。

2. /v1/chat/completions（强制 OpenAI 协议）：两次请求相同，固定 user 参数，约 13885 prompt tokens。第二次请求的 cached_tokens 同样为 0。

3. /v1/messages（Claude 协议）：两次请求相同，固定 metadata.user_id，约 10285 input tokens。第二次请求的响应中，既没有 cache_read_input_tokens 字段，也没有 cache_creation_input_tokens 字段，表明缓存相关数据完全缺失。

基于以上现象，用户提出了两个核心疑问：

• Free xAI OAuth 号池本身是否不支持 prompt cache，或者即使支持也不回传缓存相关的字段？
• 还是 CPA 对 Grok 的缓存字段、会话标识或请求格式还需要额外配置？

该帖子共有 3 位参与者（包括发帖人），目前尚未有明确解决方案。

关键要点

• 缓存全面失效：三种协议（原生、OpenAI 兼容、Claude 兼容）在第二次完全相同的请求中，缓存相关指标均为 0 或缺失，表明缓存未被利用。
• 账号固定：测试已确认请求固定到同一个 xAI OAuth 账号，排除了因号池切换导致缓存失效的可能性。
• 输入长度正常：各协议的输入 token 数量在合理范围内（数千到一万多），并非因输入过短而导致缓存不适用。
• 可能原因推测：问题可能出在 Free 号池的账号级别限制（例如免费账号不提供缓存服务），或 CPA 反代在转发缓存请求时需要额外传递特定会话标识或缓存控制参数。
• 社区反馈有限：帖子仅有 3 条回复，尚未有明确的技术结论或解决方案。

意义与影响

该问题揭示了 Grok Free 号在第三方反代使用中的潜在局限性：即使绕过了账号切换问题，prompt cache 功能可能仍无法正常工作。对于依赖缓存来降低成本和减少延迟的用户来说，这直接影响了 Grok Free 号的实际可用性。如果 Free 号池本身不支持缓存，则意味着用户需要为重复的 prompt 付出全量计算代价，这与使用付费 API 的体验差距明显。另一方面，如果问题出在 CPA 配置上，那么社区将需要探索如何正确传递缓存相关的请求头、会话 ID 或缓存键，以匹配 xAI 的缓存策略。此案例也提醒开发者，在构建基于第三方反代的 AI 工具时，需要全面测试缓存、长上下文等高级特性，而不应仅关注基本的 API 兼容性。