OpenAI API 推出 12 小时提示词缓存，Codex 和 Work 登录用户的缓存永久保留

PANews 10月21日消息，据 OpenAI Developers，OpenAI API 现在支持 12 小时的提示词缓存（prompt caching）。开发者可以把共享的指令、工具和上下文缓存更长时间，即使请求之间隔了几个小时，也能按较低的缓存输入价格计费。这项功能主要面向持续运行、全天复用上下文的智能体。Tibo（@thsottiaux）随后补充，Codex 和 Work 的登录用户的缓存将永久保留。用户回到旧对话，或者隔几小时再继续时，都能命中缓存，不会产生额外费用。