OpenAI Developers

查看哪些内容被重用以及哪些内容阻止了缓存命中。 在 https://t.co/9eDbe9PbGF 上的新提示缓存仪表板中跟踪缓存命中率。 使用诊断 API 来识别阻止重用的更改并估计有多少令牌受到影响。 https://t.co/M16n4rG1Cl