GLOSSARY
提示词缓存
复用长系统提示词已经算过的前缀，让下一次调用不必付满输入 token 账单。
50 页系统提示加一行用户问题，若提供方不缓存前缀，每次仍按 50 页计费。提示词缓存把 KV 状态（或其哈希）存几分钟，同样前文的后续回合更便宜，也常常更快。
Anthropic、OpenAI 和若干网关现在把它做成显式功能；Helicone 这类代理则在 HTTP 层缓存。陷阱是缓存局部性：提示词开头改一个 token 就会打爆前缀。把稳定指令放前面、易变用户文本放后面，否则你会付全价并纳闷缓存为何从不命中。