提示缓存

缓存稳定且重复的长上下文，降低延迟和输入成本。

适合缓存的内容

• 长期不变的系统指令
• 大型知识库前缀或产品手册
• 重复使用的工具定义
• 多轮任务中的稳定背景信息

设计建议

把稳定内容放在提示词前部，把用户变化内容放在后部。缓存能力和计费方式依模型与协议而异，请以控制台模型说明为准。