基于 Prompt Caching 的高效长对话设计

摘要

本文探讨了在长对话和多轮交互的 AI Agent 应用中，如何通过优化 Prompt Caching 机制来显著降低成本、提升响应速度。文章以 Claude Code 的实践为基础，总结了五大黄金法则：按稳定性排序 prompt 结构、通过消息传递变化、保持模型与工具集稳定、延迟加载工具以及使用缓存安全的分叉进行对话压缩。其核心哲学是将'最大化缓存命中率'作为应用架构的首要约束，而非事后优化。

核心要点

• 高效缓存机制是长对话和多轮交互Agent应用的生存基石。
• 核心原理是前缀匹配缓存：API会缓存prompt的每一个前缀，后续请求复用相同前缀可跳过重新计算。
• 五大黄金法则包括：按稳定性从高到低排序prompt结构；通过消息传递变化而非修改稳定prompt；会话周期内保持模型和工具集稳定；延迟加载工具（使用存根）；压缩对话时使用缓存安全的分叉。
• 必须监控缓存命中率指标。
• 正确的做法是从项目第一天起就将'最大化缓存命中率'作为核心架构约束，从事后优化转变为事前设计。

关键实体

• Claude Code (product)

- Prompt Caching (concept) ⚠️建议建页

- 前缀匹配 (concept) ⚠️建议建页

• Agent 应用 (concept)

- 缓存命中率 (concept) ⚠️建议建页

- 缓存安全的分叉 (concept) ⚠️建议建页

相关内容

• [[wiki-v3与karpathy方案对比分析.md]]
• [[Andrej Karpathy 的个人知识库方案]]
• [[个人知识库_v1v2_改造方案.md]]
• [[开发规范备忘docx处理与argparse安全访问.md]]
• [[2026-04-02_发布系统升级与视频流程优化工作日志.md]]

建议新建页面

• [[前缀匹配缓存]] — 作为Prompt Caching的核心技术原理，是理解本文所有优化策略的根基，值得独立阐述。
• [[缓存命中率]] — 这是衡量缓存优化效果的核心指标，与成本和用户体验直接相关，是架构设计的关键约束。
• [[缓存安全的分叉]] — 这是一种特定的对话压缩技术，能近乎零成本地复用缓存，对长对话Agent应用至关重要。

---

> 编译时间: 2026-06-07 06:20 | 来源: `AI技术/prompt-caching-design-principles.md`