1.2 KiB
1.2 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| Cache Invalidation（缓存失效） | 2026-05-11 | 2026-05-11 | concept |
|
|
Cache Invalidation（缓存失效）
定义
Cache Invalidation 指 prompt-caching 中缓存前缀因字节级不匹配而导致整个缓存树失效的现象。由于 prefix-matching 的高严格性，任何对前缀的微小更改都会触发"雪崩式"失效。
常见触发源
- System Prompt 动态变量：日期、状态摘要、不确定的路径名
- 工具定义动态调整：按需加载/移除工具（→ 使用 stub-pattern 规避）
- System Message 滥用：频繁更新 System Message 切换状态（→ 使用消息化状态管理）
- 压缩操作不当：独立 API 调用使用不同的 System Prompt
失效点识别
系统应记录导致失效的"第一现场"——通过日志追踪失效点的字节偏移，快速定位代码逻辑缺陷。