1.2 KiB
1.2 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| Ramsey Context Template(拉姆齐上下文模板) | 2026-05-11 | 2026-05-11 | concept |
|
|
Ramsey Context Template(拉姆齐上下文模板)
定义
拉姆齐上下文模板是系统后台异步维护的蓝色团模板库,存储历史上频繁出现且效果良好的兼容上下文组合。这些模板天然是稳定前缀,直接提升 cache-hit-ratio。
工作流程
- 后台构建:异步追踪历史上成功的蓝色团,存入模板库
- 在线匹配:新请求到达时,用向量相似度或关键词匹配寻找最接近模板
- 模板复用:匹配度超阈值 → 直接复用模板作为上下文骨架
- 动态更新:使用统计上报,模板库持续进化
与 Prompt Caching 的协同
- 模板复用的前缀一致性 → prefix-matching 命中
- 与 stub-pattern 异曲同工:通过固定结构保证缓存稳定性
- KV cache 命中率实测可达 80%+