20260601

concepts/active-cache-warmup.md

@@ -0,0 +1,39 @@
+---
+title: "Active Cache Warm-up (主动缓存预热)"
+created: 2026-05-29
+updated: 2026-05-29
+type: concept
+tags: ["distributed-systems", "caching", "optimization", "LLM"]
+sources: ["https://mp.weixin.qq.com/s/MUWV7eug14bktUMlqsxfQw"]
+---
+
+# Active Cache Warm-up (主动缓存预热)
+
+**Active Cache Warm-up** 是 [[distributed-prompt-caching]] 中的预测性机制：在需要跨节点协作之前，通过提前向目标节点发送特殊的预热请求，使其 LLM 前缀缓存提前进入 "HOT" 状态。核心实现是 [[shadow-calling]]。
+
+## 预热流水线三步法
+
+### 第一步：前缀拓扑合成
+从主控节点拉取因子链的最新上下文树，过滤掉尾部高频变动的实时行情，提取静态系统提示词、工具集和历史评估纪要（占体积 90%+），拼接成预备 Token 流。
+
+### 第二步：异步影子调用（[[shadow-calling]]）
+向目标节点发送特殊的影子请求：
+- `max_tokens=1`：只需消化前缀，不需生成
+- 显式启用 `cache_control`：强制打缓存标记
+- 零输出下游拦截：返回结果直接丢弃
+
+### 第三步：状态置标与就绪通知
+影子调用成功后，Redis 中 status 改为 "HOT"。真实信号爆发时，该节点的 API 响应延迟降至百毫秒级。
+
+## 预测触发机制
+
+在量化系统中，预热由可预测事件触发：
+- 盘面时间逼近风险控制窗口
+- 核心标的波动率超过阈值
+- 高频队列检测到临界信号
+
+## 相关
+
+- [[shadow-calling]] — 预热的核心调用机制
+- [[distributed-prompt-caching]] — 分布式缓存体系
+- [[cache-cold-start]] — 预热要解决的核心问题