--- title: "Slow/Meta Update (慢/元更新)" created: 2026-05-29 updated: 2026-05-29 type: concept tags: ["optimization", "momentum", "meta-learning", "skill"] sources: ["https://arxiv.org/abs/2605.23904"] --- # Slow/Meta Update (慢/元更新) **Slow/Meta Update** 是 [[skillopt|SkillOpt]] 中的长周期学习机制:在 epoch 结束时,optimizer 比较前后 epoch 的 skill 表现,提取跨 batch 的持久规律写入 protected slow-update field。它是深度学习中 **momentum** 在文本空间的对应。 ## 工作方式 ``` End of epoch: 比较上一个 epoch 的 skill vs 当前 skill → 分类:improvements, regressions, persistent failures, stable successes → Optimizer 写入 longitudinal guidance block → 仍经过 [[held-out-validation-gate|Validation Gate]] ``` ## 双层更新架构 | 更新层 | 频率 | 学习内容 | 类似 | |--------|------|----------|------| | Fast (step) | 每步 | 当前 batch 的具体模式 | 梯度步 | | **Slow (epoch)** | 每 epoch | 跨 batch 的持久规律 | **Momentum** | ## Meta Skill Optimizer 还维护一个 **meta skill**(仅 optimizer 侧使用,不随部署 skill 输出): - 总结哪些编辑模式曾有效 - 记录哪些被拒绝 - 追踪哪些失败跨 epoch 持续存在 这个元技能 prepend 到未来的 optimizer prompt 中,但不增加部署 skill 的体积。 ## 为什么需要 快更新容易对单个 batch 的噪声过拟合。慢更新提供**平滑的、跨 epoch 的方向信号**——与 momentum 防止 SGD 在单个 batch 上震荡的原理一致。 ## 相关 - [[text-space-optimizer]] — 文本空间优化范式 - [[skillopt]] — 使用 slow/meta update 的方法 - [[yang-skillopt-2026]] — 原始论文