43 lines
1.3 KiB
Markdown
43 lines
1.3 KiB
Markdown
---
|
||
title: "数据回放 (Data Replay)"
|
||
created: 2026-05-21
|
||
type: concept
|
||
tags: ["continual-learning", "knowledge-retention", "catastrophic-forgetting"]
|
||
sources: ["[[when-large-multimodal-models-confront-evolving-knowledge]]"]
|
||
---
|
||
|
||
# 数据回放 (Data Replay)
|
||
|
||
## 定义
|
||
|
||
数据回放是缓解[[capability-degradation|能力退化]]的一种**直接排练策略**，通过将**旧预训练数据**与新注入数据混合进行微调，强制模型"复习旧知"。
|
||
|
||
## 实现
|
||
|
||
在 MMEVOKE 论文中：
|
||
- Replay + Full-FT：随机抽样 10%（MMEVOKE 数据量大小）的旧预训练数据，与新注入数据混合，使用 Full-FT
|
||
- Replay + LoRA：同上，使用 LoRA 策略
|
||
|
||
## 效果（LLaVA-v1.5）
|
||
|
||
- Replay + Full-FT：缓解退化，**排名第 3**
|
||
- Replay + LoRA：**排名第 1**，在 MMMU 和 MathVision 上超过 Vanilla 分别 +1.75% 和 +2.20%
|
||
|
||
## 机制
|
||
|
||
通过重新暴露于旧数据，**重新激活旧知识网络**，防止新知识覆盖已有参数。
|
||
|
||
## 与 MoELoRA 的比较
|
||
|
||
| 策略 | Replay | MoELoRA |
|
||
|------|--------|---------|
|
||
| 机制 | 直接排练旧数据 | 结构性隔离新知识 |
|
||
| 优势 | 效果最佳 | 无需存储旧数据 |
|
||
| 劣势 | 需要旧数据存储 | 需修改模型架构 |
|
||
|
||
## 参见
|
||
|
||
- [[moe-lora|MoELoRA]]
|
||
- [[knowledge-retention|知识保留]]
|
||
- [[continual-learning|持续学习]]
|