21 lines
743 B
Markdown
21 lines
743 B
Markdown
# Multi-Query Attention (MQA)
|
||
|
||
**多查询注意力**，由 Shazeer 2019 年提出，所有 Q 头共享单个 KV 头。
|
||
|
||
## 定义
|
||
|
||
MQA 是 [[multi-head-attention|MHA]] 的最激进简化：保留多个 Q 头以维持表达能力，但所有头共享同一对 K 和 V。KV 缓存缩减为 MHA 的 1/h。
|
||
|
||
## 质量权衡
|
||
|
||
- **优势**: KV 缓存极低，推理内存大幅减少
|
||
- **劣势**: 表达能力受损，训练不稳定，需要额外优化
|
||
- **应用**: PaLM 采用 MQA，但后续模型多转向 [[grouped-query-attention|GQA]]
|
||
|
||
## 相关概念
|
||
|
||
- [[multi-head-attention]] — MHA 基线
|
||
- [[grouped-query-attention]] — GQA 折中方案
|
||
- [[kv-cache-bottleneck]] — 缓存瓶颈
|
||
- [[llm-attention-survey-2026]] — 综述参考
|