20260429:一些新东西

concepts/multi-query-attention.md

@@ -0,0 +1,20 @@
+# Multi-Query Attention (MQA)
+
+**多查询注意力**，由 Shazeer 2019 年提出，所有 Q 头共享单个 KV 头。
+
+## 定义
+
+MQA 是 [[multi-head-attention|MHA]] 的最激进简化：保留多个 Q 头以维持表达能力，但所有头共享同一对 K 和 V。KV 缓存缩减为 MHA 的 1/h。
+
+## 质量权衡
+
+- **优势**: KV 缓存极低，推理内存大幅减少
+- **劣势**: 表达能力受损，训练不稳定，需要额外优化
+- **应用**: PaLM 采用 MQA，但后续模型多转向 [[grouped-query-attention|GQA]]
+
+## 相关概念
+
+- [[multi-head-attention]] — MHA 基线
+- [[grouped-query-attention]] — GQA 折中方案
+- [[kv-cache-bottleneck]] — 缓存瓶颈
+- [[llm-attention-survey-2026]] — 综述参考