20260706:新增一些文章

This commit is contained in:
2026-07-06 10:14:02 +08:00
parent 6021dea160
commit 24b006225b
194 changed files with 8512 additions and 91 deletions

View File

@@ -0,0 +1,66 @@
---
title: "Review: Mapping Networks"
created: 2026-06-25
updated: 2026-06-25
type: review
paper: "[[sen-mapping-networks]]"
---
# Review: Mapping Networks — 2026-06-25
## 📌 基本信息
- **论文**: Mapping Networks
- **作者**: Lord Sen, Shyamapada Mukherjee (NIT Rourkela)
- **arXiv**: 2602.19134
- **领域**: cs.CV / 参数高效深度学习
- **添加时间**: 2026-06-25
- **核心贡献**: 将参数空间流形假设形式化为可证明定理,构建隐向量驱动参数生成的元架构
## 🎯 核心概念
1. **[[weight-manifold-hypothesis|Weight-Manifold Hypothesis]]** — 神经网络训练后参数位于低维光滑流形上dim(M_θ) ≪ P
2. **[[mapping-theorem|Mapping Theorem]]** — 存在 C² 映射 g: R^d → R^P使 g(z*) 在损失上 ε-逼近 θ*
3. **[[mapping-loss|Mapping Loss]]** — 四组件联合优化Task + Stability + Smoothness + Alignment各 λ 可训练
4. **[[solvability-theorem|Solvability Theorem]]** — 加性调制 + 正交初始化确实满足 Mapping Theorem
5. **[[weight-modulation|Weight Modulation]]** — w_ij ← w_ij + α·z_i隐向量仿射调制固定映射权重
## 🔗 概念网络
### 核心连接
```
weight-manifold-hypothesis ←→ mapping-theorem ←→ solvability-theorem
↓ ↓ ↓
manifold-hypothesis mapping-loss weight-modulation
↓ ↓ ↓
intrinsic-dimension lipschitz-continuity layer-wise-training
↓ ↓
loss-landscape parameter-efficient-training
```
### 扩展网络
- 连接了 4 个已有领域的 umbrella 概念:[[hypernetworks|HyperNetworks]]、[[manifold-hypothesis|流形假设]]、[[lottery-ticket-hypothesis|彩票假说]]、[[low-rank-decomposition|低秩分解]]
- 创建了 13 个概念页,其中 4 个是跨领域伞概念、9 个是论文专属深层概念
- 论文到概念的交叉引用密集:主页链接到 11 个概念
### 网络位置
Mapping Networks 处于参数高效训练 × 流形学习 × 元学习的**交叉点**。与 [[hypernetworks]] 共享"生成权重"范式但更激进(目标网络零训练),与 [[low-rank-decomposition]] 正交可组合。
## 📚 Wiki 集成
| 指标 | 数值 |
|------|------|
| 新增页面 | 15 个1 raw + 1 paper + 13 concepts |
| 新增 Review | 1 个 |
| 概念中交叉链接 | 平均 4.5 个/页 |
| 总增量 | +16 页 |
## 💡 关键洞察
1. **从流形假设到可证明定理**这篇论文的独特价值在于将参数空间流形存在性的经验观察PCA/t-SNE、ID 研究)**形式化为可证明定理**,并构建了满足定理的实用架构。这是流形学习在参数空间的理论收束。
2. **固定权重优于可训练权重的反直觉发现**消融实验Table 7揭示了一个深刻的设计原则 — 正交初始化 + 隐向量调制的组合,优于全可训练映射权重。全训练反而增加过拟合。这说明**结构约束本身是一种比自由参数更强力的正则化**。
3. **理论指导架构设计**Mapping Loss 的四个组件 — 分别对应定理的 Lipschitz 连续性、C² 可微性、以及隐空间-权重对齐 — 是"定理驱动设计"的典范。每个损失项都有明确的解析对应,而非启发式添加。
4. **500× 参数效率的时代将至?**99.5% 的参数量压缩而性能不降甚至超出暗示当前深度学习可能存在极其严重的参数冗余。Mapping Networks 提供了一条有理论保证的压缩路径,而不只是经验技巧(剪枝/量化)。