20260706:新增一些文章

concepts/solvability-theorem.md

@@ -0,0 +1,45 @@
+---
+title: "Solvability Theorem: 加性调制映射网络的可解性"
+created: 2026-06-25
+updated: 2026-06-25
+type: concept
+tags: [theorem, mapping-networks, weight-modulation, gradient-descent]
+sources: ["[[sen-mapping-networks]]"]
+---
+
+# Solvability Theorem (可解性定理)
+
+Solvability Theorem 证明 [[sen-mapping-networks|Mapping Networks]] 的实际架构设计——**加性调制 + 正交初始化**——确实满足 [[mapping-theorem|Mapping Theorem]] 的条件，即实际可解。
+
+## 架构约束
+
+- 映射网络权重 ω_0：正交初始化（固定，不可训练）
+- 隐向量 z ∈ R^d：可训练
+- 调制方式：ω(z) = ω_0 + M(z)，其中 M(z) = Bz（仿射调制）
+- 映射网络：g_ω(z) := g_{ω(z)}(z) ∈ R^P
+
+## 定理两部分
+
+### Part 1: 局部可解性
+
+存在 ε > 0，对残差 r_θ := θ* − g_{ω_0}(z_0)，若 ‖r_θ‖ ≤ ε，则 ∃ Δz 和常数 C > 0，使得：
+
+$$\|\Delta z\| = O(\|r_\theta\|), \quad \|g_\omega(z_0 + \Delta z) - \theta^*\| \leq C\|r_\theta\|^2$$
+
+因此 |L(g_ω(z_0 + Δz)) − L(θ*)| ≤ L_ℓ L_θ C‖r_θ‖²。
+
+### Part 2: 全局延拓
+
+对任意 ε > 0，∃ 常数 C_2, L_θ, L_ℓ, r > 0 和 z* ∈ R^d（可通过梯度优化获得），满足 ‖g_ω(z*) − θ*‖ ≤ δ 且 |L(g_ω(z*)) − L(θ*)| ≤ ε。
+
+隐向量位移有界：‖Δz*‖ ≤ √(δ/C_2)。
+
+## 关键洞察
+
+该定理意味着：即使映射权重 ω 是**固定的**（正交初始化），仅通过调整低维隐向量 z，就足以逼近任意目标参数。这是 Mapping Networks 能实现 200-500× 参数缩减的理论基础。
+
+## 参考
+
+- [[mapping-theorem]]
+- [[weight-modulation]]
+- Sen & Mukherjee, "Mapping Networks", arXiv:2602.19134, Theorem 2