1.7 KiB
1.7 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| Flip Bifurcation (翻转分岔) | 2026-06-23 | 2026-06-23 | concept |
|
|
Flip Bifurcation (翻转分岔)
Flip bifurcation（翻转分岔/倍周期分岔）是离散动力系统中当 Jacobian 的临界特征值 λ = -1 时发生的分岔类型。在该分岔点，稳定的周期-1 轨道失稳并产生一个周期加倍（period-2）的稳定轨道。
在梯度下降中的角色
对于梯度下降映射 f(x) = x - η∇L(x)，Jacobian 为 A = I - η∇²L(x)。在 EoS 阈值处，η·λ_max = 2，因此 A 具有临界特征值 λ = -1——恰好触发 flip 分岔。
当 first-lyapunov-coefficient c₁ > 0 时，分岔为超临界 (supercritical)，存在稳定的周期-2 轨道——迭代在 Hessian 最大特征向量方向上振荡但不会发散。这是 EoS 自稳定机制的核心。
超临界 vs 亚临界
- c₁ > 0（超临界）：学习率略超 2/λ_max 时，存在稳定周期-2 轨道，训练可控
- c₁ < 0（亚临界）：不存在稳定周期轨道，迭代发散
初步实证表明实际网络的极小值处 c₁ > 0 (Gan, 2026)，但尚无第一性原理的理论解释。
与中心流形定理的关系
Flip 分岔的分析依赖于 center-manifold-theorem：将动力学限制在临界特征空间后，系统稳定性完全由中心流形上的约化动力学决定。
参考
- Kuznetsov (1998). Elements of Applied Bifurcation Theory.
- Mulayoff & Stich (2026). On the Stability of Nonlinear Dynamics in GD and SGD.
- gan-bifurcation-eos
- first-lyapunov-coefficient
- center-manifold-theorem