Files
myWiki/concepts/neuroalgebraic-geometry.md

1.4 KiB
Raw Blame History

title, created, updated, type, tags, sources
title created updated type tags sources
神经代数几何 (Neuroalgebraic Geometry) 2026-06-10 2026-06-10 concept
algebraic-geometry
neural-networks
machine-learning-theory
relu-neuromanifolds-semi-algebraicity

神经代数几何 (Neuroalgebraic Geometry)

Neuroalgebraic Geometry 是用代数几何工具研究神经网络neuromanifold的交叉领域([MSM+25] 综述)。

研究纲领

将机器学习的对象和概念翻译为代数几何不变量:

ML 概念 代数几何对应
网络架构 参数化映射 Phi: W -> M_d
函数空间 神经流形 M_d
训练 M_d 上的优化问题
过参数化 纤维维度 > 0
对称性 群作用
可识别性 纤维结构

已知结果

  • 多项式激活:已较好理解——神经流形是代数簇或半代数空间
  • ReLU 激活:几乎未知——是当前研究前沿

核心问题

  1. 半代数性:神经流形在什么意义下是半代数的?
  2. 商结构M_d 是权重空间 R^M / E_Phi 的商吗?(对 ReLU不是
  3. 对称性分类:参数化映射有哪些对称性?
  4. 奇点几何M_d 的奇点如何影响训练?

参考