2.8 KiB
2.8 KiB
title, created, updated, type, tags, sources, confidence
| title | created | updated | type | tags | sources | confidence | ||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Weighted Universal Approximation of Differentiable Maps on Infinite-Dimensional Manifolds | 2026-06-17 | 2026-06-17 | paper |
|
|
high |
无限维流形上可微映射的加权通用逼近
Philipp Schmocker, Josef Teichmann — 2026 arXiv: 2606.09820 | math.FA + cs.LG + math.PR + q-fin.MF | 77页
核心问题
经典universal-approximation-theorem保证神经网络可以在紧集上逼近任意连续函数,但它有两个局限:
- 只在紧集上:无法处理随机过程的非紧路径空间
- 不含导数逼近:不能逼近可微映射的导数信息
本文将 UAT 推广到无限维流形上的可微映射,同时逼近函数值和方向导数,且不限于紧集。
方法论
函数输入神经网络 (FNN)
输入 (无穷维流形 M) → 隐藏层 (R^h, 标量激活 σ) → 输出 (Banach 空间 Y)
↑ 线性读出层
FNN 的数学形式:NN(x) = Σ c_k · σ(ℓ_k(x)),其中 ℓ_k 是连续线性泛函。
加权 Nachbin 定理
核心理论贡献:将经典 nachbin-theorem(带导数的 Stone-Weierstrass 推广)推广到加权设置和无限维流形上。
- 权重函数 Ψ 控制函数和导数在大紧集外的增长
- 通过 bastiani-calculus 适配 σ-紧空间
- 有界逼近性质(BAP) 将有限维结果提升到无穷维
两大应用
- non-anticipative-functionals:包括水平导数和垂直导数的逼近 → 随机过程/随机微分方程
- signature 的线性函数 → 逼近路径空间泛函及其方向导数
理论贡献
| 定理 | 内容 |
|---|---|
| Nachbin 定理(§3) | 加权子代数稠密 ↔ 分离点 + 非消没 + 包含导数 |
| FNN UAT(§4) | FNN 在加权可微函数空间中稠密 |
| 非预期 UAT(§5) | 逼近非预期泛函的水平/垂直导数 |
| Signature UAT(§6) | Signature 线性函数逼近路径泛函 + 导数 |
数值实验
两个数值例子验证理论:FNN 在加权设置下逼近可微映射。
与机器学习的关系
这是一篇 math.FA 核心论文——为 neural operators(DeepONets、FNO 等)和 signature methods 提供严格的数学基础。77页的完全自包含证明不依赖数值启发式。