Files
myWiki/papers/weighted-uat-manifolds.md

2.8 KiB
Raw Blame History

title, created, updated, type, tags, sources, confidence
title created updated type tags sources confidence
Weighted Universal Approximation of Differentiable Maps on Infinite-Dimensional Manifolds 2026-06-17 2026-06-17 paper
mathematics
functional-analysis
approximation-theory
neural-networks
rough-paths
raw/papers/schmocker-weighted-uat-2026.md
high

无限维流形上可微映射的加权通用逼近

Philipp Schmocker, Josef Teichmann — 2026 arXiv: 2606.09820 | math.FA + cs.LG + math.PR + q-fin.MF | 77页

核心问题

经典universal-approximation-theorem保证神经网络可以在紧集上逼近任意连续函数,但它有两个局限:

  1. 只在紧集上:无法处理随机过程的非紧路径空间
  2. 不含导数逼近:不能逼近可微映射的导数信息

本文将 UAT 推广到无限维流形上的可微映射,同时逼近函数值和方向导数,且不限于紧集

方法论

函数输入神经网络 (FNN)

输入 (无穷维流形 M)  →  隐藏层 (R^h, 标量激活 σ)  →  输出 (Banach 空间 Y)
                         ↑ 线性读出层

FNN 的数学形式:NN(x) = Σ c_k · σ(_k(x)),其中 _k 是连续线性泛函。

加权 Nachbin 定理

核心理论贡献:将经典 nachbin-theorem(带导数的 Stone-Weierstrass 推广)推广到加权设置无限维流形上。

  • 权重函数 Ψ 控制函数和导数在大紧集外的增长
  • 通过 bastiani-calculus 适配 σ-紧空间
  • 有界逼近性质BAP 将有限维结果提升到无穷维

两大应用

  1. non-anticipative-functionals:包括水平导数和垂直导数的逼近 → 随机过程/随机微分方程
  2. signature 的线性函数 → 逼近路径空间泛函及其方向导数

理论贡献

定理 内容
Nachbin 定理§3 加权子代数稠密 ↔ 分离点 + 非消没 + 包含导数
FNN UAT§4 FNN 在加权可微函数空间中稠密
非预期 UAT§5 逼近非预期泛函的水平/垂直导数
Signature UAT§6 Signature 线性函数逼近路径泛函 + 导数

数值实验

两个数值例子验证理论FNN 在加权设置下逼近可微映射。

与机器学习的关系

这是一篇 math.FA 核心论文——为 neural operatorsDeepONets、FNO 等)和 signature methods 提供严格的数学基础。77页的完全自包含证明不依赖数值启发式。

参考