20260617:目前有914 页
This commit is contained in:
43
concepts/functional-input-neural-networks.md
Normal file
43
concepts/functional-input-neural-networks.md
Normal file
@@ -0,0 +1,43 @@
|
||||
---
|
||||
title: "函数输入神经网络 (Functional Input Neural Network)"
|
||||
created: 2026-06-17
|
||||
updated: 2026-06-17
|
||||
type: concept
|
||||
tags: [neural-networks, functional-analysis, approximation-theory, infinite-dimensions]
|
||||
sources: [raw/papers/schmocker-weighted-uat-2026.md]
|
||||
confidence: high
|
||||
---
|
||||
|
||||
# 函数输入神经网络 (Functional Input Neural Network)
|
||||
|
||||
FNN 将经典神经网络从**有限维欧氏空间推广到无限维空间**——输入定义在无穷维[[infinite-dimensional-manifolds|加权流形]]上,输出落在 [[banach-space|Banach 空间]]中。
|
||||
|
||||
## 数学形式
|
||||
|
||||
```
|
||||
NN(x) = Σ_{k=1}^h c_k · σ(ℓ_k(x)), x ∈ M
|
||||
```
|
||||
|
||||
- `ℓ_k : M → R`:连续线性泛函(第一层"权重"被泛函替代)
|
||||
- `σ : R → R`:标量非线性激活函数(如 sigmoid、tanh)
|
||||
- `c_k ∈ Y`:线性读出系数(输出在 Banach 空间 Y 中)
|
||||
- h:隐藏神经元数
|
||||
|
||||
## 与经典 NN 的区别
|
||||
|
||||
| 维度 | 经典 NN | FNN |
|
||||
|------|--------|-----|
|
||||
| 输入空间 | R^n | 无限维流形 M |
|
||||
| 第一层 | 矩阵乘法 Wx | 线性泛函 ℓ(x) |
|
||||
| 输出空间 | R^m | Banach 空间 Y |
|
||||
| 隐藏层宽度 | 有限 | 有限(标量激活) |
|
||||
|
||||
## 为什么需要加权设置
|
||||
|
||||
随机过程的实现**几乎必然不落在紧集中**。加权 UAT 通过权重函数 Ψ 控制函数在大紧集外的增长,确保全局逼近——这对 SDE 解的逼近至关重要。
|
||||
|
||||
## 参考
|
||||
|
||||
- [[universal-approximation-theorem|UAT]]
|
||||
- [[infinite-dimensional-manifolds|无限维流形]]
|
||||
- [[weighted-uat-manifolds|论文原文]]
|
||||
Reference in New Issue
Block a user