44 lines
1.5 KiB
Markdown
44 lines
1.5 KiB
Markdown
---
|
||
title: "函数输入神经网络 (Functional Input Neural Network)"
|
||
created: 2026-06-17
|
||
updated: 2026-06-17
|
||
type: concept
|
||
tags: [neural-networks, functional-analysis, approximation-theory, infinite-dimensions]
|
||
sources: [raw/papers/schmocker-weighted-uat-2026.md]
|
||
confidence: high
|
||
---
|
||
|
||
# 函数输入神经网络 (Functional Input Neural Network)
|
||
|
||
FNN 将经典神经网络从**有限维欧氏空间推广到无限维空间**——输入定义在无穷维[[infinite-dimensional-manifolds|加权流形]]上,输出落在 [[banach-space|Banach 空间]]中。
|
||
|
||
## 数学形式
|
||
|
||
```
|
||
NN(x) = Σ_{k=1}^h c_k · σ(ℓ_k(x)), x ∈ M
|
||
```
|
||
|
||
- `ℓ_k : M → R`:连续线性泛函(第一层"权重"被泛函替代)
|
||
- `σ : R → R`:标量非线性激活函数(如 sigmoid、tanh)
|
||
- `c_k ∈ Y`:线性读出系数(输出在 Banach 空间 Y 中)
|
||
- h:隐藏神经元数
|
||
|
||
## 与经典 NN 的区别
|
||
|
||
| 维度 | 经典 NN | FNN |
|
||
|------|--------|-----|
|
||
| 输入空间 | R^n | 无限维流形 M |
|
||
| 第一层 | 矩阵乘法 Wx | 线性泛函 ℓ(x) |
|
||
| 输出空间 | R^m | Banach 空间 Y |
|
||
| 隐藏层宽度 | 有限 | 有限(标量激活) |
|
||
|
||
## 为什么需要加权设置
|
||
|
||
随机过程的实现**几乎必然不落在紧集中**。加权 UAT 通过权重函数 Ψ 控制函数在大紧集外的增长,确保全局逼近——这对 SDE 解的逼近至关重要。
|
||
|
||
## 参考
|
||
|
||
- [[universal-approximation-theorem|UAT]]
|
||
- [[infinite-dimensional-manifolds|无限维流形]]
|
||
- [[weighted-uat-manifolds|论文原文]]
|