title, created, updated, type, tags, sources, confidence
| title |
created |
updated |
type |
tags |
sources |
confidence |
| Risky Bellman Equation(风险贝尔曼方程) |
2026-06-29 |
2026-06-29 |
concept |
| safe-reinforcement-learning |
| bellman-equation |
| risk |
| control |
|
| safe-equilibrium-exploration |
|
|
high |
Risky Bellman Equation
safe-equilibrium-exploration 中用于计算最大 feasible-zone 的核心方程——在模型不确定性下,量化状态-动作对的"风险"(最坏情况下的约束违反可能性)。
在 SEE 中的作用
SEE 的第 1 步:固定 uncertain-model M,通过求解 Risky Bellman Equation,判定哪些状态-动作对在 M 的最坏情况假设下仍能保持安全。
与传统 Bellman 方程的区别
| 传统 Bellman |
Risky Bellman |
| 优化期望累积奖励 |
评估最坏情况约束违反 |
| 确定性转移 |
不确定性范围转移 |
| 收敛到最优价值函数 |
收敛到最大可行域 |
相关概念