Files
myWiki/concepts/risky-bellman-equation.md

1.1 KiB
Raw Permalink Blame History

title, created, updated, type, tags, sources, confidence
title created updated type tags sources confidence
Risky Bellman Equation风险贝尔曼方程 2026-06-29 2026-06-29 concept
safe-reinforcement-learning
bellman-equation
risk
control
safe-equilibrium-exploration
high

Risky Bellman Equation

safe-equilibrium-exploration 中用于计算最大 feasible-zone 的核心方程——在模型不确定性下,量化状态-动作对的"风险"(最坏情况下的约束违反可能性)。

在 SEE 中的作用

SEE 的第 1 步:固定 uncertain-model M通过求解 Risky Bellman Equation判定哪些状态-动作对在 M 的最坏情况假设下仍能保持安全。

与传统 Bellman 方程的区别

传统 Bellman Risky Bellman
优化期望累积奖励 评估最坏情况约束违反
确定性转移 不确定性范围转移
收敛到最优价值函数 收敛到最大可行域

相关概念