Safety Filter

safe-exploration 的经典方法：在策略输出后追加一个动作监控与干预模块，检测不安全动作并用安全动作替换。

工作原理

策略 π(s) → a_raw → [Safety Filter] → a_safe
                         ↓
                    a_raw 是否在
                    [[feasible-zone|可行域]] 内？
                    否 → 替换为安全动作

主流实现

方法	技术	代表性工作
瞬时约束修正	最小化修正量	Dalal et al. (2018)
QP 层	二次规划 + 线性约束	Pham et al. (2018)
[[control-barrier-function	CBF]] + QP	控制屏障函数
Safety Index	多项式安全指标	Liu et al.

核心局限

约束由人类设计：CBF 需要系统动力学知识，Safety Index 需要手工合成
可行域保守：人工约束通常远小于真实可行域
无法自动扩展：可行域在训练中固定不变

safe-equilibrium-exploration 正是为解决这些局限而提出的——自动发现并扩展可行域。

1.5 KiB Raw Permalink Blame History Unescape Escape

Safety Filter

工作原理

主流实现

核心局限

相关概念

1.5 KiB

Raw Permalink Blame History