Files
myWiki/concepts/uncertain-model.md

1.5 KiB
Raw Permalink Blame History

title, created, updated, type, tags, sources, confidence
title created updated type tags sources confidence
Uncertain Model不确定模型 2026-06-29 2026-06-29 concept
safe-reinforcement-learning
model-uncertainty
exploration
safe-equilibrium-exploration
high

Uncertain Model不确定模型

safe-exploration 中,对环境转移动力学的估计模型,不仅预测状态转移,还量化预测的不确定性

在 SEE 中的角色

safe-equilibrium-exploration 中,不确定模型 M 是交替优化的两个对象之一:

  1. M 的精度决定了可以安全扩展的 feasible-zone 大小
  2. 可行域的大小决定了可以用来精化 M 的数据量
  3. 均衡点即 M 和 Z 的不动点

图建模

在 SEE 的图公式中M 被表述为不确定性图

  • 每条边代表可能的转移
  • 边上标注不确定性范围
  • 可行域 = 图中所有路径均满足安全约束的子图

单调精化

SEE 理论保证 M 的不确定性单调递减:随着可行域扩展和更多数据收集,模型精度持续提升,不会退步。

与标准 Model-based RL 的区别

标准 MBRL SEE 不确定模型
追求预测精度 追求不确定性量化
全局模型 可行域内精确、域外保守
无安全考量 不确定性直接决定可行域边界

相关概念