Files
myWiki/concepts/runtime-governance.md

2.0 KiB
Raw Blame History

title, created, updated, type, tags, sources
title created updated type tags sources
运行时治理 — Skill Governance 2026-06-19 2026-06-19 concept
agent-skills
governance
safety
runtime
https://arxiv.org/abs/2605.07358

运行时治理Runtime Governance

定义

Runtime governance 是 skill 演化闭环的最后阶段——决定存储的 skill 更新是否实际影响未来行为。治理闭环为:检索 → 路由 → 信任检查 → 执行 → 退役

核心问题

一个演化后的 skill 可能是可执行的,但在运行时未必安全可信:

  • 第三方 skill 文档可能隐藏恶意逻辑PoisonedSkills 攻击面)
  • 集体演化需要验证才能同步到用户
  • 过时 skill 需要退役而非仅保留

治理功能

1. 检索与路由

  • 从演化后的基底中检索候选 skill
  • 路由决策应基于完整 skill 正文而非仅名称或描述
  • 代表SkillRouterretrieve-and-rerank 管线)

2. 信任检查

  • 可溯源证据捆绑Audited Skill-Graph
  • 污染检测PoisonedSkills
  • 权限边界控制

3. 执行与监控

  • 执行产生下一轮奖励、失败、反馈、skill gap 或信任信号
  • 这些信号回到 revision 阶段,闭合演化循环

4. 退役

  • 不再安全或有效的 skill 需显式退役
  • 当前文献在添加上的能力远强于安全重写和退役

治理闭环

Revision → Validation → Repository Evolution → Runtime Governance
                                                    │
                                          ┌─────────┘
                                          ▼
                                    检索 → 路由 → 信任检查 → 执行/退役
                                          │
                                          ▼
                              产生下一轮更新信号 ──→ 回到 Revision

参考