63 lines
2.0 KiB
Markdown
63 lines
2.0 KiB
Markdown
---
|
||
title: "运行时治理 — Skill Governance"
|
||
created: 2026-06-19
|
||
updated: 2026-06-19
|
||
type: concept
|
||
tags: [agent-skills, governance, safety, runtime]
|
||
sources:
|
||
- https://arxiv.org/abs/2605.07358
|
||
---
|
||
|
||
# 运行时治理（Runtime Governance）
|
||
|
||
## 定义
|
||
|
||
Runtime governance 是 skill 演化闭环的**最后阶段**——决定存储的 skill 更新是否实际影响未来行为。治理闭环为：**检索 → 路由 → 信任检查 → 执行 → 退役**。
|
||
|
||
## 核心问题
|
||
|
||
一个演化后的 skill 可能是可执行的，但在运行时未必安全可信：
|
||
- 第三方 skill 文档可能隐藏恶意逻辑（PoisonedSkills 攻击面）
|
||
- 集体演化需要验证才能同步到用户
|
||
- 过时 skill 需要退役而非仅保留
|
||
|
||
## 治理功能
|
||
|
||
### 1. 检索与路由
|
||
- 从演化后的基底中检索候选 skill
|
||
- 路由决策应基于完整 skill 正文而非仅名称或描述
|
||
- 代表：SkillRouter（retrieve-and-rerank 管线）
|
||
|
||
### 2. 信任检查
|
||
- 可溯源证据捆绑（Audited Skill-Graph）
|
||
- 污染检测（PoisonedSkills）
|
||
- 权限边界控制
|
||
|
||
### 3. 执行与监控
|
||
- 执行产生下一轮奖励、失败、反馈、skill gap 或信任信号
|
||
- 这些信号回到 revision 阶段，闭合演化循环
|
||
|
||
### 4. 退役
|
||
- 不再安全或有效的 skill 需显式退役
|
||
- 当前文献在添加上的能力远强于安全重写和退役
|
||
|
||
## 治理闭环
|
||
|
||
```
|
||
Revision → Validation → Repository Evolution → Runtime Governance
|
||
│
|
||
┌─────────┘
|
||
▼
|
||
检索 → 路由 → 信任检查 → 执行/退役
|
||
│
|
||
▼
|
||
产生下一轮更新信号 ──→ 回到 Revision
|
||
```
|
||
|
||
## 参考
|
||
|
||
- [[skill-evolution|Skill 演化]]
|
||
- [[zhou-agent-skills-survey-2026|Zhou et al. 2026]]
|
||
- [[agent-skill-ecosystem|Agent Skill 生态]]
|
||
- [[agent-skill|Agent Skill]]
|