20260601

concepts/governance-security.md

@@ -0,0 +1,38 @@
+---
+title: "Governance & Security（治理与安全）"
+created: 2026-05-23
+updated: 2026-05-23
+type: concept
+tags: [agent, governance, security, compliance, audit, identity]
+sources: [raw/papers/agent-harness-engineering-survey-2026.md]
+confidence: high
+---
+
+# Governance & Security（G 层）
+
+> ETCLOVG 的 G 层：通过权限、身份、策略、加固、审计和人类监督机制约束 Agent 行为。覆盖三个治理子层。
+
+## 三个治理子层
+
+1. **模型级（Model-Level）**：护栏（guardrails）、内容过滤器、constitutional AI
+2. **系统级（System-Level）**：网关（gateways）、代理（proxies）、权限模型（permission models）
+3. **组织级（Organizational-Level）**：审计（audit）、合规（compliance）、人机协同（human-in-the-loop）
+
+## 关键组件
+
+- **权限模型与身份管理**：Agent 身份、委托、权限清单
+- **生命周期 Hook**：在关键决策点插入治理检查
+- **组件加固**：沙箱逃逸防护、prompt injection 防御
+- **声明式宪法**：如 Claude's Constitution（Anthropic, 2026a）
+- **审计基础设施**：记录所有 Agent 操作以供审查
+
+## 与 [[capability-control-tradeoff]] 的关系
+
+G 层是 control 侧的集中体现。更强的工具和更宽松的沙箱每扩展一次能力，G 层就需要相应增强审计粒度、权限边界和恢复能力。
+
+## 相关概念
+
+- [[etclovg-taxonomy]]
+- [[capability-control-tradeoff]]
+- [[standard-agent-handoffs]] — 交接中的责任转移
+- [[agent-harness-engineering-survey]]