Files
myWiki/concepts/agent-governance.md
2026-06-01 10:46:01 +08:00

1.6 KiB
Raw Blame History

title, created, updated, type, tags, sources, confidence
title created updated type tags sources confidence
Agent GovernanceAgent 治理与安全) 2026-05-30 2026-05-30 concept
agent
governance
security
permission
audit
agent-harness-engineering-survey
high

Agent Governance

ETCLOVG 的 G 层:通过权限、身份、策略、硬化和审计机制约束 Agent 行为的控制层。

五大治理维度

1. 权限模型与身份管理Permission Models

  • AgentGateway、Haft 等提供了 Agent 专用的权限网关
  • 身份委托Agent 以谁的身份执行操作?
  • MCP 代理模式:拦截和审查工具调用

2. 生命周期 Hooks

  • 在执行的关键节点插入审查逻辑
  • Pre-execution hooks阻止危险动作
  • Post-execution hooks审计和记录

3. 组件硬化Component Hardening

  • 沙箱隔离、网络限制、文件系统防护
  • 最小权限原则在 Agent 层的应用

4. 声明式宪法Declarative Constitutions

  • 以自然语言或规则定义 Agent 的行为边界
  • 可审计、可管理的策略声明机制

5. 审计基础设施

  • 完整的操作日志和追溯链
  • 人机协同:在关键决策节点引入人工审批

核心洞察

G 层处理的是 capability-control-tradeoff 的控制侧:每次给 Agent 更多能力,都必须在 G 层增加对应的约束。这正是 Harness 工程的核心张力之一。

相关概念