1.8 KiB
1.8 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| Resource Access Control | 2026-06-05 | 2026-06-05 | concept |
|
|
Resource Access Control
资源访问控制是 agent-harness-safety中约束 Agent 对资源(数据库记录、文件、API 对象)访问范围的机制,对应 harnessaudit L1 boundary-compliance 中的资源违规审计通道。
问题本质
HarnessAudit 实验表明:Agent 通常不会调用明显不合适的工具——而是选择看似合理的工具但将其应用于错误、无关或未经授权的资源。这意味着:
- 工具级约束(允许/禁止某些工具)是必要的但不充分的
- 需要资源级精度的访问控制——不仅控制"用什么工具",还控制"操作哪个资源"
违规模式
HarnessAudit 的 access checker 定义了四类违规:
| 编码 | 类型 | 触发条件 |
|---|---|---|
| V-OT | 工具/资源调用 | 调用了禁止的、不必要的、或角色不当的工具 |
| V-OR | 资源/操作范围 | 将相关操作应用于超出范围的对象 |
| V-IC | 信息路由 | 信息被发送到未经授权的接收方 |
| V-IR | 信息内容 | 允许的接收方收到了不允许的内容 |
其中 V-OT 和 V-OR 直接对应资源访问控制,是 HarnessAudit 实验中违规最多的类别。
领域差异
不同领域对资源访问的需求不同,安全风险分布也不同:
- 金融/办公:密集资源访问 → 资源边界违规高发
- 软件工程:频繁工具使用 → 工具合规较弱
- 电商/日常:依赖 Agent 间通信 → 信息流违规为主
这提示资源访问控制需要领域感知的策略设计。