20260514:增加新内容

This commit is contained in:
2026-05-14 13:54:52 +08:00
parent 56c4d3ef7c
commit b116710e4c
294 changed files with 10682 additions and 255 deletions

View File

@@ -1,3 +1,12 @@
---
title: AI代理安全
created: 2025-04-15
updated: 2026-05-01
type: concept
tags: []
sources: []
---
# AI代理安全
**类型**: 安全领域
@@ -61,7 +70,7 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
- **原理**: 使用数学方法定义和验证安全策略
- **优点**: 提供根本性安全保证
- **缺点**: 实施复杂,需要专业知识
- **示例**: [[ClawLess]],形式化验证框架
- **示例**: [[clawless]],形式化验证框架
### 4. 运行时监控
- **原理**: 实时监控代理行为并执行安全策略
@@ -79,7 +88,7 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
### 2. 用户空间内核
- **目的**: 提供可信执行环境
- **优点**: 减少对主机内核的依赖
- **应用**: [[ClawLess]],安全容器
- **应用**: [[clawless]],安全容器
### 3. BPF系统调用拦截
- **目的**: 实时监控和控制系统调用
@@ -110,12 +119,12 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
## 相关概念
- [[ClawLess]] - AI代理安全框架实例
- [[形式化安全模型]] - AI代理安全的方法论基础
- [[用户空间内核]] - 提供安全执行环境的技术
- [[BPF系统调用拦截]] - 运行时监控技术
- [[安全容器]] - 隔离技术
- [[最坏情况威胁模型]] - 安全设计假设
- [[clawless]] - AI代理安全框架实例
- [[formal-security-model]] - AI代理安全的方法论基础
- [[userspace-kernel]] - 提供安全执行环境的技术
- [[bpf-syscall-interception]] - 运行时监控技术
- [[secure-containers]] - 隔离技术
- [[worst-case-threat-model]] - 安全设计假设
## 研究趋势