20260514:增加新内容
This commit is contained in:
@@ -1,3 +1,12 @@
|
||||
---
|
||||
title: AI代理安全
|
||||
created: 2025-04-15
|
||||
updated: 2026-05-01
|
||||
type: concept
|
||||
tags: []
|
||||
sources: []
|
||||
---
|
||||
|
||||
# AI代理安全
|
||||
|
||||
**类型**: 安全领域
|
||||
@@ -61,7 +70,7 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
|
||||
- **原理**: 使用数学方法定义和验证安全策略
|
||||
- **优点**: 提供根本性安全保证
|
||||
- **缺点**: 实施复杂,需要专业知识
|
||||
- **示例**: [[ClawLess]],形式化验证框架
|
||||
- **示例**: [[clawless]],形式化验证框架
|
||||
|
||||
### 4. 运行时监控
|
||||
- **原理**: 实时监控代理行为并执行安全策略
|
||||
@@ -79,7 +88,7 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
|
||||
### 2. 用户空间内核
|
||||
- **目的**: 提供可信执行环境
|
||||
- **优点**: 减少对主机内核的依赖
|
||||
- **应用**: [[ClawLess]],安全容器
|
||||
- **应用**: [[clawless]],安全容器
|
||||
|
||||
### 3. BPF系统调用拦截
|
||||
- **目的**: 实时监控和控制系统调用
|
||||
@@ -110,12 +119,12 @@ AI代理安全是指保护自主AI代理及其运行环境免受恶意攻击、
|
||||
|
||||
## 相关概念
|
||||
|
||||
- [[ClawLess]] - AI代理安全框架实例
|
||||
- [[形式化安全模型]] - AI代理安全的方法论基础
|
||||
- [[用户空间内核]] - 提供安全执行环境的技术
|
||||
- [[BPF系统调用拦截]] - 运行时监控技术
|
||||
- [[安全容器]] - 隔离技术
|
||||
- [[最坏情况威胁模型]] - 安全设计假设
|
||||
- [[clawless]] - AI代理安全框架实例
|
||||
- [[formal-security-model]] - AI代理安全的方法论基础
|
||||
- [[userspace-kernel]] - 提供安全执行环境的技术
|
||||
- [[bpf-syscall-interception]] - 运行时监控技术
|
||||
- [[secure-containers]] - 隔离技术
|
||||
- [[worst-case-threat-model]] - 安全设计假设
|
||||
|
||||
## 研究趋势
|
||||
|
||||
|
||||
Reference in New Issue
Block a user