43 lines
2.0 KiB
Markdown
43 lines
2.0 KiB
Markdown
---
|
||
title: "Token Security Economics"
|
||
created: 2026-06-05
|
||
updated: 2026-06-05
|
||
type: concept
|
||
tags: [token-economics, security, adversarial]
|
||
sources: [[chen-token-economics-llm-agents]]
|
||
---
|
||
|
||
# Token Security Economics
|
||
|
||
**Token 安全经济学**是 Token Economics 四维分类法中的第四层，将**对抗安全威胁内部化为 Token 经济系统的内生约束**。核心理念：安全问题不是独立的技术挑战，而是经济系统的成本项。
|
||
|
||
## 问题公式
|
||
|
||
```
|
||
min TC_production + TC_security_overhead s.t. Quality ≥ Z, Risk ≤ R
|
||
```
|
||
|
||
安全不是免费的——防御措施（输入过滤、输出审核、轨迹审计）消耗额外的 Token。优化目标：在满足安全约束的前提下最小化**总生产成本 + 安全开销**。
|
||
|
||
## Token 生命周期安全风险
|
||
|
||
| 阶段 | 风险类别 | Token 经济学成本 |
|
||
|------|---------|-----------------|
|
||
| **输入** | Prompt 注入、对抗输入 | 防御 token（过滤、改写） |
|
||
| **推理** | 越狱、有害生成 | 对齐 token（安全训练开销摊销） |
|
||
| **工具调用** | 越权访问、资源泄漏 | 审计 token（轨迹记录和检查） |
|
||
| **输出** | 信息泄露、有害内容 | 审核 token（输出分类和过滤） |
|
||
|
||
## 经济学理论映射
|
||
|
||
- **外部性内部化**（Pigouvian 税）：安全漏洞的负外部性（对用户/平台的损害）通过安全审计 token 的成本内部化
|
||
- **风险与保险**：安全防护 token 消耗类似于保险保费——确定性成本换取降低灾难性损失的概率
|
||
- **成本-收益分析**：安全开销的最优水平取决于风险概率 × 损失规模 vs 防护成本
|
||
|
||
## 与 Agent 安全的关系
|
||
|
||
- [[agent-harness-safety|Agent 骨架安全]]：安全审计的 token 开销是 Security 层最直接的实例
|
||
- [[boundary-compliance|边界合规]]：L1 的资源访问检查消耗审计 token
|
||
- [[hidden-audit-channel|隐藏审计通道]]：审计 token 属于不可回避的安全开销
|
||
- [[safety-adherence-rate|SAR]]：安全约束的乘法门控反映了"安全不是可选项"的经济立场
|