title, created, updated, type, tags, sources
| title |
created |
updated |
type |
tags |
sources |
| Token Security Economics |
2026-06-05 |
2026-06-05 |
concept |
| token-economics |
| security |
| adversarial |
|
| chen-token-economics-llm-agents |
|
|
Token Security Economics
Token 安全经济学是 Token Economics 四维分类法中的第四层，将对抗安全威胁内部化为 Token 经济系统的内生约束。核心理念：安全问题不是独立的技术挑战，而是经济系统的成本项。
问题公式
安全不是免费的——防御措施（输入过滤、输出审核、轨迹审计）消耗额外的 Token。优化目标：在满足安全约束的前提下最小化总生产成本 + 安全开销。
Token 生命周期安全风险
| 阶段 |
风险类别 |
Token 经济学成本 |
| 输入 |
Prompt 注入、对抗输入 |
防御 token（过滤、改写） |
| 推理 |
越狱、有害生成 |
对齐 token（安全训练开销摊销） |
| 工具调用 |
越权访问、资源泄漏 |
审计 token（轨迹记录和检查） |
| 输出 |
信息泄露、有害内容 |
审核 token（输出分类和过滤） |
经济学理论映射
- 外部性内部化（Pigouvian 税）：安全漏洞的负外部性（对用户/平台的损害）通过安全审计 token 的成本内部化
- 风险与保险：安全防护 token 消耗类似于保险保费——确定性成本换取降低灾难性损失的概率
- 成本-收益分析：安全开销的最优水平取决于风险概率 × 损失规模 vs 防护成本
与 Agent 安全的关系
