56 lines
1.8 KiB
Markdown
56 lines
1.8 KiB
Markdown
---
|
||
title: "概念格 (Concept Lattice)"
|
||
created: 2026-06-17
|
||
updated: 2026-06-17
|
||
type: concept
|
||
tags: [mathematics, lattice-theory, interpretability, formal-concept-analysis]
|
||
sources: [raw/papers/zhang-geometric-sae-2026.md]
|
||
confidence: high
|
||
---
|
||
|
||
# 概念格 (Concept Lattice)
|
||
|
||
概念格是 [[formal-concept-analysis|形式概念分析（FCA）]] 的核心结构——所有形式概念按集合包含关系组织的**完备格（complete lattice）**。
|
||
|
||
## 结构
|
||
|
||
给定形式上下文 (C, N, R)：
|
||
|
||
- 每个节点 = 一个形式概念 `(A, B)`，满足 `A' = B` 且 `B' = A`
|
||
- A ⊆ C 是外延（extent）：该概念覆盖的人类概念
|
||
- B ⊆ N 是意图（intent）：该概念涉及的 SAE 神经元
|
||
|
||
## 层级
|
||
|
||
```
|
||
从顶到底：
|
||
最一般概念 ← → 最具体概念
|
||
(大外延/小意图) (小外延/大意图)
|
||
|
||
Top: (C, ∅) → 所有概念的并集
|
||
Bottom: (∅, N) → 所有神经元的交集
|
||
```
|
||
|
||
[[geometric-sae-concepts|Zhang et al. (2026)]] 图 2 展示了一个实例：Math → Algebra / Topology，Animal → Predator / Plant，形成从抽象到具体的完整层级。
|
||
|
||
## 在 SAE 解释中的作用
|
||
|
||
概念格提供了**系统化组织多对多神经元-概念关系**的方式：
|
||
|
||
- 沿格向上 = 概念合并（merge）、神经元意图粗化
|
||
- 沿格向下 = 概念分裂（split）、神经元意图细化
|
||
- 避免了"选择最佳单一匹配"的信息损失
|
||
|
||
## 概念学习 ≠ 解释的数学表征
|
||
|
||
格结构揭示：
|
||
- 概念学习（C → N）和神经元解释（N → C）是格中的**对偶运算**
|
||
- 两者通过 Galois 连接关联，但**不必一致**
|
||
- 格的层级体现了 AI 学到的语义本体论
|
||
|
||
## 参考
|
||
|
||
- [[formal-concept-analysis|FCA]]
|
||
- [[polysemanticity|多义性]]
|
||
- [[geometric-sae-concepts|几何框架论文]]
|