Concept Point-Cloud Manifold (概念点云流形)

Hu et al. (ICML 2026) 对 LLM 中概念表示的重新形式化：概念不是稳定向量，而是点云流形。

形式化定义

对模型 m，概念词 w 在上下文 c 中的表示：

r^{(m)}(w, c) ∈ M^{(m)} ⊂ R^{d_m}

跨 N 个上下文实例的集合：

X_w^{(m)} = {r^{(m)}(w, c_i)}_{i=1}^N

这个点云被视为从潜在分布 P_w^{(m)} 的经验采样——参数形式不假设，通过成对核矩阵非参数地表征其几何。

从神经群体几何（Chung & Abbott, 2021）借用的视角：

在 LLM 中：概念 = 刺激类别；上下文 = 身份保持变化 → 同一概念的分布式表示在不同上下文中采样。