47 lines
1.7 KiB
Markdown
47 lines
1.7 KiB
Markdown
---
|
||
title: "Neural Synchronization as Representation"
|
||
created: 2026-05-15
|
||
updated: 2026-05-15
|
||
type: concept
|
||
tags: [representation-learning, temporal-dynamics, synchronization, biological-plausibility]
|
||
sources: [raw/papers/darlow-ctm-2025.md]
|
||
---
|
||
|
||
# Neural Synchronization as Representation
|
||
|
||
**神经同步作为表示**是 CTM 的第二个核心创新：将神经元群体活动历史的时序相关性直接用作潜在表示，而非使用单一时间点的激活快照。
|
||
|
||
## 数学定义
|
||
|
||
给定所有神经元在 tick 1 到 t 的后激活历史 Z^t ∈ R^{D×t}，同步矩阵定义为：
|
||
|
||
```
|
||
S^t = Z^t · (Z^t)^⊺ ∈ R^{D×D}
|
||
```
|
||
|
||
即任意两个神经元 d_i 和 d_j 在整个激活历史上的**内积**，衡量它们的时间相关程度。
|
||
|
||
## 为什么是同步而非快照？
|
||
|
||
作者发现将 z_t 直接投影到下游任务会过度约束神经元——每个神经元的激活被强制编码任务相关信息，限制了其可能产生的动态类型。同步表示**解耦了神经元动态与任务需求**：神经元可以自由产生丰富的时序模式，只需它们的相关性（而非具体值）编码任务信息。
|
||
|
||
## 子采样：Neuron Pairing
|
||
|
||
完整 S^t 的 O(D²) 规模过大。CTM 在训练开始时随机选择：
|
||
- D_out 对神经元 → 输出同步表示 S^t_out
|
||
- D_action 对神经元 → 动作同步表示 S^t_action（用于注意力查询）
|
||
|
||
这些对的选择在整个训练过程中固定。
|
||
|
||
## 时间尺度调制
|
||
|
||
每对神经元 (i,j) 有可学习的指数衰减参数 r_ij：
|
||
- r_ij = 0：所有历史 tick 等权重
|
||
- r_ij 大：偏向近期 tick
|
||
|
||
这使 CTM 能学习在多个时间尺度上同步。
|
||
|
||
## 来源
|
||
|
||
- [[darlow-ctm-2025|CTM 论文]]
|