20260617:目前有914 页

reviews/zhang-sft-interaction-review-20260603.md

@@ -0,0 +1,91 @@
+---
+title: "Review: Reconciling Contradictory Views on SFT in LLMs — 交互视角"
+created: 2026-06-03
+updated: 2026-06-03
+type: review
+paper: "[[zhang-reconciling-sft-interaction-2026]]"
+---
+
+# 📌 基本信息
+
+- **论文标题**：Reconciling Contradictory Views on the Effectiveness of SFT in LLMs: An Interaction Perspective
+- **作者**：Junpeng Zhang, Lei Cheng, Guoxi Zhang, Hua Cai, Qing Xu, Quanshi Zhang
+- **机构**：上海交通大学、北京通用人工智能研究院（BIGAI）、UniDT
+- **arXiv ID**：2605.17967 | **领域**：cs.AI | **时间**：2026-05-18
+- **添加时间**：2026-06-03
+
+# 🎯 核心概念
+
+| # | 概念 | 定义 |
+|---|------|------|
+| 1 | [[interaction-based-explanation\|交互基解释]] | 将 DNN 推理逻辑分解为 AND-OR 交互原语的可解释性框架 |
+| 2 | [[and-or-interactions\|AND-OR 交互]] | 两种基本交互类型：AND（全变量同时存在激活）和 OR（任一变量存在激活） |
+| 3 | [[interaction-types-sft\|三类交互]] | Removed（被消除的噪声）、Preserved（保留的推理骨架）、Newly Emerged（新涌现） |
+| 4 | [[sft-denoising-stage\|SFT 去噪阶段]] | SFT 呈现两阶段动力学：极短去噪阶段（~1000步）→ 漫长的过拟合阶段 |
+| 5 | [[interaction-generalizability\|交互泛化性]] | γ 指标衡量交互是否跨不同架构 LLM 一致存在 |
+| 6 | [[uncancelled-interaction-effects\|未抵消交互效应]] | ρ 指标衡量交互正负效应抵消后剩余的有效贡献 |
+| 7 | [[interaction-order\|交互阶数]] | 交互涉及的输入变量数量——低阶更可靠，高阶多为噪声 |
+| 8 | [[logical-model-interaction\|交互逻辑模型]] | 由 AND-OR 交互构建的可解释模型，能以高保真度逼近 LLM 输出 |
+| 9 | [[sft-early-stopping\|SFT 早停策略]] | 基于交互演变的早停：当去噪阶段结束（交互移除趋于饱和）时即停止 |
+| 10 | [[preserved-interactions-backbone\|保留交互作为推理支柱]] | 验证了保留交互构成 LLM 推理的核心骨架——大部分预测效应来自这个小子集 |
+
+# 🔗 概念网络
+
+**核心连接**：
+```
+interaction-based-explanation
+     ↙           ↘
+and-or-interactions   logical-model-interaction
+     ↓                      ↓
+interaction-types-sft ←── interaction-order
+     ↓
+sft-denoising-stage ⟷ interaction-generalizability ⟷ uncancelled-interaction-effects
+     ↓
+preserved-interactions-backbone ⟶ sft-early-stopping ⟶ supervised-fine-tuning
+```
+
+**扩展网络**：连接了 6 个已有概念（lora, rlhf, dpo, shapley-values, catastrophic-forgetting, in-context-learning），均为新创建的占位符页面
+
+**修复断链**：0 个断链
+
+# 📚 Wiki 集成
+
+- **新增页面**：18 个（1 论文 + 10 核心概念 + 6 占位符概念 + 1 Review）
+- **链接密度**：核心概念平均 5.2 个出链
+- **网络完整**：100% 无断链
+- **总规模**：从 562 → 584 页（+22 页，+3.9%）
+
+# 💡 关键洞察
+
+### 洞察 1：SFT 的本质是"去噪"而非"教学"
+
+这篇论文最大的贡献是**颠覆了对 SFT 的根本认知**。传统观点认为 SFT 是在 LLM 中"注入新能力"——教它遵循指令、适应特定领域。但交互视角揭示了一个截然不同的画面：
+
+- SFT 的**有效窗口极窄**（~1000 步以内）
+- 在此窗口内，LLM 主要在做一件事：**清除预训练中的噪声交互**
+- 几乎不学习真正可靠的新交互
+
+这意味着：**LLM 在预训练阶段就已经具备了推理所需的核心交互模式**。SFT 的角色不是"教师"，而是"清洁工"——扫除噪声，让已有的推理骨架显现出来。
+
+### 洞察 2："保留交互作为推理支柱"对 AI 能力来源的重新审视
+
+作者验证了保留的少量低阶交互就足以支撑目标 token 预测——仅用保留交互计算时测试损失最低。这与 "scaling law" 叙事形成有趣的张力：
+
+- 如果推理骨架在预训练中已存在，那么"后训练阶段的能力涌现"可能更多是**噪声清除效应**而非真正的"能力习得"
+- 大量训练样本/步数可能主要引入过拟合，而非提升能力
+
+这为 [[sft-early-stopping|SFT 早停]] 提供了原则性理论基础，也挑战了"更大规模微调必然更好"的信念。
+
+### 方法论贡献：交互作为 LLM 训练的"显微镜"
+
+交互框架为 LLM 训练提供了一种前所未有的细粒度诊断工具。传统监控手段（验证损失、准确率）是粗粒度的代理信号——而交互演变可以直接追踪推理模式的结构性变化。这种"从行为监控到结构监控"的转变是方法论上的重要贡献。
+
+# 📎 文件清单
+
+| 文件 | 路径 |
+|------|------|
+| 原始存档 | `raw/papers/zhang-reconciling-sft-interaction-2026.md` |
+| 论文主页面 | `papers/zhang-reconciling-sft-interaction-2026.md` |
+| 核心概念 (×10) | `concepts/interaction-*.md`, `concepts/sft-*.md`, 等 |
+| 占位符 (×6) | `concepts/supervised-fine-tuning.md`, `concepts/rlhf.md`, 等 |
+| 本 Review | `reviews/zhang-sft-interaction-review-20260603.md` |