20260625:很多新内容
This commit is contained in:
44
concepts/context-anchoring.md
Normal file
44
concepts/context-anchoring.md
Normal file
@@ -0,0 +1,44 @@
|
||||
---
|
||||
title: "历史上下文锚定(Context Anchoring)"
|
||||
created: 2026-06-21
|
||||
updated: 2026-06-21
|
||||
type: concept
|
||||
tags:
|
||||
- autoregressive
|
||||
- context
|
||||
- spiral-of-silence
|
||||
- llm
|
||||
sources:
|
||||
- arXiv 2025 (Spiral of Silence in LLM Agents)
|
||||
---
|
||||
|
||||
# 历史上下文锚定(Context Anchoring)
|
||||
|
||||
大模型沉默螺旋的**核心驱动机制**——四大技术根源之二。
|
||||
|
||||
## 机制
|
||||
|
||||
自回归生成([[autoregressive-unrolling|自回归展开]])使模型每一步输出都基于对话历史。当历史中包含主流观点时,模型持续**贴合并重复**这些内容,形成正向强化的闭环:
|
||||
- 每一步的预测分布被历史中高频内容"锚定"
|
||||
- 随着对话轮次增加,锚定效应持续累积
|
||||
- 即使初期存在多元观点,历史累积后逐渐收敛为单一主流
|
||||
|
||||
## 实验证据
|
||||
|
||||
多智能体实验(arXiv 2025)中,**仅保留历史对话**(无角色设定)的条件组即可使模型持续重复主流观点,内容单一化显著。当历史上下文与角色设定叠加时,效应最大化。
|
||||
|
||||
## 与相关概念的关系
|
||||
|
||||
- 不同于 [[role-setting-entrenchment|角色设定固化]]:历史锚定是被动累积,角色固化是主动约束
|
||||
- 与 [[rlhf-alignment-amplification|RLHF 对齐放大]] 叠加:历史锚定提供"当前语境中的主流",而 RLHF 提供"训练层面的安全主流",形成双重压制
|
||||
|
||||
## 缓解方向
|
||||
|
||||
- 动态衰减上下文权重(距离越远的历史对话权重越低)
|
||||
- 定期注入反主流观点兜底提示
|
||||
- 多候选择优时引入多样性奖励
|
||||
|
||||
## 参考
|
||||
|
||||
- [[llm-spiral-of-silence-2026|LLM 沉默螺旋]]
|
||||
- [[multi-agent-spiral|多智能体螺旋]]
|
||||
Reference in New Issue
Block a user