20260625:很多新内容
This commit is contained in:
38
concepts/role-setting-entrenchment.md
Normal file
38
concepts/role-setting-entrenchment.md
Normal file
@@ -0,0 +1,38 @@
|
||||
---
|
||||
title: "角色设定固化(Role-Setting Entrenchment)"
|
||||
created: 2026-06-21
|
||||
updated: 2026-06-21
|
||||
type: concept
|
||||
tags:
|
||||
- multi-agent
|
||||
- role-playing
|
||||
- spiral-of-silence
|
||||
- llm
|
||||
sources:
|
||||
- arXiv 2025 (Spiral of Silence in LLM Agents)
|
||||
---
|
||||
|
||||
# 角色设定固化(Role-Setting Entrenchment)
|
||||
|
||||
大模型沉默螺旋的**催化加速器**——四大技术根源之三。
|
||||
|
||||
## 机制
|
||||
|
||||
在多智能体交互中,当模型被赋予**固定立场/角色**(system prompt 中预设的 persona)时,其输出分布被角色约束收窄。固定角色设定放大了观点对立:持有主流立场角色的输出占据对话主导地位,持有小众立场角色的输出被系统性地边缘化。
|
||||
|
||||
## 实验发现(arXiv 2025)
|
||||
|
||||
对照实验中:
|
||||
- **仅角色设定**(无历史上下文):观点独立分散,尚不形成主流/小众对立
|
||||
- **仅历史上下文**(无角色):内容开始单一化
|
||||
- **角色 + 历史上下文叠加**:主流观点占比突破 80%,小众观点被完全压制 ← 这是完整的沉默螺旋
|
||||
|
||||
## 与人类沉默螺旋的类比
|
||||
|
||||
人类沉默螺旋中的"角色"是社会身份、群体归属;LLM 中的"角色"是 system prompt 中的约束。两者都起到了**观点分布收窄**的作用。
|
||||
|
||||
## 参考
|
||||
|
||||
- [[context-anchoring|历史上下文锚定]]
|
||||
- [[multi-agent-spiral|多智能体螺旋]]
|
||||
- [[llm-spiral-of-silence-2026|LLM 沉默螺旋]]
|
||||
Reference in New Issue
Block a user