20260617:目前有914 页
This commit is contained in:
44
concepts/sufficiency-check.md
Normal file
44
concepts/sufficiency-check.md
Normal file
@@ -0,0 +1,44 @@
|
||||
---
|
||||
title: "Sufficiency Check — Explicit Hallucination Gate in Literature QA"
|
||||
type: concept
|
||||
created: 2026-06-04
|
||||
tags: [hallucination-mitigation, llm-reasoning, information-retrieval, quality-control]
|
||||
sources: ["ma-intragent-2026"]
|
||||
---
|
||||
|
||||
# Sufficiency Check(充分性检查)
|
||||
|
||||
**定义**:[[intragent|IntrAgent]] [[iterative-reading|迭代阅读]]阶段的核心机制——LLM 在每个阅读步骤后评估已积累的信息是否足以回答问题,以此作为显式的[[hallucination-mitigation|幻觉抑制]]闸门。
|
||||
|
||||
## 运作方式
|
||||
|
||||
每读完一个章节并提取细节 Dᵢ 后:
|
||||
1. LLM 审查所有已积累细节 {D₁, ..., Dᵢ}
|
||||
2. 评估这些细节是否足以回答查询 Q
|
||||
3. 输出"NO"→ 继续读下一节;"YES"→ 终止并合成答案
|
||||
4. Prompt 包含明确指令:避免推测和幻觉
|
||||
|
||||
## 三个核心作用
|
||||
|
||||
### 1. 防止信息不足时编造
|
||||
传统 RAG 在检索到的内容不完整时,LLM 倾向于"填补空白"→ 产生幻觉。充分性检查在证据不足时强制继续阅读。
|
||||
|
||||
### 2. 防止过度阅读
|
||||
当信息已经充分时及时终止,避免浪费计算资源阅读无关章节。三种置信度模式(保守/平衡/激进)提供可控权衡。
|
||||
|
||||
### 3. 跨节证据累积
|
||||
分散在多个非相邻章节的证据需要被累积——充分性检查阻止了"读了一个片段就下结论"的过早终止。
|
||||
|
||||
## 设计关键
|
||||
|
||||
Prompt 中明确包含以下指令:
|
||||
- 只基于文献中已提取的具体细节做出判断
|
||||
- 不要用自己的知识补充或"推测"缺失的信息
|
||||
- 当信息确实不存在时,诚实输出而非编造
|
||||
|
||||
## 相关概念
|
||||
|
||||
- [[iterative-reading]] — 包含充分性检查的动作循环
|
||||
- [[hallucination-mitigation]] — 更广泛的幻觉抑制方法
|
||||
- [[content-grounded-retrieval]] — 内容锚定的检索范式
|
||||
- [[cross-section-synthesis]] — 跨节综合
|
||||
Reference in New Issue
Block a user