45 lines
1.8 KiB
Markdown
45 lines
1.8 KiB
Markdown
---
|
||
title: "Sufficiency Check — Explicit Hallucination Gate in Literature QA"
|
||
type: concept
|
||
created: 2026-06-04
|
||
tags: [hallucination-mitigation, llm-reasoning, information-retrieval, quality-control]
|
||
sources: ["ma-intragent-2026"]
|
||
---
|
||
|
||
# Sufficiency Check（充分性检查）
|
||
|
||
**定义**：[[intragent|IntrAgent]] [[iterative-reading|迭代阅读]]阶段的核心机制——LLM 在每个阅读步骤后评估已积累的信息是否足以回答问题，以此作为显式的[[hallucination-mitigation|幻觉抑制]]闸门。
|
||
|
||
## 运作方式
|
||
|
||
每读完一个章节并提取细节 Dᵢ 后：
|
||
1. LLM 审查所有已积累细节 {D₁, ..., Dᵢ}
|
||
2. 评估这些细节是否足以回答查询 Q
|
||
3. 输出"NO"→ 继续读下一节；"YES"→ 终止并合成答案
|
||
4. Prompt 包含明确指令：避免推测和幻觉
|
||
|
||
## 三个核心作用
|
||
|
||
### 1. 防止信息不足时编造
|
||
传统 RAG 在检索到的内容不完整时，LLM 倾向于"填补空白"→ 产生幻觉。充分性检查在证据不足时强制继续阅读。
|
||
|
||
### 2. 防止过度阅读
|
||
当信息已经充分时及时终止，避免浪费计算资源阅读无关章节。三种置信度模式（保守/平衡/激进）提供可控权衡。
|
||
|
||
### 3. 跨节证据累积
|
||
分散在多个非相邻章节的证据需要被累积——充分性检查阻止了"读了一个片段就下结论"的过早终止。
|
||
|
||
## 设计关键
|
||
|
||
Prompt 中明确包含以下指令：
|
||
- 只基于文献中已提取的具体细节做出判断
|
||
- 不要用自己的知识补充或"推测"缺失的信息
|
||
- 当信息确实不存在时，诚实输出而非编造
|
||
|
||
## 相关概念
|
||
|
||
- [[iterative-reading]] — 包含充分性检查的动作循环
|
||
- [[hallucination-mitigation]] — 更广泛的幻觉抑制方法
|
||
- [[content-grounded-retrieval]] — 内容锚定的检索范式
|
||
- [[cross-section-synthesis]] — 跨节综合
|