1.8 KiB
1.8 KiB
title, type, created, tags, sources
| title | type | created | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|
| Sufficiency Check — Explicit Hallucination Gate in Literature QA | concept | 2026-06-04 |
|
|
Sufficiency Check（充分性检查）
定义：intragent iterative-reading阶段的核心机制——LLM 在每个阅读步骤后评估已积累的信息是否足以回答问题，以此作为显式的hallucination-mitigation闸门。
运作方式
每读完一个章节并提取细节 Dᵢ 后：
- LLM 审查所有已积累细节 {D₁, ..., Dᵢ}
- 评估这些细节是否足以回答查询 Q
- 输出"NO"→ 继续读下一节；"YES"→ 终止并合成答案
- Prompt 包含明确指令：避免推测和幻觉
三个核心作用
1. 防止信息不足时编造
传统 RAG 在检索到的内容不完整时，LLM 倾向于"填补空白"→ 产生幻觉。充分性检查在证据不足时强制继续阅读。
2. 防止过度阅读
当信息已经充分时及时终止，避免浪费计算资源阅读无关章节。三种置信度模式（保守/平衡/激进）提供可控权衡。
3. 跨节证据累积
分散在多个非相邻章节的证据需要被累积——充分性检查阻止了"读了一个片段就下结论"的过早终止。
设计关键
Prompt 中明确包含以下指令：
- 只基于文献中已提取的具体细节做出判断
- 不要用自己的知识补充或"推测"缺失的信息
- 当信息确实不存在时，诚实输出而非编造
相关概念
- iterative-reading — 包含充分性检查的动作循环
- hallucination-mitigation — 更广泛的幻觉抑制方法
- content-grounded-retrieval — 内容锚定的检索范式
- cross-section-synthesis — 跨节综合