1.8 KiB
1.8 KiB
title, type, created, tags, sources
| title | type | created | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|
| Content-Grounded Retrieval — Faithfulness as First Principle | concept | 2026-06-04 |
|
|
Content-Grounded Retrieval（内容锚定检索）
定义：一种信息检索范式，要求所有回答严格锚定于提供的文献内容，当信息不存在时明确承认而非编造。
核心原则
- 忠实性优先：准确性建立在内容忠实之上——错误的精确数字比诚实的"不知道"更有害
- 显式边界：当问题超出文献覆盖范围时，系统必须明确终止而非猜测
- 可溯源：每个提取的信息点应能追溯到原文献的具体位置
在 IntraView 中的体现
intraview 任务将内容锚定作为硬约束，与现有任务的差异：
| 任务 | 信息源 | 内容锚定？ |
|---|---|---|
| 开放域 QA | 外部知识 | 否（可引入 LLM 知识） |
| RAG QA | 检索片段+模型知识 | 部分（LLM 仍可补充） |
| IntraView | 仅提供文献 | 是（严格硬约束） |
实现机制
intragent 通过组合设计实现内容锚定：
- sufficiency-check：确保信息确实来自文献而非推测
- 细节锚定：每个细节关联到原文献的具体句子
- 缺失处理：通过"以上皆非"选项处理不可回答的查询
更广的意义
内容锚定检索不仅是 IntraView 的需求——它是可信 AI 系统的底层要求。在医疗、法律、科研决策场景中，"我不知道但文献说 X" 远比 "我认为是 Y" 更有价值。
相关概念
- hallucination-mitigation — 更广泛的幻觉控制
- faithfulness-in-ai — AI 忠实性
- intraview — 内容锚定的具体任务实例