20260617:目前有914 页
This commit is contained in:
44
concepts/content-grounded-retrieval.md
Normal file
44
concepts/content-grounded-retrieval.md
Normal file
@@ -0,0 +1,44 @@
|
||||
---
|
||||
title: "Content-Grounded Retrieval — Faithfulness as First Principle"
|
||||
type: concept
|
||||
created: 2026-06-04
|
||||
tags: [information-retrieval, faithfulness, hallucination-mitigation, grounding]
|
||||
sources: ["ma-intragent-2026"]
|
||||
---
|
||||
|
||||
# Content-Grounded Retrieval(内容锚定检索)
|
||||
|
||||
**定义**:一种信息检索范式,要求所有回答严格锚定于提供的文献内容,当信息不存在时明确承认而非编造。
|
||||
|
||||
## 核心原则
|
||||
|
||||
1. **忠实性优先**:准确性建立在内容忠实之上——错误的精确数字比诚实的"不知道"更有害
|
||||
2. **显式边界**:当问题超出文献覆盖范围时,系统必须明确终止而非猜测
|
||||
3. **可溯源**:每个提取的信息点应能追溯到原文献的具体位置
|
||||
|
||||
## 在 IntraView 中的体现
|
||||
|
||||
[[intraview|IntraView]] 任务将内容锚定作为硬约束,与现有任务的差异:
|
||||
|
||||
| 任务 | 信息源 | 内容锚定? |
|
||||
|------|--------|-----------|
|
||||
| 开放域 QA | 外部知识 | 否(可引入 LLM 知识) |
|
||||
| RAG QA | 检索片段+模型知识 | 部分(LLM 仍可补充) |
|
||||
| **IntraView** | **仅提供文献** | **是(严格硬约束)** |
|
||||
|
||||
## 实现机制
|
||||
|
||||
[[intragent|IntrAgent]] 通过组合设计实现内容锚定:
|
||||
- [[sufficiency-check|充分性检查]]:确保信息确实来自文献而非推测
|
||||
- 细节锚定:每个细节关联到原文献的具体句子
|
||||
- 缺失处理:通过"以上皆非"选项处理不可回答的查询
|
||||
|
||||
## 更广的意义
|
||||
|
||||
内容锚定检索不仅是 IntraView 的需求——它是可信 AI 系统的底层要求。在医疗、法律、科研决策场景中,"我不知道但文献说 X" 远比 "我认为是 Y" 更有价值。
|
||||
|
||||
## 相关概念
|
||||
|
||||
- [[hallucination-mitigation]] — 更广泛的幻觉控制
|
||||
- [[faithfulness-in-ai]] — AI 忠实性
|
||||
- [[intraview|IntraView]] — 内容锚定的具体任务实例
|
||||
Reference in New Issue
Block a user