1.6 KiB
1.6 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| Human-in-the-Loop — 人机协同 | 2026-06-19 | 2026-06-19 | concept |
|
|
Human-in-the-Loop (HITL)
定义
人在环路（HITL）指人类参与 AI 决策流程的方式。它位于一个频谱上——一端是 AI 行动前人类审查每个输出，另一端是完全自动化、人类仅监控异常。
核心问题
错误决策的成本是多少？谁承担？
频谱
完全人工审查 ←──────────────────→ 完全自动化
(每输出) 大多数系统 (仅异常监控)
大多数生产系统处于中间：将低置信度预测传递给人类，让高置信度预测通过。
HITL 的真实成本
- 审查每一个模型决策无法实现规模化
- 实时人工干预减慢系统速度
- 审核人的不一致性会降低标签质量
- 解决方式：selective-hitl
分工原则
| AI 负责 | 人类负责 |
|---|---|
| 规模 | 不可逆性 |
| 速度 | 边界判断 |
| 模式识别 | 推翻模型判断的权限 |
合规场景
医疗、金融、法律领域，HITL 通常是合规要求（如放射科医生审核 AI 标记肿瘤，律师审查 AI 标记合同条款）。错误成本过高，无法完全自动化。