54 lines
1.6 KiB
Markdown
54 lines
1.6 KiB
Markdown
---
|
||
title: "Human-in-the-Loop — 人机协同"
|
||
created: 2026-06-19
|
||
updated: 2026-06-19
|
||
type: concept
|
||
tags: [hitl, human-in-the-loop, automation, ai-safety, mlops]
|
||
sources:
|
||
- https://towardsdatascience.com/six-choices-every-ai-engineer-has-to-make-and-nobody-teaches/
|
||
---
|
||
|
||
# Human-in-the-Loop (HITL)
|
||
|
||
## 定义
|
||
|
||
人在环路（HITL）指人类参与 AI 决策流程的方式。它位于一个频谱上——一端是 AI 行动前人类审查每个输出，另一端是完全自动化、人类仅监控异常。
|
||
|
||
## 核心问题
|
||
|
||
> 错误决策的成本是多少？谁承担？
|
||
|
||
## 频谱
|
||
|
||
```
|
||
完全人工审查 ←──────────────────→ 完全自动化
|
||
(每输出) 大多数系统 (仅异常监控)
|
||
```
|
||
|
||
大多数生产系统处于中间：将低置信度预测传递给人类，让高置信度预测通过。
|
||
|
||
## HITL 的真实成本
|
||
|
||
- **审查每一个模型决策无法实现规模化**
|
||
- 实时人工干预减慢系统速度
|
||
- 审核人的不一致性会降低标签质量
|
||
- 解决方式：[[selective-hitl|选择性 HITL]]
|
||
|
||
## 分工原则
|
||
|
||
| AI 负责 | 人类负责 |
|
||
|---------|---------|
|
||
| 规模 | 不可逆性 |
|
||
| 速度 | 边界判断 |
|
||
| 模式识别 | 推翻模型判断的权限 |
|
||
|
||
## 合规场景
|
||
|
||
医疗、金融、法律领域，HITL 通常是合规要求（如放射科医生审核 AI 标记肿瘤，律师审查 AI 标记合同条款）。错误成本过高，无法完全自动化。
|
||
|
||
## 参考
|
||
|
||
- [[selective-hitl|选择性 HITL]]
|
||
- [[ai-production-tradeoffs|AI 生产权衡]]
|
||
- [[nobrega-ai-production-tradeoffs-2026|原文文章]]
|