20260625:很多新内容

concepts/human-in-the-loop.md

@@ -0,0 +1,53 @@
+---
+title: "Human-in-the-Loop — 人机协同"
+created: 2026-06-19
+updated: 2026-06-19
+type: concept
+tags: [hitl, human-in-the-loop, automation, ai-safety, mlops]
+sources:
+  - https://towardsdatascience.com/six-choices-every-ai-engineer-has-to-make-and-nobody-teaches/
+---
+
+# Human-in-the-Loop (HITL)
+
+## 定义
+
+人在环路（HITL）指人类参与 AI 决策流程的方式。它位于一个频谱上——一端是 AI 行动前人类审查每个输出，另一端是完全自动化、人类仅监控异常。
+
+## 核心问题
+
+> 错误决策的成本是多少？谁承担？
+
+## 频谱
+
+```
+完全人工审查 ←──────────────────→ 完全自动化
+    (每输出)         大多数系统         (仅异常监控)
+```
+
+大多数生产系统处于中间：将低置信度预测传递给人类，让高置信度预测通过。
+
+## HITL 的真实成本
+
+- **审查每一个模型决策无法实现规模化**
+- 实时人工干预减慢系统速度
+- 审核人的不一致性会降低标签质量
+- 解决方式：[[selective-hitl|选择性 HITL]]
+
+## 分工原则
+
+| AI 负责 | 人类负责 |
+|---------|---------|
+| 规模 | 不可逆性 |
+| 速度 | 边界判断 |
+| 模式识别 | 推翻模型判断的权限 |
+
+## 合规场景
+
+医疗、金融、法律领域，HITL 通常是合规要求（如放射科医生审核 AI 标记肿瘤，律师审查 AI 标记合同条款）。错误成本过高，无法完全自动化。
+
+## 参考
+
+- [[selective-hitl|选择性 HITL]]
+- [[ai-production-tradeoffs|AI 生产权衡]]
+- [[nobrega-ai-production-tradeoffs-2026|原文文章]]