1.7 KiB
1.7 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | ||||
|---|---|---|---|---|---|---|---|---|---|
| 算法公平性 (Algorithmic Equity) | 2026-06-10 | 2026-06-10 | concept |
|
|
算法公平性 (Algorithmic Equity)
算法公平性关注机器学习系统在不同人口群体中是否产生公正的结果，特别关注系统性地对弱势群体产生不利影响的模式。
医疗 AI 中的公平性问题
关键里程碑：
- Obermeyer et al. (2019, Science)：广泛部署的商业医疗风险算法系统性将 Black 患者标记为比同等病情的 White 患者更低风险——根因是使用医疗成本作为健康需求的代理指标
- Seyyed-Kalantari et al. (2021, Nature Medicine)：AI 算法对弱势患者群体的胸部 X 光片诊断不足
- Celi et al. (2022, PLOS Digital Health)：全球审查确定三大偏见来源：数据代表性、代理结果、分布偏移
不确定性与公平性的连接
principled-uncertainty-clinical-ai 提出范式转换：校准后的认知不确定性是公平性信号。
传统公平性审计依赖事后准确率差异——但准确率对系统性偏见不敏感（农村 85.5% vs 三级 82.6%，仅差 2.9pp）。uncertainty-equity-gap 在同一场景中检测到 15.3% 的差异。
核心机制
训练数据偏向优势群体 → 弱势群体为 OOD → 认知不确定性升高 → UEG 信号
效应量层级（设施 > SES > 年龄 > 性别）精确映射结构性健康不平等的驱动因素。