38 lines
1.7 KiB
Markdown
38 lines
1.7 KiB
Markdown
---
|
||
title: "算法公平性 (Algorithmic Equity)"
|
||
created: 2026-06-10
|
||
updated: 2026-06-10
|
||
type: concept
|
||
tags: ["fairness", "clinical-ai", "health-equity"]
|
||
sources: ["[[principled-uncertainty-clinical-ai]]"]
|
||
---
|
||
|
||
# 算法公平性 (Algorithmic Equity)
|
||
|
||
**算法公平性**关注机器学习系统在不同人口群体中是否产生公正的结果，特别关注系统性地对弱势群体产生不利影响的模式。
|
||
|
||
## 医疗 AI 中的公平性问题
|
||
|
||
关键里程碑：
|
||
|
||
- **Obermeyer et al. (2019, Science)**：广泛部署的商业医疗风险算法系统性将 Black 患者标记为比同等病情的 White 患者更低风险——根因是使用医疗成本作为健康需求的代理指标
|
||
- **Seyyed-Kalantari et al. (2021, Nature Medicine)**：AI 算法对弱势患者群体的胸部 X 光片诊断不足
|
||
- **Celi et al. (2022, PLOS Digital Health)**：全球审查确定三大偏见来源：数据代表性、代理结果、分布偏移
|
||
|
||
## 不确定性与公平性的连接
|
||
|
||
[[principled-uncertainty-clinical-ai|Principled Uncertainty in Clinical AI]] 提出范式转换：**校准后的认知不确定性是公平性信号**。
|
||
|
||
传统公平性审计依赖事后准确率差异——但准确率对系统性偏见不敏感（农村 85.5% vs 三级 82.6%，仅差 2.9pp）。[[uncertainty-equity-gap|UEG]] 在同一场景中检测到 15.3% 的差异。
|
||
|
||
## 核心机制
|
||
|
||
训练数据偏向优势群体 → 弱势群体为 OOD → 认知不确定性升高 → UEG 信号
|
||
|
||
效应量层级（设施 > SES > 年龄 > 性别）精确映射结构性健康不平等的驱动因素。
|
||
|
||
## 参考
|
||
- [[principled-uncertainty-clinical-ai|Principled Uncertainty in Clinical AI]]
|
||
- [[uncertainty-equity-gap|UEG]]
|
||
- [[clinical-ai|临床 AI]]
|