文献速递医学人工智能与信息学

何为公平?定义健康领域机器学习中的公平性

What Is Fair? Defining Fairness in Machine Learning for Health.
PubMed 文献 · Stat Med · 2025-01-01

本文探讨健康领域机器学习中公平性的概念化方式,包括模型为何可能导致不公平决策,以及在不同真实应用中如何测量公平性。文章回顾了基于群体、个体和因果框架的常用公平性概念,并讨论了未来研究展望及在健康应用中操作化公平性的机遇与挑战。

要点

  • 确保机器学习模型对所有患者安全、有效且公平,对临床决策和防止现有健康差异扩大至关重要。
  • 文章回顾了基于群体、个体和因果框架的常用公平性概念。
  • 讨论了在健康导向应用中操作化公平性的机遇与挑战。

核心结论

  • 确保机器学习模型对所有患者安全、有效且公平,对于临床决策和防止现有健康差异扩大至关重要。

研究设计与样本

  • 本文为综述,审视健康领域机器学习中公平性的概念化方式,并回顾不同真实应用中的公平性测量方法。

主要发现

  • 文章分析了机器学习模型可能导致不公平决策的原因。
  • 文章回顾了基于群体、个体和因果框架的常用公平性概念。

临床怎么用

  • 原文未据此给出推荐。

局限性

  • 原文未报告局限性。

以上解读依据论文摘要(全文未开放获取或许可不允许翻译转载)。

原文

Ensuring that machine-learning (ML) models are safe, effective, and equitable across all patients is critical for clinical decision-making and for preventing the amplification of existing health disparities. In this work, we examine how fairness is conceptualized in ML for health, including why ML models may lead to unfair decisions and how fairness has been measured in diverse real-world applications. We review commonly used fairness notions within group, individual, and causal-based frameworks. We also discuss the outlook for future research and highlight opportunities and challenges in operationalizing fairness in health-focused applications.

来源:Stat Med,查看原文。版权归原作者所有。

引用

  1. Gao J, Chou B, McCaw ZR, et al. What Is Fair? Defining Fairness in Machine Learning for Health. Stat Med. 2025. PMID: 40954134. doi:10.1002/sim.70234

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。