文献速递儿童感染儿童神经与发育行为

将种族主义编码进儿科脓毒症护理的风险:机器学习中反种族主义的必要性

The Risk of Coding Racism into Pediatric Sepsis Care: The Necessity of Antiracism in Machine Learning.
PubMed 文献 · J Pediatr · 2022-04-22

机器学习有望通过补偿人类偏见和结构性种族主义来改善种族健康不平等,但未预期的种族偏见可能在设计、训练或实施阶段进入模型,延续或加剧不平等。文章以预测黑人儿童严重脓毒症的机器学习为例,说明结构性种族主义的影响可能被机器学习固化且难以发现,并推荐与伦理学家和模型开发专家合作、纳入代表性样本、包含社会经济输入、按种族报告结果以及致力于公平模型等反种族主义措施。

要点

  • 机器学习可能无意中编码种族偏见,延续或加剧儿科脓毒症护理中的种族健康不平等。
  • 结构性种族主义的影响在机器学习中可能难以发现,需在全部阶段承诺反种族主义。
  • 推荐措施包括与伦理学家合作、纳入代表性样本、包含社会经济输入、按种族报告结果和追求公平模型。

核心结论

  • 机器学习若忽视种族偏见,可能将既有的种族健康不平等编码进儿科脓毒症护理并难以发现。
  • 需要在机器学习的全部阶段承诺反种族主义,以避免延续或加剧种族不平等。

研究设计与样本

  • 本文为观点/评论类文章,通过考察预测黑人儿童严重脓毒症的机器学习案例进行论述。

主要发现

  • 未预期的种族偏见可能在模型设计、训练或实施阶段进入,延续或加剧种族不平等。
  • 既有的种族健康不平等可能在临床医生不知情的情况下被机器学习编码进医疗护理。
  • 结构性种族主义对机器学习的影响可能难以发现。

关键数值与推荐

  • 推荐与伦理学家和模型开发专家合作。
  • 推荐纳入代表性样本进行训练。
  • 推荐包含与种族不平等有近因因果关联的社会经济输入。
  • 推荐按种族报告结果。
  • 推荐致力于公平模型,以缩小不平等差距或至少具有同等获益。

临床怎么用

  • 在儿科脓毒症机器学习模型的开发与实施中纳入反种族主义承诺,按种族监测结果并追求公平模型。

以上解读依据论文摘要(全文未开放获取或许可不允许翻译转载)。

原文

Machine learning holds the possibility of improving racial health inequalities by compensating for human bias and structural racism. However, unanticipated racial biases may enter during model design, training, or implementation and perpetuate or worsen racial inequalities if ignored. Pre-existing racial health inequalities could be codified into medical care by machine learning without clinicians being aware. To illustrate the importance of a commitment to antiracism at all stages of machine learning, we examine machine learning in predicting severe sepsis in Black children, focusing on the impacts of structural racism that may be perpetuated by machine learning and difficult to discover. To move toward antiracist machine learning, we recommend partnering with ethicists and experts in model development, enrolling representative samples for training, including socioeconomic inputs with proximate causal associations to racial inequalities, reporting outcomes by race, and committing to equitable models that narrow inequality gaps or at least have equal benefit.

来源:J Pediatr,查看原文。版权归原作者所有。

引用

  1. Sveen W, Dewan M, Dexheimer JW, et al. The Risk of Coding Racism into Pediatric Sepsis Care: The Necessity of Antiracism in Machine Learning. J Pediatr. 2022. PMID: 35469891. doi:10.1016/j.jpeds.2022.04.024

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。