指南与共识重症综合管理与镇静镇痛消化、代谢与肾脏急症

用人工智能支持医疗与护理活动:负责任设计与使用的建议

[Supporting medical and nursing activities with AI: recommendations for responsible design and use].
指南 / 共识 · Bundesgesundheitsblatt Gesundheitsforschung Gesundheitsschutz · 2024-07-17
一句话结论DESIREE项目提出AI临床决策支持系统在开发、临床应用、知情同意、教育培训和伴随研究五个领域的伦理社会建议,作为现有推荐的补充。

本文介绍德国BMBF资助的DESIREE项目(常规与急诊医疗中的决策支持:伦理与社会影响)所制定的建议,聚焦基于人工智能的临床决策支持系统(CDSS)的伦理与社会方面,特别是可能对患者健康产生负面影响的问题。建议作为现有推荐的补充,分为开发、临床应用、信息与同意、教育与培训以及(伴随)研究五个行动领域,跨所有利益相关群体。文章指出AI-based CDSS是复杂的社会技术革新,其深远的伦理、社会和法律影响尚未被充分研究。

要点

  • DESIREE项目建议围绕五个行动领域:开发、临床应用、信息与同意、教育与培训、(伴随)研究,作为对现有推荐的补充。
  • AI-based CDSS是复杂的社会技术革新,可能带来深远的伦理、社会和法律影响,这些规范-社会影响迄今研究不足。
  • 建议主要关注可能对患者健康产生负面影响的伦理与社会方面,并跨所有利益相关群体。
  • AI-based CDSS在医学和护理中日益用于改善照护质量与效率,并应对有限的财力和人力资源。

研究设计与关键结果

  • DESIREE项目(由BMBF资助)制定了关于负责任设计和使⽤临床决策支持系统的建议,本文主要聚焦AI-based CDSS的伦理与社会方面,尤其是可能对患者健康产生负面影响的问题。
  • 建议分为五个跨利益相关群体的行动领域:开发、临床应用、信息与同意、教育与培训以及(伴随)研究,并作为对现有推荐的深化补充。

证据类型、等级与局限

  • 证据类型:指南(来自Bundesgesundheitsblatt Gesundheitsforschung Gesundheitsschutz);局限:原文未报告局限性。

指南或共识出处

  • DESIREE项目(DEcision Support In Routine and Emergency HEalth Care: Ethical and Social Implications)建议,由BMBF资助,发表于Bundesgesundheitsblatt Gesundheitsforschung Gesundheitsschutz。

提炼说明

  • 本条依据论文摘要整理;摘要未涉及「适用人群与场景」「诊断标准与关键阈值」「处置流程与药物剂量」「红旗征与不能漏的情况」「对床旁实践的改变」,故未列出这些栏目;全文请点「阅读原文」。
英文原文(摘要)· 点击展开

Clinical decision support systems (CDSS) based on artificial intelligence (AI) are complex socio-technical innovations and are increasingly being used in medicine and nursing to improve the overall quality and efficiency of care, while also addressing limited financial and human resources. However, in addition to such intended clinical and organisational effects, far-reaching ethical, social and legal implications of AI-based CDSS on patient care and nursing are to be expected. To date, these normative-social implications have not been sufficiently investigated. The BMBF-funded project DESIREE (DEcision Support In Routine and Emergency HEalth Care: Ethical and Social Implications) has developed recommendations for the responsible design and use of clinical decision support systems. This article focuses primarily on ethical and social aspects of AI-based CDSS that could have a negative impact on patient health. Our recommendations are intended as additions to existing recommendations and are divided into the following action fields with relevance across all stakeholder groups: development, clinical use, information and consent, education and training, and (accompanying) research.

Klinische Entscheidungsunterstützungssysteme (Clinical Decision Support Systems [CDSS]), die auf künstlicher Intelligenz (KI) basieren, kommen als komplexe soziotechnische Innovationen zunehmend in Medizin und Pflege zum Einsatz, um die Qualität und Effizienz der Versorgung insgesamt zu verbessern und gleichzeitig begrenzten finanziellen und personellen Ressourcen zu begegnen. Neben intendierten klinischen und organisatorischen Effekten ist jedoch auch mit weitreichenden ethischen, sozialen und rechtlichen Auswirkungen KI-basierter CDSS auf Krankenversorgung und Pflege zu rechnen. Bislang sind diese normativ-sozialen Implikationen nur unzureichend erforscht. Aus dem vom BMBF geförderten Projekt DESIREE (DEcision Support In Routine and Emergency HEalth Care: Ethical and Social Implications) konnten Handlungsempfehlungen für eine verantwortbare Gestaltung und Nutzung klinischer Entscheidungsunterstützungssysteme abgeleitet werden. Der vorliegende Beitrag fokussiert primär auf ethische und soziale Aspekte KI-basierter CDSS, die negative Auswirkungen auf die Gesundheit von Patient:innen haben könnten. Die Handlungsempfehlungen gliedern sich in die akteursgruppenübergreifend relevanten Handlungsfelder Entwicklung, Anwendung, Aufklärung und Einwilligung, Aus‑, Fort- und Weiterbildung sowie (Begleit‑)Forschung und sind als vertiefende Ergänzungen zu existierenden Empfehlungen zu verstehen.

来源:Bundesgesundheitsblatt Gesundheitsforschung Gesundheitsschutz,查看原文。版权归原作者所有。

参考来源

  1. Bratan T, Schneider D, Funer F, et al. [Supporting medical and nursing activities with AI: recommendations for responsible design and use]. Bundesgesundheitsblatt Gesundheitsforschung Gesundheitsschutz. 2024. PMID: 39017712. doi:10.1007/s00103-024-03918-1

供执业医师抢救与诊疗参考,不替代临床判断;剂量请结合体重、肝肾功能和本院药品规格复核,以指南原文为准。