公众号 / 文章技术与安全

超越监管合规:评估放射学人工智能应用在部署中的表现

Beyond regulatory compliance: evaluating radiology artificial intelligence applications in deployment.
PubMed 文献 · Clin Radiol · 2024-02-08

人工智能应用获监管批准后,在常规实践中实施仍受可靠性、问责、信任、安全和治理等实际问题限制,并受成本效益和机构信息技术支持等因素影响。本文提出一种超越标准监管合规的方法,包括在实验室进行独立基准测试以及在实践中进行临床审计,旨在增加信任并防止伤害。

要点

  • 获监管批准后,AI应用部署仍需关注可靠性、问责、信任、安全和治理等实际问题。
  • 当技术较新且在该领域未经充分测试时,专业信心不足,需要超越基线验证和合规。
  • 作者提出对已获批上市的AI应用进行实验室独立基准测试和实践中的临床审计。

核心结论

  • 对已获批上市的AI应用,应在标准监管合规之外,增加实验室独立基准测试和实践中的临床审计,以增加信任并防止伤害。

研究设计与样本

  • 本文为文章,提出一种超越标准监管合规的方法,包括在实验室进行独立基准测试以及在实践中进行临床审计。

临床应用与阅片要点

  • 作者提出对已获批上市的AI应用开展实验室独立基准测试和实践中的临床审计,以增加信任并防止伤害。

局限性

  • 原文未报告局限性

以上解读依据论文摘要(全文未开放获取或许可不允许翻译转载)。

英文原文(摘要)· 点击展开

The implementation of artificial intelligence (AI) applications in routine practice, following regulatory approval, is currently limited by practical concerns around reliability, accountability, trust, safety, and governance, in addition to factors such as cost-effectiveness and institutional information technology support. When a technology is new and relatively untested in a field, professional confidence is lacking and there is a sense of the need to go above the baseline level of validation and compliance. In this article, we propose an approach that goes beyond standard regulatory compliance for AI apps that are approved for marketing, including independent benchmarking in the lab as well as clinical audit in practice, with the aims of increasing trust and preventing harm.

来源:Clin Radiol,查看原文。版权归原作者所有。

引用

  1. Ross J, Hammouche S, Chen Y, et al. Beyond regulatory compliance: evaluating radiology artificial intelligence applications in deployment. Clin Radiol. 2024. PMID: 38360516. doi:10.1016/j.crad.2024.01.026

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。