核医学中生成式人工智能的偏见、局限与风险:呼吁建立合理使用框架与建议
本文探讨文本生成与图像生成两类生成式人工智能在医学影像(含核医学)应用中的局限与偏见,直接比较四种常见文本到图像生成算法的能力并论证DALL-E 3最为适用,概述使用风险与偏见,并围绕核医学中的使用提出合理使用指南框架。作者指出生成式AI存在固有的性别与族裔偏见,将其纳入医学教育、图像解读、患者教育、健康促进与营销可能传播错误并放大偏见,缓解策略应纳入合理使用标准与最低质量及专业标准。
要点
- 文本生成与图像生成两类生成式AI均存在固有偏见,尤其涉及性别与族裔。
- 作者直接比较四种常见文本到图像生成算法,论证DALL-E 3为最适用者。
- 将生成式AI纳入核医学教育、图像解读、患者教育与营销可能传播错误并放大偏见。
核心结论
- 生成式AI文本生成与图像生成存在固有偏见,尤其性别与族裔方面,可能对核医学造成错误呈现。
- 将生成式AI工具纳入核医学的医学教育、图像解读、患者教育、健康促进与营销,存在传播错误与放大偏见的风险。
- 缓解策略应纳入合理使用标准以及核医学应用生成式AI的最低质量与专业标准之中。
研究设计与样本
- 本文为综述/立场性文章,以医学影像中的声称应用为案例,探讨文本生成与图像生成两类生成式AI的局限与偏见。
- 文中直接比较四种常见文本到图像生成AI算法的能力,并论证DALL-E 3为最合适使用。
主要发现
- 生成式AI文本生成与图像生成包含固有偏见,尤其性别与族裔偏见,可能错误呈现核医学。
- 将生成式AI工具纳入核医学的医学教育、图像解读、患者教育、健康促进与营销,存在传播错误与放大偏见的风险。
- 四种常见文本到图像生成AI算法能力经直接比较后,论证DALL-E 3为最合适使用。
关键数值与推荐
- 缓解策略应纳入合理使用标准以及核医学应用生成式AI的最低质量与专业标准之中。
- 文中为核医学中使用生成式AI提出合理使用指南框架。
临床怎么用
- 作者认为,缓解策略应置于合理使用标准以及核医学应用生成式AI的最低质量与专业标准之内。
- 作者为核医学中使用生成式AI提出合理使用指南框架。
局限性
- 原文未报告局限性。
以上解读依据论文摘要(全文未开放获取或许可不允许翻译转载)。
原文
Generative artificial intelligence (AI) algorithms for both text-to-text and text-to-image applications have seen rapid and widespread adoption in the general and medical communities. While limitations of generative AI have been widely reported, there remain valuable applications in patient and professional communities. Here, the limitations and biases of both text-to-text and text-to-image generative AI are explored using purported applications in medical imaging as case examples. A direct comparison of the capabilities of four common text-to-image generative AI algorithms is reported and recommendations for the most appropriate use, DALL-E 3, justified. The risks use and biases are outlined, and appropriate use guidelines framed for use of generative AI in nuclear medicine. Generative AI text-to-text and text-to-image generation includes inherent biases, particularly gender and ethnicity, that could misrepresent nuclear medicine. The assimilation of generative AI tools into medical education, image interpretation, patient education, health promotion and marketing in nuclear medicine risks propagating errors and amplification of biases. Mitigation strategies should reside inside appropriate use criteria and minimum standards for quality and professionalism for the application of generative AI in nuclear medicine.
引用
- Currie GM, Hawk KE, Rohren EM, et al. Generative Artificial Intelligence Biases, Limitations and Risks in Nuclear Medicine: An Argument for Appropriate Use Framework and Recommendations. Semin Nucl Med. 2024. PMID: 38851934. doi:10.1053/j.semnuclmed.2024.05.005
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。