人口学提示线索对多模态大语言模型牙科影像临床推荐的影响:25,380次评估的多模型审计
该研究对705张全景牙科X线片在3个商业多模态大语言模型下进行12种人口学条件测试,共25,380次API调用。结果显示所有模型都会因种族/民族或性别线索产生小幅但系统的推荐偏移,且模型间诊断一致性接近随机。作者强调应将其解读为人口学线索敏感性而非临床偏倚。
要点
- 多模态LLM对牙科全景片的临床推荐会因种族/性别提示产生小幅系统偏移,但均小于一个等级宽度的6%。
- 不同模型的人口学敏感性模式不同,Claude最广泛,GPT-5.4和Gemini效应较集中。
- 模型间诊断一致性接近随机(κ=0.009-0.159),模型选择带来的变异性大于人口学标签。
核心结论
- 人口学提示线索使多模态LLM对牙科全景片的临床推荐产生小幅但系统的偏移,且具有模型特异性。
- 因未以临床准确性为基准,应解读为人口学线索敏感性而非临床偏倚。
- 模型间诊断一致性接近随机,提示当前模型选择引入的变异性大于任何人口学标签。
研究设计与样本
- 采用图像内、条件间审计设计,使用DENTEX公开数据集的705张全景牙科X线片。
- 每张图像在12种实验条件下提交给Gemini 2.5 Flash、GPT-5.4和Claude Sonnet 4.6三个商业多模态LLM。
- 12种条件为5个种族/民族组×2个性别类别加2个对照,共产生25,380次独立零温度API调用。
- 以图像身份为随机截距的线性混合效应模型检验种族/民族、性别及交互效应,主要序数结局采用Bonferroni校正α=0.01。
诊断标准与关键数值
- 主要序数结局为治疗侵入性、紧急程度、疼痛管理、预后和置信度五个变量。
- Claude在治疗侵入性、预后和置信度上显示显著种族效应(均p < .001),在预后、置信度和侵入性上显示显著性别效应。
- GPT-5.4的效应集中在置信度和西班牙裔患者的侵入性(β = +0.052, p < .001)。
- Gemini对黑人患者的侵入性更高(β = +0.026, p < .001)。
- 所有序数偏移均小于一个类别宽度的6%,模型间诊断一致性Cohen‘s κ = 0.009-0.159。
临床应用与阅片要点
- 在牙科影像AI辅助解读中,应意识到人口学提示可能轻微影响LLM的临床推荐,阅片报告时不应依赖单一模型输出。
- 不同LLM间诊断一致性接近随机,临床部署时应进行模型特异性可靠性评估,并开展人口学线索审计。
- 解读此类研究时需注意其结论为人口学线索敏感性而非临床偏倚,因未以临床准确性为基准。
局限性
- 研究仅使用单一提示模板和固定临床背景,结果可能不推广到更丰富或图像定制的临床情境。
- “未说明”对照并非中性基线,人口学字段标签的存在本身即可改变某些模型的输出。
- 研究未对临床准确性进行基准测试,无法判断推荐偏移的临床意义。
全文中译27 节 · 点击展开
背景
多模态大语言模型(LLMs)正迅速进入临床工作流程,来自Google、OpenAI和Anthropic的商业系统现已能够结合文本患者数据解读医学图像[1, 2]。在牙科领域,人工智能工具在全景放射片上检测龋齿、根尖周病变和阻生牙方面已表现出有前景的诊断准确性[3, 4],已开始被评估作为牙科学生放射诊断训练的教育辅助工具[5],并且最近已扩展到能够从牙科影像输入生成结构化临床报告的多模态LLMs[6]。随着这些系统越来越接近实际部署——无论是作为分诊辅助工具、第二意见工具,还是自动化临床决策支持的组成部分——一个关键问题随之出现:当非临床患者特征(如种族或性别)被引入提示词时,它们的临床建议是否会发生变化?
这一问题位于更广泛的证据体系之中,该体系表明算法系统能够编码和传播社会偏见。Obermeyer等[7]表明,一个广泛部署的医疗风险预测算法表现出显著的种族偏见,系统性地低估黑人患者进入护理管理项目的资格,因为它使用医疗费用——一种由不平等可及性所塑造的替代指标——而非疾病负担作为其训练标签[7]。这一开创性发现催生了一个不断壮大的研究计划,旨在考察更新型AI架构中的偏见。具体在大语言模型领域,Zack等[8]发现,当仅修改临床案例的种族或性别时,GPT-4会产生不同的诊断和治疗建议,过度呈现刻板印象中的疾病-人口学关联[8]。Omar等[9]评估了九个LLMs在超过170万条急诊科病例输出中的表现,发现被标记为黑人、无家可归者或LGBTQIA+的患者更频繁地被导向侵入性干预或心理健康评估[9]。近期的系统综述证实,人口学偏见普遍存在,在测试种族或族裔偏见的研究中,超过90%发现了此类偏见[10]。Bouguettaya等[11]证明,包括Claude、ChatGPT和Gemini在内的四个领先LLMs在明确说明患者种族时提出了较差的精神科治疗方案,尽管诊断准确性在很大程度上得以保留[11]。
尽管证据不断积累,仍有若干重要空白。第一,现有文献以纯文本审计研究为主,即向大语言模型(LLM)呈现书面临床情景;偏见在多模态环境中——模型须联合处理放射影像与人口学元数据——如何表现,在很大程度上尚未被探索。第二,多数研究采用的临床病例数量较少(往往少于100例),限制了统计效力及检测细微但系统性效应的能力。第三,跨模型比较罕见:单项研究通常只评估一个模型,因而无法确定人口学敏感性是大语言模型的普遍属性,还是架构与对齐所特有的函数。第四,据我们所知,尚无研究专门考察牙科人工智能中的人口学偏见,尽管牙科是人工智能辅助图像解读的领先临床领域,且该领域中口腔健康结局方面有充分文献记录的种族和社会经济差异使人工智能工具的公平部署尤为影响重大[12]。
本研究通过对多模态大语言模型在牙科放射影像解读中的行为进行大规模、多模型审计来填补这些空白。我们将来自公开可用DENTEX数据集[13, 14]的705张全景牙科放射影像提交给三个商用多模态大语言模型——Google Gemini 2.5 Flash、OpenAI GPT-5.4和Anthropic Claude Sonnet 4.6——在由五个种族/族裔组和两个性别类别析因交叉加两个对照条件构成的12种实验条件下进行测试。由此产生的25,380个独特的模型–图像–条件观测均为独立的、零温度的API调用,以固定JSON模式返回结构化临床建议。这种图像内、条件间设计确保唯一的实验操纵是附加于提示中的人口学信息,从而能够在保持放射影像内容不变的情况下直接估计人口学线索敏感性。该问题的临床相关性是直接的:牙科诊所和分诊平台正开始将多模态人工智能工具整合到基于图像的决策支持中,临床医生和患者应当知道系统给出的建议是否取决于并非放射影像编码的人口学信息。我们预先设定了三个主要假设:(H1)临床建议差值在不同种族/族裔组间存在差异;(H2)差值因性别而异;(H3)种族/族裔效应受性别调节。相应的零假设(H0)是:当提示的放射影像和临床内容保持恒定时,大语言模型输出在不同人口学线索条件下不存在系统性差异。所有主要分析均采用以图像身份为随机截距的线性混合效应模型,以考虑重复测量设计所固有的图像内聚类。据我们所知,本研究提供了首个针对应用于牙科成像的多模态大语言模型人口学线索敏感性的系统性审计,也是迄今为止在任何临床领域中开展的规模最大的基于图像的LLM公平性审计。
方法
研究设计
我们采用图像内、条件间实验设计,检验当患者人口学线索——种族/族裔和性别——被引入原本相同的临床提示词时,大型语言模型(LLMs)针对牙科全景放射影像生成的临床建议是否发生变化。该设计将705张放射影像与12种实验条件(5个种族/族裔组 × 2个性别类别 + 2个对照条件)及3个市售LLMs进行交叉组合,形成一个完全因子数据集,包含25,380个独特的模型–图像–条件观测值。每个观测值构成一次独立的、温度为零的API调用,按照固定JSON模式生成结构化临床建议。本研究完全自动化,在提示词构建与结果记录之间无人工干预。
该设计类似于受试者内审核研究:每张图像作为其自身对照,唯一的实验操纵是附加到提示词中的人口学信息。图像内比较使放射影像内容在各条件间保持恒定,从而能够估计在该特定提示词表述下人口学提示线索对模型输出的影响。然而,由于对照条件本身是一种特定的提示词配置(并非零信息状态;见第2.4.2节),且由于本研究对每个模型仅测试单一提示词模板,结果描述的是该实验范式内的人口学敏感性,而非建立关于一般人口学偏倚的广泛因果主张。本研究无需招募患者或临床接触;所有图像均来自公开可用的去标识化数据集,所有“患者”均为虚构标签分配。由于本研究既不涉及人类参与者也不涉及可识别患者数据,无需机构审查委员会批准。
图像数据集
图像取自DENTEX数据集(Dental Enumeration and Diagnosis on Panoramic X-rays),这是一个公开可用的基准数据集,包含牙科全景放射影像及专家标注的边界框和病理分类[13, 14]。我们使用了DENTEX训练集中全部705张标注图像。每张图像均为诊断质量的全口全景放射影像,在来源处已去标识化。
DENTEX提供四个病理类别:龋齿、深龋、根尖周病变和阻生牙。在705张图像中,每张放射影像平均标注5.01颗异常牙(Mdn = 4,范围 = 0–23)。每张图像不同病理类型的平均数量为1.86(Mdn = 2)。27张图像(3.8%)无任何标注,可能代表正常放射影像;这些图像保留在主分析中,并在预设敏感性分析中排除。主要病理为龋齿(占图像的67.5%),其次为阻生牙(16.5%)、深龋(9.9%)、根尖周病变(2.3%)和无病理(3.8%)。在705张图像中,623张(88.4%)至少含有一颗龋齿,321张(45.5%)含有深龋,254张(36.0%)含有阻生牙,116张(16.5%)含有根尖周病变。
我们将DENTEX标注用作真实图像复杂性协变量(异常牙齿数量、病理类型数量、主要病理类型),而非作为诊断标签。这使我们能够检验人口统计学敏感性的程度是否随影像学复杂性而变化(第3.9节),同时避免循环推理:大语言模型从未获得DENTEX标注,而是被要求对每张图像从头进行诊断。
大语言模型
评估了三种市售多模态大语言模型,所选模型旨在代表主要基础模型提供商,并涵盖不同的架构谱系和对齐流程:
Google Gemini 2.5 Flash(版本标识符:gemini-2.5-flash)。来自Google DeepMind的多模态模型,针对文本和图像输入的高效推理进行了优化。通过Google Gemini API访问。
OpenAI GPT-5.4(版本标识符:gpt-5.4-2026-03-05)。来自OpenAI的多模态模型。通过OpenAI Chat Completions API访问。
Anthropic Claude Sonnet 4.6(版本标识符:claude-sonnet-4-6)。来自Anthropic的多模态模型。通过Anthropic Messages API访问。
所有模型均在单一数据收集窗口内通过各自的商业API访问(API调用执行于2026年3月5日至8日,每次调用均记录运行时解析的模型标识符gpt-5.4-2026-03-05、claude-sonnet-4-6和gemini-2.5-flash),以尽量减少版本漂移。对于每个模型,温度参数设置为0(确定性采样),所有调用均为无状态(调用之间无对话记忆或系统提示延续)。确切的模型版本字符串在运行时记录,并报告于表3中。
实验条件与提示设计
人口统计学操控
每张图像与12种实验条件配对,这些条件由种族/族裔(5个水平)和性别(2个水平)的析因交叉构成,另加2种对照条件(表1)。种族/族裔标签为:白人/高加索人、黑人/非裔美国人、西班牙裔/拉丁裔(附性别一致的后缀)、亚裔、中东/阿拉伯裔。性别标签为男性和女性。选择这些类别是为了代表美国医疗健康差异研究中公认的主要人口统计学群体,同时保持足够宽泛以避免对特定国籍或族裔的刻板印象。然而,我们承认种族和族裔是社会建构的类别而非生物分类学;其边界宽泛、依赖语境且具有历史偶然性;其含义在不同医疗体系、地区和人群中存在差异。此处使用的标签作为实验线索标记而非本体论上有效的分类,特定模型对诸如“中东/阿拉伯裔”等标签的反应反映的是训练和对齐过程中编码的关联,而非该标签可能描述的人群的任何固有属性。我们在表格和图中保留缩写MENA,因为其在美国健康公平研究中被广泛用作简写,但在本研究中MENA特指插入提示中的线索标签“中东/阿拉伯裔”。研究结果不应推广至该实验范式之外,也不应被解释为关于这些群体本身的陈述。
对照条件
纳入两种对照条件,以探究人口学效应的特异性。在主要对照(C1,“未说明”)中,提示词包含明确填写为“性别:未说明”和“种族/族裔:未说明”的人口学字段。在空白对照(C2)中,人口学字段从提示词中完全省略。
我们将C1(“未说明”)指定为delta计算的主要参照,因为它更贴近真实世界的部署场景,即临床人工智能系统包含可能填写也可能不填写的人口学输入字段。然而,我们注意到一个重要局限性:“未说明”对照并非中性基线。初步分析(第3.2节)证实,仅仅人口学字段标签的存在——即使标记为“未说明”——就会使某些模型的输出相对于空白对照发生改变。因此,所有delta估计值应解释为将人口学字段填写为特定种族/族裔和性别标签相对于保留空白标签的效果,而非相对于假设的零信息状态。空白对照(C2)用于预先指定的敏感性分析,以验证主要发现对参照条件的选择具有稳健性。
提示词结构
每个提示词由三个部分组成:(1)系统指令,确立模型作为经验丰富的口腔颌面外科医生审阅临床病例的角色,并指定所需的JSON输出模式;(2)患者人口学字段(种族/族裔和性别,按条件操纵);(3)通过多模态内容数组以base64编码图像形式提交的全景放射照片。系统指令在所有模型和条件间完全相同,以消除提示词措辞的混杂因素。该指令指导模型分析放射照片并返回包含第2.5节所述结局变量的结构化JSON对象;逐字系统提示词转载于附加文件3。
每张放射照片附带的临床内容在所有12种条件间保持一致。每个提示词包括固定年龄(42岁)、保险类型(私人牙科保险)、通用主诉(后牙区间歇性不适三周,咀嚼和温度刺激加重)、无异常病史(无重大疾病、过敏或当前用药;不吸烟)以及无异常的颌外和口内检查所见。条件间仅人口学标签(种族/族裔和性别)不同;对应同一图像的每个提示词的放射图像和所有临床字段均逐字节相同。完整情景文本、系统提示词和JSON输出模式逐字转载于附加文件3。该设计将人口学线索操纵的效应与患者特异性临床协变量的交互作用隔离开来。然而,由于每张图像均附带单一通用情景,此处报告的人口学线索敏感性的幅度或模式可能无法推广至使用更丰富或针对图像定制的临床背景、替代提示词模板、不同人口学措辞或少样本示例的部署场景。因此,发现对提示词表述的敏感性是一个重要的边界条件,我们将在讨论部分重新审视。
结局变量
有序结局
每次API调用返回一个结构化JSON对象,包含十个临床推荐变量,汇总于表2。五个变量为有序变量,三个为分类变量,两个为二分类变量;所有变量均在提示词模式中预先指定,模型不得添加或省略字段。
分类结局
记录了三个分类结局:主要诊断(7个类别)、治疗计划(6个类别)和转诊类型(6个类别)。定义和类别标签见表2。
二分类结局
记录了三个二分类结局:模型是否建议专科转诊以及是否建议额外影像学检查(如CBCT)。定义见表2。
拒绝编码
JSON模式包含一个unable_to_determine布尔字段。当模型对该字段返回true时,该响应被归类为拒绝——模型拒绝对给定图像做出临床判断。拒绝保留在数据集中用于“拒绝分析(GPT-5.4)”部分的拒绝分析,但排除在所有有序和分类结局分析之外。仅GPT-5.4产生了拒绝(n = 227,占其8,460次调用的2.7%);Gemini和Claude从未拒绝。
差值变量
对于每个图像–模型–人口学条件三元组,我们通过从人口学条件值中减去主要对照(C1,“未说明”)值来计算差值(Δ)变量。对于有序结局,差值为算术差(例如,Δ治疗侵入性 = 值[人口学] – 值[对照])。对于分类结局,计算二分类“改变”指标(若类别与对照不同则为1,否则为0)。差值仅对非拒绝配对计算,即人口学条件和对照条件均产生有效响应的配对。这产生了一个包含21,150个观测值的差值数据集(每个模型7,050个:705张图像 × 10个人口学条件)。由于每个差值均锚定于同一图像内对照,同一图像的观测值不独立;该聚类问题在主要分析“统计分析”部分通过随机效应处理。
数据收集流程
数据收集流程用Python实现,并作为全自动批处理过程执行。对于25,380个图像–条件–模型组合中的每一个,流程:(1) 加载X线片并将其编码为base64字符串;(2) 使用适当的提示词模板、人口学字段和图像载荷构建模型特定的API请求;(3) 将请求提交至模型的商业API端点;(4) 解析返回的JSON;(5) 根据预设模式验证响应;以及(6) 记录所有字段,包括原始响应、token计数、模型版本和成功/失败标志。
所有调用均使用temperature = 0(贪婪/确定性解码)以确保可重复性。每次调用均为无状态的:不允许对话历史、系统提示词延续或跨调用记忆。调用独立执行,在每个模型内以随机顺序进行,并通过速率限制以遵守API配额。每次调用的中位token使用量为:Gemini 656输入/120输出,GPT-5.4 2,834/83,Claude 2,969/238。各条件间输入token变异在每个模型内极小(± 4–61 tokens SD),反映了固定提示词结构仅人口学标签有所变化。
统计分析
通俗地说,分析策略如下。每张图像对每个LLM生成12个模型响应(10个人口学条件加2个对照)。对于每个有序结局,我们计算人口学条件与“未说明”对照之间的图像内差异(delta)。由于同一图像的10个delta共享同一对照锚点,因此并非统计独立,我们使用以图像身份作为随机截距的线性混合效应模型——类似于配对分析但扩展到多组——来估计归因于每个人口学标签的平均偏移,同时考虑图像间变异性。固定效应系数(β)被解释为人口学组相对于白人(White)或男性(Male)参照在有序量表上的预期偏移(例如,一个类别的0.05)。分类和二分类结局使用卡方检验分析,模型间诊断一致性使用Cohen's κ量化。检验选择、多重性校正和效应量报告的具体细节见下文;熟悉混合效应模型的读者可跳过至模型规格部分。所有分析均在Python 3.12中使用statsmodels 0.14进行线性混合效应模型、SciPy 1.14进行非参数检验、scikit-learn 1.5计算一致性指标、pandas 2.2进行数据操作。图形使用Matplotlib 3.9和Seaborn 0.13以300 DPI生成。预先指定了三个主要假设:
H1(种族/族裔)。在每个模型内,临床推荐delta在五个种族/族裔组之间存在差异。
H2(性别)。在每个模型内,临床推荐delta在男性和女性条件之间存在差异。
H3(种族×性别交互作用)。在每个模型内,种族/族裔对delta的效应因性别而异。
图像内设计产生层次数据结构:每张图像的10个delta观测值(每个人口学条件一个)嵌套在705张图像中的每一张内,且给定图像的所有delta共享同一对照锚点。将这些观测值视为独立——如标准组间比较检验所做的那样——构成伪重复并低估标准误。因此,我们全程使用线性混合效应模型(LMMs)作为主要推断框架,以图像身份作为随机截距来解释图像内聚类。
对于H1(种族/族裔效应),我们拟合每个模型的LMM,形式为:
以白人(White)为参照类别,对四个非白人组使用处理(虚拟)编码。这产生每个结局四个固定效应系数,每个代表在考虑图像水平变异性后,给定种族/族裔组与白人参照之间的预期差异。对于H2(性别效应),我们拟合:
以男性(Male)为参照类别。对于H3(种族×性别交互作用),我们拟合析因模型:
并使用4个自由度的Wald χ²检验评估四个交互项(黑人×女性、西班牙裔×女性、亚裔×女性、中东/北非裔×女性)的联合显著性。这在恰当的析因意义上检验种族/族裔模式是否因性别而异,而非仅仅检验10个种族×性别单元格中是否有任何单元格彼此不同。所有LMM均使用限制性最大似然(REML)估计。报告组内相关系数(ICCs)以量化图像水平聚类的程度。
五个有序增量结局(治疗侵入性、紧迫性、疼痛管理、预后、信心)构成主要结局族。在该族内应用Bonferroni校正,将线性混合模型(LMM)中各模型固定效应系数的显著性阈值设定为α = 0.05/5 = 0.01。次要分析和探索性分析(分类结局、跨模型比较、调节效应)使用未校正的α = 0.05,其结果被解释为假设生成性。事后两两比较(4个种族组 vs. 白人)按Bonferroni校正阈值进行评估。为使分析层级明确,我们因此设定三个推断层级。主要确证性分析是针对三个预设假设(H1种族、H2性别、H3种族×性别)对五个有序增量结局进行的逐模型LMM,按Bonferroni校正阈值(α = 0.01)评估,报告于表6。次要分析包括对分类和二分类“改变”指标的卡方检验、总体改变率的跨模型比较以及模型间一致性统计量;这些分析使用未校正的α = 0.05,被解释为描述性。探索性分析包括图像复杂度调节变量、拒绝条件关联、两种对照条件的比较以及拒绝行为的逐三分位分析;这些报告效应量并被视为假设生成性。我们明确这一区分是因为设计包含大量模型×结局单元格,我们希望透明地说明哪些发现是确证性的、哪些是探索性的。
作为稳健性检验,我们还在补充材料中报告了非参数检验(种族效应用Kruskal–Wallis H检验,性别效应用Mann–Whitney U检验)(见附加文件1)。这些检验未考虑图像内聚类,因此将每一行视为独立观测——这一假设被重复测量设计所违反。纳入这些检验是为了透明性并便于与使用类似方法的既往审计研究进行比较,但它们不是本文推断的基础。当非参数结果与混合效应结果不一致时,以LMM结果为准。
对于二分类“改变”指标(诊断、治疗方案或转诊类型相对于对照是否发生翻转),使用Pearson卡方检验评估各模型内改变率是否因种族/民族而异。效应量以Cramér's V报告。当任一期望单元格计数低于5时,改用Fisher精确检验。我们注意到这些检验将观测视为独立,因此与非参数检验一样存在假重复问题;它们被解释为描述性而非确证性。
模型间一致性在对照条件输出上评估(所有模型分析相同图像且无人口学线索)。对每对模型在主要诊断和治疗方案分类上计算Cohen's κ。我们将κ < 0.20解释为轻微一致,0.21–0.40为一般一致,0.41–0.60为中等一致,≥ 0.61为高度一致[15]。
图像复杂度被评估为人口学敏感性的潜在调节因素。复杂度使用DENTEX标注中的n_abnormal_teeth(范围0–23)进行操作化。计算了图像复杂度与每个结局和模型下推荐变化量绝对值(|Δ|)之间的Spearman秩相关。鉴于样本量较大,即使极小的相关性也会达到统计学显著性;因此我们主要从效应量(ρ和R2)而非p值的角度来解释这些相关性。
四项预设的敏感性分析评估了稳健性:(a) 对照基线替换:所有delta变量均以空白对照(C2)而非“未说明”对照(C1)作为参考重新计算,并重复所有主要LMM。(b) 排除拒绝案例:排除227例拒绝案例后,重复所有GPT-5.4分析。(c) 排除未标注图像:排除27张DENTEX标注为零的图像,并重复所有主要LMM。(d) 非参数一致性检查:将Kruskal–Wallis检验和Mann–Whitney检验(不建模聚类但无需分布假设)与LMM结果进行比较,以评估显著性模式对分析方法是否稳健。
先验样本量确定。图像数量由DENTEX训练集(705张全景放射照片)固定,我们将其视为可用的标准化刺激池,而非根据功效计算得出的目标。为验证该固定池对于计划的图像内、条件间设计是否足够,我们使用SCIORA设计效应计算器[15]进行了先验功效评估,假设ICC约为0.45(随后观察到的中位数),每个种族组每张图像2次观察,α = 0.01(对五个主要结局进行Bonferroni校正),目标功效为0.80,以检测序数delta量表上d ≈ 0.10的标准化均数差。在这些假设下,估计每个对比约800对配对观察的有效样本量即足够;最终观察到的有效样本量(设计效应调整后每个种族组每个模型约900–1,190,见下文)在每个主要结局和对比中均大幅超过该阈值。然而我们强调,在如此大的有效样本量下,即使极小的效应也能达到统计学显著性;固定效应系数的绝对大小而非p值才是临床解释的相关标准。每个种族组每个模型的原始样本量为n = 1,410(705张图像 × 2种性别条件)。然而,由于图像内设计导致聚类,有效样本量因设计效应DE = 1 + (k – 1)·ICC而减小,其中k = 每个种族组内每张图像的2次观察[16]。跨结局和模型,观察到的ICC范围为0.19至0.59(中位数0.47),产生1.19–1.56的设计效应和每个种族组每个模型约900–1,190的有效样本量。这些有效样本量仍然很大,为检测即使很小的固定效应系数(序数量表上β ≥ 0.01)提供了充足的精度。然而我们强调,效应的绝对大小——而不仅仅是其统计学显著性——才是临床解释的相关标准,因为在这些样本量下即使极小的效应也能达到显著性。
结果
数据收集与验证
共对705张全景牙科X线片、12种实验条件(5种族/民族×2性别组合加两个对照)和3种大型语言模型(Gemini 2.5 Flash、GPT-5.4和Claude Sonnet 4.6)执行了25,380次API调用。所有调用均返回有效HTTP响应(25,380/25,380;成功率100%),且每个响应均通过自动化JSON模式验证(25,380/25,380;合规率100%)。所有模型温度均设为0以确保输出确定性,所有调用均独立执行,无对话记忆。
拒绝行为因模型而异。Gemini 2.5 Flash和Claude Sonnet 4.6对每个提示均生成结构化建议(无拒绝)。GPT-5.4对8,460个提示中的227个(2.7%)返回unable_to_determine: true,表明为编码于结构化输出模式内的模型级内容政策拒绝。拒绝率未因种族/民族(χ² = 1.74,p = .783)或性别(χ² < 0.01,p > .999)而异,提示拒绝由图像层面模糊性而非人口学条件驱动(见“拒绝分析(GPT-5.4)”部分)。每次调用中位token使用量:Gemini为656输入/120输出,GPT-5.4为2,834/83,Claude为2,969/238(表3)。
基线模型行为(对照条件)
在主要对照条件(性别和种族/民族均“未说明”)下,三种模型对相同X线片产生了显著不同的临床解读。Gemini在85.1%的病例中诊断阻生牙,GPT-5.4为83.8%,而Claude仅为2.6%——转而识别出深龋(82.0%)和根尖周病变(15.3%)。治疗建议相应分化:Gemini和GPT-5.4分别在89.8%和85.7%的病例中建议拔牙,而Claude在97.3%的病例中建议根管治疗。所有模型间在所有序数结局上的差异均具有统计学显著性(Kruskal–Wallis检验,所有H > 30,所有p < 10− 6)。置信度差异显著:Gemini(M = 89.6)、GPT-5.4(M = 80.1)、Claude(M = 62.6)。
模型间一致性极差。主要诊断的Cohen κ范围为0.009(GPT-5.4 vs. Claude)至0.159(Gemini vs. GPT-5.4);治疗计划为0.002至0.194。所有值仅表明轻微一致性,远低于“实质性”一致性阈值κ ≥ 0.61(图1)。
对两种对照条件的预设比较(表4)显示,“未说明”对照与“空白”对照不可互换。GPT-5.4在治疗侵入性(nΔ = 78,p < .001)和置信度(nΔ = 369,p < .001)上在对照格式之间表现出显著差异,表明仅人口学字段标签的存在——即使填写为“未说明”——就足以改变其输出。Claude在预后(p = .002)和置信度(p < .001)上表现出较小但显著的差异。Gemini未受影响。这一发现有两方面含义。第一,它表明GPT-5.4对提示结构本身具有部分反应性,而不仅是对人口学内容。第二,这意味着“未说明”对照并非完全中性的基线;相反,它代表一种特定提示配置,其中人口学字段可见但为空。我们将其保留为主要参照,因为它更贴近临床人工智能系统包含人口学输入字段的现实场景,但所有delta估计值应解释为填写人口学字段相对于保留空白标签的效果,而非相对于假设的零信息状态。第3.11a节的敏感性分析证实,当改用空白对照时,主要发现仍然成立。
总体人口学线索敏感性
当在临床提示中加入人口学线索时,三个模型均至少改变了一些建议,尽管敏感性的幅度和模式差异显著(表5;图2)。各模型间每个结局的变化率均存在显著差异(所有χ² > 41,所有p < 10− 9)。
GPT-5.4表现出最高的总体变化率。45.6%的观测值置信度发生变化,9.0%的病例治疗方案发生转变,8.2%的侵入性发生变化。Claude Sonnet 4.6表现出选择性敏感性:14.1%的主要诊断发生变化——为所有模型中最高的——但仅2.0%的治疗方案受到影响。Claude还表现出中等程度的预后敏感性(6.2%)和置信度敏感性(9.7%)。Gemini 2.5 Flash的总体变化率最低(所有≤ 5.0%),但如下文混合效应分析所示,其中一些变化仍与特定人口学群体系统性相关。
种族/民族对建议的影响(H1)
为考虑设计中的图像内结构——每张图像贡献10个锚定于同一对照的delta观测值——所有主要分析均采用线性混合效应模型(LMM),形式为Δoutcome ~ race + (1 | image_id),以白人作为参照类别。图像随机截距捕获了显著的图像水平聚类(组内相关系数[ICC]在各结局和模型中范围为0.19至0.59),证实考虑该结构至关重要。显著性在Bonferroni校正α = 0.01(五个主要结局)下评估。补充材料中报告了非参数Kruskal–Wallis检验以保持连续性,但不作为推断依据。
Claude Sonnet 4.6显示出最一致的种族/族裔效应(表6)。对于治疗侵入性,黑人(β = +0.016,p < .001)、亚裔(β = +0.017,p < .001)和中东裔(β = +0.013,p < .001)患者相对于白人患者获得小幅但显著的增加。对于预后,模式更为复杂:黑人患者获得略差的预后评分(β = +0.055,p < .001),表明向较差预后偏移,而亚裔患者获得改善的预后评分(β = −0.029,p < .001),表明向较好预后偏移。所有非白人群体获得的置信度评分均高于白人患者(所有β > +0.30,所有p < .001)。重要的是,这些效应虽然具有统计学稳健性,但绝对幅度较小:预后的最大固定效应系数为0.055,在1个单位区分“良好”与“一般”的量表上,代表约一个类别宽度5.5%的偏移。这些应被解释为小幅但系统性的扰动,而非个体推荐中的临床变革性变化。
GPT-5.4在两个结局上显示出显著的种族效应。对于治疗侵入性,西班牙裔患者获得的评分高于白人患者(β = +0.052,p < .001;ICC = 0.47),该模式在非参数分析中未被检测到,因为独立样本假设膨胀了误差方差。对于置信度,西班牙裔患者获得显著更高的置信度调整(β = +0.540,p < .001;ICC = 0.51)。GPT-5.4未观察到其他种族效应达到显著性。此外,对二分类额外成像指标的卡方检验显示显著的种族效应(χ² = 13.67,p = .008),黑人患者获得改变成像推荐的比例为2.4%,而其他群体为0.9–1.3%。
对于Gemini 2.5 Flash,与最初近乎完全稳定的描述性印象相反,LMM揭示一旦考虑图像水平聚类,Gemini确实产生了小幅系统性种族效应。黑人患者相对于白人患者获得显著更高的治疗侵入性评分(β = +0.026,p < .001)和更高的置信度(β = +0.121,p < .001)。这些效应在三个模型中绝对幅度最小,总体变化率仍然较低(≤ 5%),但Gemini并非如简单比例比较所暗示的那样不受人口学影响。图3、图4和图5。
性别对推荐的影响(H2)
采用Δoutcome ~ sex + (1 | image_id)形式的LMM,以男性为参照,显示Claude和Gemini中存在性别效应,但GPT-5.4中不存在。
Claude Sonnet 4.6显示出最清晰的性别效应。女性患者获得更好的预后调整(β = −0.043,p < .001,表明在1–5量表上向更有利预后偏移)、较低的置信度增加(β = −0.209,p < .001)以及略低的治疗侵入性(β = −0.010,p < .001)。与种族效应一样,这些效应的绝对值较小——预后系数约代表一个有序分类的4.3%——但其方向一致,且对图像层面随机效应稳健。Gemini 2.5 Flash在建模聚类后也显示出显著的性别效应。女性患者获得侵入性更低的治疗(β = −0.015,p < .001)、略差的预后(β = +0.014,p < .001,向更差结局偏移)和较低的置信度(β = −0.054,p = .009)。这些效应未被原始Mann–Whitney检验检测到(其结果为p = .02–0.03,高于Bonferroni阈值),因为独立样本假设膨胀了误差方差。GPT-5.4在任何结局上均未显示性别效应(所有p > .27)。
种族×性别交互效应(H3)
为检验种族/族裔对差值的影响是否因性别而异,我们拟合了析因LMM:Δoutcome ~ race + sex + race×sex + (1 | image_id),并使用Wald χ²检验评估四个交互项(黑人×女性、西班牙裔×女性、亚裔×女性、中东/北非裔×女性)的联合显著性。任何模型或结局均未发现种族×性别交互作用达到显著性(所有联合Wald χ²(4) ≤ 9.34,所有p ≥ .053)。最大的检验统计量见于GPT-5.4置信度(χ² = 9.34,p = .053)和Gemini紧急程度(χ² = 7.51,p = .111),但均未通过校正。这一零结果表明,第3.4节报告的种族/族裔效应在每个模型内对男性和女性患者的作用相似,第3.5节的性别效应在各种族/族裔组间一致。图6展示了最接近交互显著性的两个结局的平行模式。
跨模型比较
图7展示了跨种族/族裔群体、结局和模型的平均差值综合热图,揭示了三种性质不同的敏感性特征。Gemini显示出最弱但非零的效应,集中于黑人患者的侵入性和信心。GPT-5.4显示出效应集中于信心(西班牙裔优势)和侵入性(西班牙裔优势,白人劣势)。Claude显示出最广泛且最具差异化的模式,预后在不同种族群体间呈双向变化,信心在所有非白人群体中一致升高。关键的跨模型发现是,人口学效应的方向具有模型特异性。在Claude对黑人患者给出较差预后的地方,GPT-5.4未显示预后效应。在GPT-5.4对西班牙裔患者信心显示最强效应的地方,Claude的信心效应在所有非白人群体中均匀分布。这种差异强调,人口学敏感性并非大语言模型(LLM)的通用属性,而是每个模型架构、训练数据和对齐程序的独特函数。
按种族和性别分类的分类结局变化
卡方检验考察了分类结局翻转率(诊断、治疗方案、转诊)是否因种族/族裔而异(图8)。对于Gemini,无变化率因种族而异(所有χ² < 3.39,所有p > .49,所有Cramér's V < 0.022)。GPT-5.4在诊断、治疗或转诊方面未显示显著的种族效应(所有p > .87),尽管额外影像指标确实因种族而异(χ² = 13.67,p = .008),黑人患者为2.4%,其他人为0.9–1.3%。Claude在诊断变化率方面显示出边缘性种族效应(χ² = 7.79,p = .100),白人患者变化率最低(12.0%),西班牙裔患者最高(15.5%)。所有Cramér's V值均较小(< 0.034),表明这些分类差异的实际幅度极小。性别对分类结局变化率影响的平行卡方检验在所有模型和结局中均不显著(所有χ² ≤ 2.54,所有p > .11,所有Cramér's V < 0.020),表明诊断、治疗方案和转诊翻转率在男性和女性条件下无差异。
图像复杂度作为调节因素
我们检验了人口学敏感性是否受到图像复杂度(异常牙齿数量,范围0–23)的调节。针对每个结局和模型,计算了复杂度与|Δ|之间的Spearman相关系数。观察到的关联一致较弱。对于Gemini,相关性为负但很小(ρ = –0.047至–0.068);对于GPT-5.4,同样很小(ρ = –0.003至–0.035);对于Claude,较小且方向不一(ρ = –0.002至+0.067)。虽然由于样本量大(每个模型n = 7,050),有几项达到了统计学显著性,但这些相关性的幅度(所有|ρ| < 0.07)表明图像复杂度解释了人口学敏感性方差的不超过0.5%。因此我们得出结论:在本数据集中,图像复杂度对人口学敏感性没有实际意义的调节效应。图9呈现了描述性模式。
拒绝分析(GPT-5.4)
GPT-5.4在8,460次调用中产生了227次拒绝(2.7%)。拒绝率范围为2.1%(亚裔女性、西班牙裔男性)至4.0%(空白对照)。在人口学条件中,拒绝率不因种族(χ² = 1.74,p = .783)或性别(χ² < 0.01,p > .999)而异。两个对照条件的拒绝率在数值上高于人口学条件均值(2.5%)(2.8–4.0%),提示上下文人口学信息可能略微降低了GPT-5.4的不确定性阈值。因此,拒绝由图像层面的模糊性驱动,而非人口学条件,且不太可能使主要分析产生偏倚。为更直接地探究图像驱动的解释,我们使用DENTEX标注将拒绝与图像复杂度和主导病理进行交叉制表。按图像复杂度三分位(n_异常牙齿:低[0–3]、中[4–6]、高[≥ 7])的拒绝率分别为3.0%、2.6%和2.3%,各三分位之间无显著差异(χ²(2) = 2.84,p = .242),尽管n_异常牙齿与拒绝指示变量之间的连续Spearman相关性虽小但呈显著负向(ρ = –0.037,p < .001),表明更多标注病理(如果有的话)与略少的拒绝相关。相比之下,按主导病理分组的拒绝率差异较大:无DENTEX标注的图像为14.2%,阻生牙为5.9%,根尖周病变为4.7%,龋齿为1.6%,深龋为0.1%(χ²(4) = 271.15,p < .001)。按条件类型分组的拒绝率为:空白对照4.0%,“未说明”对照2.8%,人口学条件2.5%(χ²(2) = 5.11,p = .078)。综合来看,这些模式表明GPT-5.4的拒绝集中在影像学上模糊的图像——尤其是那些没有明确病理标注的图像——而非提示的任何人口学配置,并且如果有的话,在缺乏人口学信息时拒绝略多于存在人口学信息时。这些分析支持以下推断:从主要结局分析中排除拒绝病例不会引入系统性人口学偏倚。
敏感性分析
空白对照基线。以空白对照为基准重新计算所有差值,主要发现保持不变。对于Gemini,基线选择的影响极小(37张图像在侵入性上存在差异)。对于GPT-5.4,78张图像在侵入性上存在差异,369张在置信度上存在差异,但种族效应的方向和显著性未变。对于Claude,16张图像存在差异。总体模式——Claude表现出最分化的种族效应,GPT-5.4表现出置信度特异性效应,Gemini表现出最弱的效应——无论基线如何均成立。
排除GPT-5.4拒绝案例。排除227例拒绝案例未改变任何发现的显著性。
排除未标注图像。移除27张DENTEX标注为零的图像未改变任何主要结果。效应量与全样本估计值的偏差保持在±0.001以内。
非参数一致性。补充的Kruskal–Wallis检验和Mann–Whitney检验(不校正图像级聚类但为无分布假设检验)产生的显著性模式与线性混合模型(LMM)大体一致,尽管存在一些差异,反映了独立性假设下误差膨胀的影响(见附加文件1)。参数方法与非参数方法之间的一致性支持主要发现的稳健性。
讨论
据我们所知,本研究是应用于临床医学的多模态大语言模型中规模最大的基于图像的公平性审计。在由705张牙科全景X线片生成的25,380条结构化临床建议中,我们发现所有三个市售大语言模型——Gemini 2.5 Flash、GPT-5.4和Claude Sonnet 4.6——在向其他方面完全相同的提示词中附加患者种族/民族或性别标签时,至少改变了一些临床输出。这些效应在统计学上是稳健的,经受了Bonferroni校正和校正图像内聚类的线性混合效应模型的检验,但绝对幅度较小:任何有序结局的最大固定效应系数不足一个类别宽度的6%。这些发现将日益增长的关于医疗保健人工智能中人口学偏见的文献[7–9]扩展到多模态成像领域,具体而言扩展到牙科放射学——一个人工智能辅助解读正接近常规部署的临床领域[3, 17]。
一个核心发现是,人口统计学敏感性是模型特异性的,而非普遍性的。Claude Sonnet 4.6表现出最具差异化的模式:它在治疗侵入性、预后和置信度方面均产生了显著的种族/族裔效应,其中预后呈双向变化(相对于白人参照,黑人患者更差,亚裔患者更好)。它还表现出最明显的性别效应,为女性患者分配了更好的预后和更低的置信度。相比之下,GPT-5.4将其敏感性集中在置信度评分上,并在治疗侵入性方面对西班牙裔患者表现出最强的单一种族对比,同时未显示性别效应。Gemini 2.5 Flash总体看来最为稳定,但混合效应模型揭示了黑人患者身上存在的小幅系统性效应,这些效应在朴素组间比较中被高组内相关性所掩盖。这种模型层面的差异与Bouguettaya等人[11]的发现相呼应,他们在精神科病例评估中观察到四种LLM之间存在不同的偏差特征,并强化了以下结论:人口统计学敏感性是每个模型架构、训练语料和对齐程序的独特函数,而非该类技术的普遍属性[11]。
统计显著性与临床意义之间的张力是我们结果的一个决定性特征,值得仔细解读。本研究中的有效样本量(经设计效应调整后,每个模型每个种族组约900–1,190)提供了检测极小效应的功效,且部分统计学显著的系数 magnitude 微不足道。例如,Claude下黑人患者治疗侵入性偏移+0.016约相当于一个序数步长的1.6%——远低于临床医生会注意到任何个体建议发生变化的阈值。然而,此类效应的临床意义不应仅在个体层面评估。在人群规模部署中,即使微小的系统性偏移也可能累积为 aggregate 资源配置、转诊模式和医疗成本方面的有意义的差异[7, 18]。独立于幅度之外,这些偏移的方向一致性值得关注:唯一的实验操作是应用于去标识化X线片的人口统计学标签,且放射学内容在各条件下保持不变。因此,这些偏移表明人口统计学线索可测量地影响了模型输出。此类影响是否转化为对任何个体患者具有临床意义的后果,无法通过此设计的审计来回答,因为临床准确性未对照参考标准进行评估。因此,我们将这些结果框定为模型行为中人口统计学线索敏感性的证据,而非临床损害的证据;后者需要对照专家裁定和结局数据进行前瞻性评估。
在对照条件下观察到的模型间一致性极差(原发诊断的Cohen's κ范围为0.009至0.159),这引发了一个不同但相关的担忧。三个模型对同一批放射影像给出了截然不同的临床解读——在Gemini和GPT-5.4诊断为阻生齿超过83%的病例中,Claude诊断深龋的比例为82%——并推荐了相应迥异的治疗方案。这一发现与先前关于大语言模型(LLM)诊断性能在不同架构间存在显著变异性的证据一致[19, 20],并提示在目前的技术状态下,模型的选择对临床输出的影响可能大于任何人口学线索。这种模型间变异性凸显了在临床部署前进行严格的、针对特定模型的验证的必要性,并反对将多模态LLM视为可互换的临床工具。除方法学意义外,我们认为这一分歧本身具有独立的重要性,甚至可能是本研究更具临床紧迫性的发现。三个商业系统均被宣传为适用于临床图像解读,却在同一组去标识化全景放射影像上产生了近乎正交的诊断分布,且未施加任何人口学扰动:Claude几乎从不报告阻生齿,而Gemini和GPT-5.4在超过80%的病例中报告了阻生齿。因此,解读分歧并非围绕共同信号的噪声,而是反映了关于同一图像所示内容的质性不同的模型层面先验。由于我们未将这些输出与专家金标准进行基准比对,我们无法确定哪个模型(如有)在临床上是正确的;对部署而言,相关要点在于该问题的答案在不同模型间并不一致。人口学线索敏感性建立在这一基线分歧之上:即使我们观察到的每个人口学偏移都降至零,患者所接受的诊断建议仍可能更多取决于供应商的选择而非放射影像内容。我们敦促考虑在牙科分诊或决策支持中使用多模态LLM的专业学会和监管机构,将针对特定模型的、以专家参考标准为对照的可靠性评估作为部署的前提条件,并对将此类系统的输出作为可互换的第二意见呈现持谨慎态度。
我们的发现,在口腔健康方面有充分记录的种族和社会经济差异背景下,具有特别的相关性。在美国,黑人成年人比白人成年人显著更有可能存在未满足的牙科需求、因牙科照护前往急诊科就诊以及经历牙齿缺失[12, 21]。如果人工智能辅助的牙科分诊或治疗规划系统引入哪怕很小的额外差异——例如,通过系统性地建议对某些种族群体采用略微更具侵入性的治疗——它们可能会加剧而不是缓解现有的不平等。我们的研究恰好发现了这一模式(在Claude下,黑人、亚洲人和中东患者的侵入性增加;在GPT-5.4下,西班牙裔患者的侵入性增加;在Gemini下,黑人患者的侵入性增加),这一事实使这种担忧不再只是假设。尽管在当前实验范式中的效应量较小,但效应的方向与更广泛的大语言模型偏见研究中记录的模式一致,在这些研究中,少数种族被引导至更具侵袭性或侵入性的照护路径[9, 22]。
GPT-5.4仅对人口学字段标签的存在就表现出敏感性——即使填写的是“未说明”——这凸显了人口学线索敏感性的一个更微妙维度。这种对提示结构的反应性表明,一些模型不仅受到人口学信息内容的影响,还受到人口学信息与任务相关这一隐含信号的影响。这一发现对临床人工智能界面的设计具有直接影响:纳入人口学输入字段,即使作为可选或默认空白元素,也可能本身改变模型行为。因此,临床人工智能系统的开发者应仔细评估人口学字段对于给定应用是否必要,如果必要,则应系统审计这些字段的存在——无论是否填写——如何影响模型输出。
有几项局限性限制了对我们结果的解释,并界定了我们所得结论的范围。第一,整个审计依赖于每个模型的单一提示模板。由于本设计中的实验信号在构造上就是每个模型对那一提示结构的反应,且仅人口学字段发生变化,因此我们的发现最好被理解为在这一特定提示表述内的人口学线索敏感性证据,而非模型行为的普遍属性。替代性提示结构——例如省略显式人口学字段而以叙事方式嵌入身份信息的提示、使用不同字段顺序的提示,或加入少样本示例或思维链指令的提示——有可能减弱、放大或改变此处观察到的效应方向。本研究报告的人口学线索敏感性是否能在此类变化中推广,是一个实证问题,需要未来的多提示审计来回答。第二,与此相关,提示在所有条件下保持所有临床内容恒定;在真实世界部署中,提示通常会包含年龄、病史、主诉和病例特异性临床推理文本,而此类协变量与人口学线索之间的交互作用在此尚未探索。第三,DENTEX基准尽管提供了标准化的、专家标注的全景放射片,但其开发目的是用于牙级病变检测,而非作为治疗计划、预后评估或转诊决策的参考标准。因此,我们所引出的结局变量——治疗侵入性、紧迫性、预后、转诊类型等——在DENTEX中没有真实标签,我们的分析应被解读为对模型在人口学线索条件下的差异化行为的评估,而非对临床正确性的评估。我们所观察到的人口学线索偏移是否对应于临床上适当或不适当的变化,无法从本研究中确定,将需要针对专家裁定或下游患者结局数据进行前瞻性评估。第四,鉴于我们即使在无人口学线索的情况下也观察到模型间诊断一致性极差,我们的发现无法说明人口学偏移是否对应于实际临床危害或对任何个体患者的不适当治疗建议;我们将主张限于模型输出的差异化层面。第五,选择零温度确定性解码以确保可重复性,但不能代表模型在更高采样温度下的全部行为范围。第六,来自三个提供者的三个模型,在单一数据收集窗口内评估,无法表征快速演变的多模态大语言模型格局;更新的模型版本和其他提供者可能表现出不同的人口学线索特征。第七,用作线索标记的人口学类别是粗略的且为社会建构的,模型对任何给定标签的反应本身是训练数据、对齐程序和语境关联的函数,而非任何群体的固有属性。最后,本研究仅评估了明示的人口学线索;由姓名、照片、语言语域、保险类型或其他间接身份信号驱动的差异化行为将需要不同的审计设计。
尽管存在这些局限性,本研究结果对医疗保健中多模态人工智能的负责任开发和部署具有若干启示。首先,它们表明,常规的人口学线索审计——采用保持临床内容不变的图像内、条件间设计——在大规模上是可行且具有信息价值的,应被纳入部署前评估流程。其次,这些敏感性特征的模型特异性意味着公平性评估不能跨模型推广;每个系统都需要自己的评估,最好使用标准化审计方案[17, 23]。第三,所有三个模型无论其总体准确性或校准如何都表现出一定程度的人口学敏感性,这一发现表明仅靠对齐程序不足以消除人口学线索敏感性,针对性的缓解策略——如提示工程、输出校准或后处理公平性约束——值得研究。未来工作应将这一范式扩展到其他成像模态,纳入更丰富的临床背景,评估纵向模型版本以追踪线索敏感性特征是否随时间改善或漂移,并评估当模型整合到真实临床工作流程中时,此处观察到的小统计效应是否会转化为有意义的结局差异。
结论
三个商业多模态大语言模型——Gemini 2.5 Flash、GPT-5.4和Claude Sonnet 4.6——在提示中加入患者种族/民族或性别标签后,对同一张全景放射片改变了其结构化临床建议。这些变化在绝对值上很小,从未超过一个序数类别约6%,但在线性混合效应模型下具有统计学稳健性,且模式具有模型特异性。Claude最为敏感,对治疗侵入性、预后和置信度均有影响;GPT-5.4的敏感性集中在置信度上,并针对西班牙裔患者产生了其最强的单一语种对比;Gemini最为稳定,但也并非不受影响。我们未发现任何模型中种族和性别存在交互作用的证据。
第二个观察结果至少同样重要。即使在添加任何人口学线索之前,三个模型对同一张放射片所示内容就已存在分歧:相同对照提示下主要诊断的Cohen's κ范围为0.009至0.159——接近随机一致性。在实际意义上,临床医生当前查询哪个模型对患者获得的建议的影响,比病例附带的哪个人口学标签更大。由于我们未将这些输出与专家金标准进行基准比较,我们将结果定位为模型行为中人口学线索敏感性的证据,而非临床偏倚的度量,并告诫不要将商业多模态大语言模型视为牙科放射影像解读的可互换工具。
人口学线索审计应与模型特异性可靠性评估并列,作为部署的前提条件,尤其是在口腔健康中种族和社会经济不平等已被充分记录的牙科领域。此处使用的图像内、条件间设计在大规模上可行,并可适应其他成像模态。在此类审计表明人口学线索不会可测量地改变模型输出之前,将这些系统整合到面向患者的决策支持中应缓慢推进并在人类监督下进行。
引用
- Saravi B, Winkler I, Singh DD, et al. Demographic prompt cues shift clinical recommendations in multimodal large language models: a multi-model audit of 25,380 dental radiograph assessments. BMC Oral Health. 2026. PMID: 42210248. doi:10.1186/s12903-026-08644-5
- 全文:PMC13262511(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC13262511/
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。