用户需谨慎：大语言模型在为肾功能受损患者提供精准剂量建议时的不准确性与不一致性——病例系列

引言

急性肾损伤(AKI)患者和接受连续性肾脏替代治疗(CKRT,以前称为连续性肾脏替代治疗,或CRRT)的患者代表了一个具有高死亡风险的脆弱群体[1, 2, 3]。这些患者常常因危重疾病本身的生理改变和体外药物装置而出现药物代谢动力学(PK)改变[4, 5]。尽管存在这些PK改变,但关于许多对AKI患者和接受CKRT患者给予的关键药物的适当剂量,数据仍然匮乏[5]。

在过去几年中,人工智能(AI)越来越多地被研究和用于丰富医学实践。具体而言,ChatGPT和其他大型语言模型(LLMs),即能够生成类似人类语言文本的计算机程序,由于其易用性和快速性,在支持临床医生方面引起了兴趣[6]。一些模型,如OpenEvidence,已经在医学文献上进行训练,并专门面向支持医疗服务提供者进行临床决策的市场[7]。LLMs在医疗保健中的现有和拟议应用包括协助临床文档记录和工作流程支持、增强患者沟通和教育、从现有报告中提取药物安全性数据,以及临床决策支持[8, 9]。现有综述[6, 8]强调,尽管存在这些潜在应用,但LLMs具有严重的局限性,在将其输出用于患者护理之前必须加以考虑。这些局限性包括缺乏针对医学背景的优化、不全面性(例如,提供过于笼统或不完整的建议)、不可重复性(即,对反复给出的相同提示收到不同的答案)、提供可验证的错误信息,以及引用文献的纳入不一致或不正确。

尽管存在这些局限性,但鉴于LLMs对最终用户的可及性,以及它们能够快速生成类似真实人类交流的查询响应,临床医生可能会使用LLMs为肾功能不全患者提供剂量建议,包括为接受CKRT的患者提供剂量建议。因此,我们评估了一部分免费可用的LLMs在为肾功能不全患者(包括接受CKRT的患者)提供基于文献的适当剂量建议方面的潜在准确性和一致性。

方法

确定了六个对最终用户免费可用的LLMs:ChatGPT、Claude(Anthropic)、Google Gemini、Microsoft Copilot、OpenEvidence和Perplexity。

将以下每个病例(逐字)输入到每个LLM中(缩写定义见附录A):

提示1:我有一名25岁女性患者,体重60 kg,已发生3期急性肾损伤,无尿24 h;血清肌酐为3.0 mg/dL,昨天为1.5 mg/dL。您会推荐什么样的头孢吡肟给药方案来达到100% fT > 1×和4× MIC的药效学目标,针对假单胞菌使用8 mg/L的MIC?

然后,一旦提供了初始响应:您能解释一下是如何得出这个结论的吗?

提示2：我有一位11岁男性35 kg患者，因骨髓移植后并发症导致急性肾损伤而使用PrisMax和HF1000滤器接受CRRT，正在接受CVVHDF治疗，总effluent流量为2000 mL/h/1.73 m2。患者无尿。针对铜绿假单胞菌，使用MIC为8 mg/L，您会推荐什么样的头孢吡肟给药方案来达到100% fT > 1×和4× MIC的药效学目标？注：在LLM提示中特意使用了传统的CRRT命名法而非最近的CKRT，以确保识别和纳入尽可能多的既往发表文献。

然后，一旦提供初始回答后：您能解释一下是如何得出这个结论的吗？

提示3：我有一位2岁女性10 kg患者，因急性肾损伤和急性肝功能衰竭而使用PrisMax和HF20滤器接受CRRT，正在接受CVVHD治疗，总effluent流量为8000 mL/h/1.73 m2以帮助氨清除。患者体表面积为0.3 m2。患者在治疗期间仍有尿量2 mL/kg/h。鉴于临床上担心感染，我们希望以充足的剂量和频次给予美罗培南，以达到针对铜绿假单胞菌100% fT > 1×和4× MIC的药效学目标，使用MIC为2 mg/L。请使用已发表的群体药代动力学模型来支持您的答案。

然后，一旦提供初始回答后，您能解释一下是如何得出这个结论的吗？

然后，一旦提供第二次回答后：如果患者变为无尿，您会如何调整？

病例的选择基于研究者的临床和科研专业知识，旨在代表临床复杂性和证据不确定性的递进，范围从年轻成人AKI患者的常用抗菌药物到涉及较小体型、不同CKRT强度和残余肾功能的儿科场景。为了对回答进行情境化，我们基于自己对该主题文献的回顾以及作为肾脏科医师、临床药理学家、重症监护医师和药师的临床经验，连同医院常用药物参考资料LexiComp中的给药推荐，制定了潜在的"正确"答案[10]。该共识基于在将病例输入LLM之前，对每个病例独立回顾文献和实时同步讨论后的小组一致意见。为简洁起见，我们的共识推荐在此后被描述为"主要文献"。然后我们解析每个回答以识别推荐的负荷剂量、维持剂量、输注时间和给药间隔。随后评估维持剂量与主要文献和LexiComp推荐的一致性。一致性定义如下：一致（相同剂量、间隔和输注时间）、部分一致（相同每日总剂量但不同间隔或输注时间）或不一致（不同每日总剂量）。详见图1。由于负荷剂量在文献和LLM输出中的报告不一致，一致性仅基于维持剂量与文献推荐进行评估。有时，LLM在被要求解释如何得出所提供结论时会调整回答。在我们的汇总表中，我们仅呈现了LLM提供的第一次回答，因为这是与LLM互动的用户首先看到的内容。

六位用户中的每一位在2025年7月22日至2025年9月30日期间输入了这些提示词。我们使用了当时可免费获得的（非订阅）版本的LLM，除了用户拥有Microsoft Copilot机构订阅的情况（审稿人2和5）。Microsoft Copilot和OpenEvidence未提供用于驱动AI助手的具体软件迭代版本信息。对于其余的LLM，所使用的软件分别为ChatGPT的GPT‐5迭代版本、Claude‐Anthropic的Claude 3.5 Sonnet 4、Google Gemini的Gemini 2.5 Flash，以及Perplexity的Sonar Llama 3.3。

考虑到每个LLM的先前使用可能影响所提供的输出，我们要求每位研究者描述他们在参与本项目之前使用每个LLM的既往经验。如果研究者在研究前从未使用过该LLM，则归类为"无"；如果使用少于5次，则归类为"极少"；如果使用5-15次，则归类为"中等"；如果使用超过15次，则归类为"广泛"（表S1）。

此外，我们不仅有兴趣描述每个LLM在不同用户之间提供的应答变异，还包括当一位用户多次向同一LLM提供相同提示词时应答的变异。因此，我们让每位研究者向单个LLM提供三次相同系列的提示词，在每次迭代之间关闭浏览器并打开新的浏览器会话。迭代间一致性被归类为：(i) 无一致性（三次应答均不同），(ii) 部分一致性（三次应答中有两次匹配），或 (iii) 完全一致性（三次应答均匹配）。最后，如果三次迭代均提供相同应答，则将其量化为三对（1-2、2-3和1-3）。此外，我们将每次迭代中推荐的每日总剂量的百分比变异指定为最低维持剂量推荐值的函数（例如，从200 mg到2000 mg的变异将被定义为900%变异）。

为了描述每个LLM似乎用于得出其剂量推荐的"推理"过程，我们审查了每个LLM的文本输出以评估一系列预定义标准。如果LLM在响应初始提示词时或在被要求提供理由时执行了以下任何操作，我们将该应答定性为"是"：

首先，我们查看应答中是否使用了PK方程，如果使用了，所使用的方程是否适当且合乎逻辑？PK方程被定义为将患者信息与主要或次要PK参数（如清除率、分布容积或半衰期）相关联的方程；仅涉及肾功能（如估算肾小球滤过率）、CKRT参数（如流出液流速）或剂量计算（如用基于体重的剂量乘以体重）的方程不被视为PK方程。

其次，考虑到LLM虚构不存在来源的潜在风险，我们识别是否引用了原始文献来源。如果引用了来源，我们调查所提及的来源是否能追溯到真实文章，或者这些文章是否由LLM虚构，这些来源是否针对患者的年龄，以及这些来源是否针对患者的病情（即根据提示词而定的AKI和/或CKRT）。

第三，鉴于LLM的输出即使在不正确或基于有缺陷的假设生成时也可能给出表面上真实的外观，我们识别了LLM回答问题的能力中的不确定性是否在回复中得到承认。

第四，鉴于这些人群中β-内酰胺类药物暴露的不确定性和个体间变异性，我们识别了LLM的回复中是否推荐了治疗药物监测（TDM）。

第五，由于我们的提示要求LLM评论能够达到严格药效学靶点的药物方案，我们查看了LLM是否明确评论了血浆药物浓度超过最低抑菌浓度的时间量（T > MIC）。

最后，由于人们担心β-内酰胺类药物过度暴露会产生神经毒性，特别是头孢吡肟，我们识别了LLM是否在回复中提到了神经毒性，无论毒性相关药物暴露如何量化（最大浓度或Cmax、最低浓度或Cmin、浓度-时间曲线下面积或AUC等）。

结果

表S2中提供了每个用户针对每个患者场景推荐的剂量。不同用户之间在每日总剂量、给药间隔和输注时间方面的回复存在显著差异。与主要文献推荐的一致性范围很广：OpenEvidence为94.3%，Copilot、Claude和Perplexity为69.3%，ChatGPT为50%，Gemini为27.9%。与Lexicomp推荐的一致性遵循类似模式，OpenEvidence为72.3%，Copilot为69.3%，Perplexity为63.7%，ChatGPT为41.7%，Claude为27.7%，Gemini为5.7%。

表S3中呈现了各个用户对给定LLM在多次迭代中给出相同提示所推荐的剂量。迭代之间的回复经常存在显著差异。每个提示的三次迭代中相同推荐配对的平均数量为：OpenEvidence为2.25，Perplexity和Copilot为1.5，Gemini为0.75，ChatGPT为0.5，Claude为0.25。维持每日剂量的平均变异百分比为：OpenEvidence为50%，Claude为108%（尽管Claude偶尔拒绝提供推荐，这未反映在此百分比中），Copilot为126%，Gemini为248%，Perplexity为263%，ChatGPT为469%。

表1总结了每个LLM提供的"推理"。大多数LLM在其许多回答中使用了PK方程，其中ChatGPT使用最频繁（83%的时间），尽管OpenEvidence和Perplexity从未使用过它们。当存在PK方程时，这些方程通常适用于手头的问题（95%的情况），尽管方程通常只是关于分布容积和半衰期的简单PK方程，并且偶尔会出现算术错误。所有LLM至少在某些时候引用了文献来源，OpenEvidence无一例外地引用了它们，而Claude和Gemini仅在33%的情况下引用了它们。OpenEvidence和Perplexity提供的文献来源均真实且恰当地针对患者的体重和医学状况，而Gemini提供的文献来源中有三分之一以及Claude提供的约六分之一是虚构的。Claude在报告其自身对回答问题的不确定性方面表现一致；然而，在所有LLM中，平均仅有37%的时间承认了不确定性。几乎所有（98%）回答都推荐了TDM。所有回答都认可了最大化T > MIC这一治疗目标；毒性在88%的回答中被频繁提及。

讨论

在本研究中，我们评估了免费可用的LLM在被要求为三个假设的AKI患者和接受CKRT的患者病例生成抗生素剂量推荐时的准确性、一致性和推理过程。我们发现LLM生成的推荐存在显著差异，经常与主要文献不一致，并且在不同用户之间以及在相同提示的重复迭代内都存在明显的不一致性。总体而言，这些结果强调了LLM应用于伴有肾功能障碍的危重患者药物剂量时的重要局限性，而在这一领域，精确性、透明度和生理学基础至关重要。

AKI和CKRT中的药物剂量本质上是复杂的。抗生素清除不仅反映了残余肾功能，还反映了CKRT模式、流出液速率、滤器特性、肝功能、蛋白结合、分布容积以及液体平衡和灌注的快速变化。即使在专家中，剂量推荐通常也涉及范围而非单一的"正确"答案。然而，在这里观察到的变异程度，对于同一临床情景，每日维持剂量相差高达1000%，远远超出了临床可接受的范围。

重要的是，在这些病例中看到的不一致性并不局限于LLM平台之间的差异。对同一模型的相同提示的重复迭代产生了实质上不同的推荐，这反映了概率语言生成输出的固有局限性。尽管具有非确定性输出在创造性或探索性任务中可能是有利的，但它与临床场景根本不一致，因为在临床场景中用户依赖于可重复的、可辩护的指导。当LLM输出以自信、权威的语言呈现时，这种担忧会被放大，可能掩盖潜在的不确定性，并且可能被早期学习者误解为单一的"正确"答案，而专家可能认识到可能存在适当剂量方案的范围。

尽管LLMs经常明确使用PK方程或机制推理来证明给药建议的合理性，但方程中内置的基本假设和输出并不总是内部一致的。例如，在一次迭代中，Claude在大约一半的响应中使用了PK方程，正确地使用数学计算确定体表面积（BSA）标准化的CKRT清除率8000 mL/h/1.73 m2对于BSA为0.3 m2的儿童将对应总清除率约1390 mL/h，并使用基本的一级PK方程从现有的美罗培南群体PK模型中确定预期清除率、分布容积和半衰期。然而，Claude随后推荐维持剂量为320-400 mg/day持续输注，但未明确说明如何得出此剂量，错误地报告这将对应13-17 mg/kg/h（对于10 kg的儿童，这将对应32-40 mg/kg/day或1.3-1.7 mg/kg/h）。该输出在两个方面是错误的：总日剂量远低于文献共识的80-120 mg/kg/day持续输注，且将mg/day与mg/kg/h相关联的数学计算是不正确的。然而，对于快速浏览的最终用户而言，方程的出现可能显得相当有说服力，除非对数学方程进行批判性解析。这种机制严谨性的表象可能比完全不提供答案更危险，因为它可能误导用户相信不正确的建议。因此，在直接用于患者护理之前，LLM输出必须由具有该领域专业知识和敏锐洞察错误及不一致性能力的用户进行审查。

同样令人担忧的是参考文献使用的不一致性。除了明确基于医学文献训练的OpenEvidence和始终引用相关文献的Perplexity外，许多LLMs要么不准确地引用来源，引用不相关的指南，或生成无法验证的引用。在AKI或CKRT中抗生素给药这样的高风险环境中，引用虚构不是一个微不足道的缺陷：它直接破坏了建议的可信度，并可能错误地让用户确信指导是基于证据的，而实际上并非如此。

我们研究中的几个提示故意纳入了临床模糊性（例如，AKI无尿患者其肾功能恢复的可能性不确定）。然而，大多数LLM响应未能承认这种不确定性应如何影响给药决策，也未普遍讨论随着肾功能演变的动态重新评估。Claude是一个显著的例外，始终承认不确定性，但即使在这里，这也未能可靠地转化为更一致的给药建议。

为了更好地理解这些局限性，有必要认识到，大型语言模型（LLM）主要基于群体层面的数据和静态文本进行训练[11]。更具体而言，它们是所谓的自回归"神经网络"，被训练用于估计"词元"序列上的条件概率分布，通过从这些分布中采样来生成响应，而非执行真正基于规则的逻辑或机制性计算[12]。其行为由海量文本预训练以及来自人类反馈的强化学习（RLHF）共同塑造，这一过程将流畅性、连贯性和感知上的有用性置于内部一致性或数值正确性之上[13]。也就是说，LLM通过概率性词元预测生成输出，而非执行机制性或基于规则的计算。因此，它们通过模式识别来近似给出给药建议，而非运用药代动力学（PK）原理。结果是，除非受到明确约束，LLM不会执行PK计算或运用质量守恒原理，而是通过与训练数据中文本示例进行模式匹配来近似给出给药建议。

这种概率采样框架引入了固有的非确定性，即使采用完全相同的提示词，重复查询也可能产生有实质差异的输出，对于没有单一主导文本"答案"的任务尤为如此，而急性肾损伤（AKI）和连续性肾脏替代治疗（CKRT）中的药物剂量调整恰属此类情形。也就是说，LLM并不具备生理学或PK系统的内部表征；它们不会利用清除方程、质量守恒或时间依赖模型来"求解"给药问题，而是从训练数据的文本关联中推断出听起来合理的建议。因此，本研究中观察到的极端迭代间变异性——包括某些模型维持剂量变异超过400%——并非异常现象，而是模型设计的可预期后果。

在高风险场景中，正确给药依赖于将患者特异性参数整合到机制性模型中，上述特性使LLM容易生成自信但内部不一致的建议，且这些建议可能并不以药理学基本原理为依据。因此，LLM难以纳入纵向变化或更广泛的临床背景信息，包括可能对抗生素PK及毒性风险产生实质影响的合并症或合并用药。明确而言，给予亚治疗剂量可能导致抗菌效果不足和治疗失败，而超治疗剂量的β-内酰胺类抗生素，尤其是头孢吡肟，可能导致神经毒性[14]。本研究中在某些AKI场景下出现的潜在超治疗或毒性剂量建议（例如，Microsoft Copilot两次向一名无尿患者推荐每日4000–6000 mg的头孢吡肟维持剂量），突显了在未设置明确安全保障的情况下将这些基于概率的输出应用于个体患者的危险性。

值得关注的是，LLM日益增长的可及性引发了重要的伦理和医学法律问题。当人工智能生成的建议导致患者受到伤害时，责任仍由临床医生承担，但LLM输出的不透明性与权威感可能使临床决策和知情同意更加复杂。目前，尚无针对通用LLM在药物剂量调整临床应用方面的标准化监管框架，亦无关于责任划分的明确指引。

此外，成本、计算基础设施和机构监督等实际考虑因素仍未得到解决。尽管免费可用的模型降低了获取门槛，但它们也绕过了临床决策支持工具所期望的传统验证、版本控制和质量保证机制[15]。

我们的研究结果并不表明大语言模型（LLMs）在临床药理学中缺乏价值。相反，许多回答在假设生成、一般原则综合以及相关文献检索方面显示出实用性。审慎使用时，这些工具可能提高临床医生的效率并支持教育[16]。因此，值得注意的是，2025年一项针对约1400名执业临床药师的调查发现，尽管约三分之一的人对人工智能（AI）存在固有的不信任，但约三分之二的人认为AI可以增强其专业有效性和生产力[17]。无论如何，我们的结果清楚地表明，LLM生成的剂量推荐不应单独用于急性肾损伤（AKI）或连续性肾脏替代治疗（CKRT）的直接患者护理。

此外，本研究中的不一致不应仅仅被解释为LLM生成的回答与我们对原始文献的审查之间的分歧。我们裁定的参考标准反映了对原始文献的跨学科综合以及肾脏病专家、临床药理学家、重症监护专家和临床药师的应用临床专业知识。这种区别在临床上具有相关性，因为向LLMs提出的许多问题反映了现实世界场景，在这些场景中，可能在临床医生有时间、文献获取途径或专家支持来进行全面审查之前就需要寻求可立即采取行动的答案。事实上，LLMs的吸引力部分源于这一差距：它们可以在几分钟内生成连贯的回答，而专家综合可能需要大量的时间、订阅资源的获取以及多学科解读。因此，我们的研究结果不应被理解为LLMs是在与任何临床医生在常规时间限制下在床边所能重现的内容进行比较。相反，我们有意评估当前的LLMs是否能够在复杂的肾脏病学和药物治疗场景中近似于高质量、专家知情的答案。因此，观察到的不一致既凸显了LLM使用的前景，也凸显了其风险：这些工具可能在肾脏病学或临床药学专业知识获取受限的环境中最具吸引力，但这些相同的环境也可能最不具备识别细微不准确、遗漏或过度自信推理的能力。

一个更有希望的未来方向可能涉及利用LLMs来改善已策划的权威资源（如原始药代动力学（PK）研究、剂量汇编和机构指南）的可及性和可用性，而不是要求它们生成全新的推荐。在受监管的临床决策支持系统中整合透明的假设、机制性PK模型和实时患者数据，最终可能提供更安全和更可靠的结果[18]。

我们的研究存在几个局限性。首先，一致性是根据我们对基于文献标准的解释进行评估的，而这些标准本身反映了临床实践中正在进行的争论和异质性。因此，一致性的确切百分比可能会因"正确性"的定义方式而有所不同。也就是说，即使在保守的定义下，模型之间的实质性差异仍然存在。其次，提示词必然简化了复杂的临床场景，并且我们没有评估这些平台的付费版本或企业版本，它们在性能上可能有所不同。第三，对于这项探索性研究，我们仅查询了三个临床场景。未来的研究可以通过更系统地查询额外的迭代来加强这一分析（例如，成人与儿童、有或没有CKRT的AKI、高与标准透析液流量的CKRT以及最少与大量残余尿量的CKRT的每种可能组合）。第四，我们提供的提示词有意非常具体，以鼓励LLMs提供我们可以与现有已发表文献进行具体比较的答案；然而，这可能不能推广到药理学经验较少的用户对LLM的使用，这些用户可能使用细节更少、特异性更低的提示词来寻求建议。第五，在许多情况下，病原体和/或MIC是未知的，必须进行经验性给药，因此这种精确的临床情景可能不适用于许多临床环境。第六，纳入具有使用各个LLMs不同经验的用户以及一些拥有机构订阅的用户，削弱了本研究的内部效度；也就是说，由于现实生活中的LLM用户在与它们互动时具有不同的订阅组合和对每个LLM的先前个人使用经验，我们认为这种异质性的"真实世界"性质有助于研究结果的推广性。第七，本研究应被解释为描述性病例系列而非假设检验分析。由于仅制定了三个病例，无法进行正式的统计分析，研究结果应被视为探索性和假设生成性的。需要来自更多地点的LLM用户的更多病例来确定这里观察到的模式是否可重复，并支持更明确的结论。最后，我们的研究结果代表了某个时间点的快照；已知LLM行为会随时间演变，有时以不可预测的方式，包括迭代之间一致性的变化。在本研究进行后1年、2年或3年使用相同提示词进行的研究很可能会产生有意义的不同结果，因此应继续随时间纵向和迭代地评估AI性能。

结论

当使用三个提示时,免费可用的大型语言模型(LLMs)为急性肾损伤(AKI)并接受持续肾脏替代治疗(CKRT)的患者生成的抗生素剂量推荐具有高度可变性,推理不一致,且常与同行评议文献中现有数据的共识综述以及三级参考文献不一致。自信的呈现方式、有限的基于药代动力学(PK)的推理、引用虚构以及不可重复性的组合,在高风险临床环境中构成了重大风险。在这些局限性得到解决之前,大型语言模型应被视为用于探索和教育的辅助工具,而不是在肾功能障碍危重患者中替代专家判断、机制推理或循证剂量策略的工具。

作者贡献

H. Rhodes Hambrick:概念构思、数据管理、形式分析、撰写原稿、方法学、项目管理、撰写审阅和编辑、研究调查。Samuel Dubinsky:概念构思、方法学、数据管理、撰写审阅和编辑、研究调查。Danica Quickfall:概念构思、方法学、数据管理、撰写审阅和编辑、研究调查。Shannon Reinert:概念构思、方法学、数据管理、撰写审阅和编辑、研究调查。Sonya Tang Girdwood:概念构思、监督指导、数据管理、方法学、研究调查、撰写审阅和编辑。Gideon Stitt:概念构思、方法学、监督指导、撰写审阅和编辑、数据管理、研究调查。

资助

作者无需报告。

利益冲突

作者声明无利益冲突。

支持信息

表S1:在开始项目前使用大型语言模型的经验(截至7/22/25)。

表S2:每个用户提示每个大型语言模型时提供的首次剂量推荐与来自主要文献共识综述和LexiComp中可用推荐的比较总结。与主要文献和LexiComp的一致性被分类为一致、部分一致(如果每日剂量相同但输注时间或给药间隔不同)或不一致(如果推荐的每日总剂量不同)。

表S3:给定用户多次迭代间一致性的评估。