KAIST提出让大语言模型学会辩证思考的临床风险预测框架TRIAGE

这项研究由韩国科学技术院（KAIST）联合人工智能公司AITRICS以及威斯康星大学麦迪逊分校共同完成，发表于2026年6月，论文编号为arXiv:2606.09030。

每天，世界各地的重症监护室里都上演着同样的场景：医生需要在海量的生理监测数据中，快速判断哪位患者情况最危急，需要立即介入。心率、血压、血氧、血液化验……这些数字以不规则的频率被记录下来，有时每隔几分钟，有时相隔数小时，构成了一张密密麻麻、参差不齐的数据网络。用专业术语来说，这叫做“不规则采样的医疗时间序列数据”，而对医生来说，这就是他们每天面对的真实世界。

现在，研究人员希望用人工智能来辅助这项判断。然而，当他们把最先进的大语言模型引入这个场景时，却发现了一个令人头疼的问题：AI太“自信”了。它总是斩钉截铁地说“这个人会死”或者“这个人没事”，却从来不说“这个人大概有三成的风险”。这种过度自信不但没有帮助，反而让医生无法据此对不同患者进行排序，不知道该先处理谁。

这支研究团队的贡献，就是找到了这个问题的根源，并提出了一个他们称之为TRIAGE的解决框架——字面上是“分诊”的意思，也是“通过检查不同结果来做有根据的风险估计的时间序列推理”的英文缩写。TRIAGE的核心思路说起来并不复杂：让AI在给出判断之前，同时为“患者会康复”和“患者会死亡”这两种可能分别写出支持理由，就像一个辩手要同时准备正反两方的论点一样，然后再根据这场内心的辩论给出最终的概率判断。实验结果显示，这套方法让AI的区分能力提升了3.3%，同时把校准误差——也就是AI“说话算数”的程度——降低了整整81%。

一、AI医生为什么总是“非此即彼”

要理解TRIAGE解决了什么问题，得先理解问题本身是怎么来的。研究团队在正式提出方法之前，做了一系列侦探式的调查工作，专门追踪AI为什么会在临床风险预测上表现失常。

他们用一个顶级的大语言模型在真实的重症监护室数据集上做实验。当这个模型只被要求直接回答“这个患者会死吗？”时，它给出的预测概率在不同患者之间有一定的差异，平均概率大约是86.4%，但标准差有18.8%——这意味着有些患者它认为危险，有些患者它认为安全，至少还有基本的区分能力。

然而，当研究人员要求模型先给出分析思路再做判断——这是当下最流行的“思维链”做法——情况急转直下。几乎对每一个患者，模型给出的死亡概率都超过了99.98%，方差趋近于零。换句话说，它认为几乎所有人都必死无疑，这样的判断根本无法用来区分风险高低。

研究人员把这个现象命名为“风险极化问题”。就像一个推荐系统如果对所有电影都给五星评价，那它的评分就毫无参考价值一样，一个对所有患者都预测100%死亡的风险系统，也失去了存在的意义。

通过仔细分析AI生成的推理过程，研究团队找到了两个根本原因。第一个原因是“预先定罪”：AI在推理的过程中往往会在最后几句话给出一个明确的裁决，比如“因此，这位患者很可能会死亡”，然后紧接着才是最终的答案标记。这个裁决句出现后，AI几乎无法再做出相反的判断——它已经被自己的前一句话“绑架”了。研究团队通过让另一个AI担任裁判来检验这一点，发现高达71.7%的推理过程都包含这种预先裁决句。

第二个原因是“单边确认偏误”：AI倾向于只寻找支持自己初始判断的证据，而忽略相反的证据。医学现实是，一个重症患者的数据往往同时包含病情恶化的信号和病情稳定的信号——肾功能可能在下降，但血压可能在好转。AI的推理却经常只挑其中一面来说。研究团队设计了一个简单的验证：在提示词里加上一句“请同时权衡患者存活和死亡的证据，再做判断”，结果AI的区分精度（AUPRC指标）从27.8%提升到了30.2%，校准误差也显著下降。这说明单边推理确实是个系统性的缺陷，而双边推理是更好的思维惯性。

这两个发现成为了TRIAGE整个设计哲学的基石：要让AI在推理时同时站在控辩双方，然后从它生成的完整推理文本中提取一个连续的、可比较的风险概率，而不是用一个强制性的语言裁决来“锁死”答案。

二、TRIAGE是怎么工作的：一场有组织的辩论

TRIAGE的运作方式，可以用法庭辩论来理解。传统方法就像只让检察官发言，然后立刻宣判；而TRIAGE的做法是让检察官和辩护律师都充分陈词，法官在听完双方论点之后，根据自己的内心确信程度来判断胜诉概率——而这个“内心确信程度”，就是最终输出的风险分数。

具体来说，当TRIAGE面对一个患者的数据时，它会生成两份独立的分析报告。第一份报告假设这个患者最终康复出院，然后在实际观测到的数据中寻找所有支持这一假设的证据：哪些指标是正常的，哪些趋势是向好的，哪些信号显示器官功能在恢复。第二份报告则假设这个患者最终在院内死亡，同样在真实数据中寻找支持证据：哪些指标异常升高，哪些趋势在恶化，哪些信号预示着多器官衰竭。

这两份报告的顺序可以互换，研究团队实际上同时训练了两个顺序的版本，这样的数据增强让模型更加稳健。

关键的创新在于最后一步如何得出风险分数。传统方法是让AI说“我选择1（代表死亡）”，然后从AI对“1”这个词的语言概率里提取置信度。TRIAGE的做法不同——它在两份报告之后只设置了一个简单的“最终决策”标记，然后读取AI在此位置对“0”（代表康复）和“1”（代表死亡）这两个词的对数概率，做一个简单的归一化，得到的就是风险分数。

为什么这样做更好？因为在两份辩词都已经呈现完毕之后，AI还没有被任何一方的裁决句“绑架”，它只是安静地站在那个决策位置上，受到所有已展示证据的共同影响，因此输出的概率能更真实地反映两方证据之间的相对强弱，而不是被最后那句“因此，患者必死无疑”所主导。

在数据的处理上，TRIAGE遵循了一个原则：只用患者真实观测到的数据，拒绝发明任何不在记录中间出现的信息，如果某种结果根本找不到支持证据，就让对应的辩词区域留空。这个约束保证了推理的诚实性，防止AI在没有依据的情况下捏造临床细节。

三、让小模型学会辩证思考：两阶段训练流程

TRIAGE最终运行在一个相对小型的开源语言模型上（Qwen3-4B，即30亿参数的版本），这个模型的规模远小于那些商业闭源的顶级模型。要让它学会这种辩证推理，研究团队设计了一套两阶段的训练方案。

第一阶段叫做“辩证推理监督”。这一阶段的目标，是让小模型学会生成那两份独立的支持性分析报告。为了构建训练数据，研究团队先用强大的商业模型（对于公开数据集使用GPT-5.1，对于需要保密处理的数据集使用在本地运行的Kimi K2 Thinking）来为每个患者生成这两份报告。生成过程中有严格的规定：不允许在写“康复支持理由”时提到“死亡的可能性”，也不允许在写“死亡支持理由”时提到“康复的可能性”，每份报告必须是纯粹的单边论证，不包含任何对立方的内容。然后，把这两份报告加上真实的结果标签，作为训练样本，用标准的监督微调方法训练小模型。

由于医疗数据中阳性病例（如死亡、脓毒症发作）的比例远低于阴性病例，研究团队针对少数类别多生成了几份不同的训练样本。对于死亡率在14%左右的数据集，每个少数类别样本生成3份不同的辩论记录；对于阳性率只有4%的脓毒症预测数据集，则生成6份。这样既增加了数据多样性，又解决了类别不平衡问题，比简单地重复复制少数样本要聪明得多。

第二阶段叫做“自我精炼”。经过第一阶段训练后，小模型能够生成看起来不错的辩论推理了，但它仍然有一个隐患：训练时它看的是别人（强大商业模型）写的推理，而实际使用时它要依赖自己写的推理。这就像一个学生靠背诵范文学习写作，但考试时必须靠自己即兴发挥。这种“训练与推理不一致”的问题在语言模型领域是个经典难题。

为了弥补这个差距，研究团队采用了强化学习的方法——具体来说是一种叫做“群组相对策略优化”（GRPO）的技术。简单来说，就是让小模型自己生成一批推理过程，然后根据这些推理的质量给予奖励或惩罚，让模型从自己的尝试中学习改进。

这里有一个非常聪明的设计：奖励信号不是只看单个患者的预测对不对，而是在一个批次的患者中，比较高风险组和低风险组的预测分数能否被清晰地区分开。具体的做法是，对于一个真实死亡患者，把它的预测分数和批次内所有真实存活患者的分数做比较，用一个类似“间距惩罚”的公式来衡量区分程度；反之亦然。这种批次级别的奖励设计，迫使模型不只是学会把每个患者判断正确，还要学会在不同患者之间建立合理的相对风险排序——这正是医疗分诊的核心需求。

四、实验验证：在三个真实数据集上的考验

研究团队在三个经过广泛使用的真实重症监护数据集上验证了TRIAGE的效果，这三个数据集分别是PhysioNet 2012挑战赛数据（P12）、PhysioNet 2019挑战赛数据（P19）和著名的MIMIC-III数据库。P12和MIMIC-III的任务是预测患者是否会在住院期间死亡，P19的任务是预测患者是否会在未来6小时内发生脓毒症（一种危及生命的全身性感染反应）。三个数据集都有严重的类别不平衡问题，阳性病例（需要预测的危险事件）只占4%到14%。

评估指标上，研究团队重点关注两类：一类是区分能力，用AUROC（受试者工作特征曲线下面积）和AUPRC（精确率-召回率曲线下面积）来衡量；另一类是校准精度，用ECE（期望校准误差）和Brier分数来衡量。其中AUPRC被视为主要指标，因为在严重类别不平衡的场景下，它比AUROC更能真实反映模型的实际使用价值。

参与比较的基准方法分为两类。第一类是专门为不规则时间序列设计的深度学习模型，包括基于循环神经网络的GRU-D、基于注意力机制的mTAND、基于集合函数的SeFT、基于图神经网络的Raindrop、基于Transformer的STraTS、基于视觉Transformer的ViTST，以及两个最新发布的图神经网络模型KEDGN和Hi-Patch。第二类是直接用大语言模型进行零样本推理，包括OpenAI最新的GPT-5.1和开源的gpt-oss-120b（一个拥有1170亿参数的稀疏专家混合模型）。

结果显示出几个清晰的规律。零样本大语言模型的表现令人失望，两者在所有六个主要指标上都排在最后，平均排名分别是10.50和11.67。这验证了一个常识：直接把通用AI扔到医疗专业任务上，在没有任何适配的情况下，它的表现往往还不如专门设计的小模型。

仅经过第一阶段监督微调的TRIAGE版本（TRIAGE-SFT），平均排名就已经达到4.25，与最强的专门模型GRU-D（3.42）、KEDGN（4.00）和STraTS（4.08）处于同一水平。经过完整两阶段训练的TRIAGE（TRIAGE-SFT+RL），平均排名跃升至1.58，在所有六个指标上要么排第一，要么排第二。

在校准误差方面，完整版TRIAGE的优势尤为突出。三个数据集上的平均ECE分别降到了0.04、0.04和0.03，而专门模型的ECE通常在0.17到0.21之间，零样本语言模型的ECE则高达0.23到0.32。换句话说，当TRIAGE说“这个患者有40%的死亡风险”时，在所有这样的患者中，大约真的有40%的人最终死亡；而其他模型给出的概率往往只是一个经过扭曲的参考数字，无法直接信任。

在面对数据缺失时的鲁棒性方面，研究团队模拟了真实临床中“部分检测结果缺失”的场景：随机删除10%到50%的监测变量，然后测试模型的表现下降程度。在P12数据集上，TRIAGE在区分能力上与最强基准基本持平；在MIMIC-III数据集上，它在几乎所有缺失比例下都领先于所有对手。这说明TRIAGE不只是在数据完整的理想条件下好用，在真实的临床混乱环境中同样稳定。

五、消融实验：每个设计决策都有它的道理

为了证明TRIAGE的每个设计元素都在发挥作用，研究团队做了一系列对比实验，逐一拆解各个组件。

在推理结构上，他们比较了三种方案：只给答案不给推理的“纯分类器”模式、只给单边支持理由的“单方辩护”模式，以及完整的双边辩证模式（TRIAGE）。结果是，纯分类器模式的AUROC达到86.4%，AUPRC达到53.4%，能用但没有任何解释能力。单边辩护模式就尴尬了：不但不能提供有用的推理，连预测性能都比纯分类器差——即使用10次采样取平均来弥补，AUROC只有83.8%，AUPRC只有43.1%。这证明了一件事：如果AI的推理是单边的、带有确认偏误的，那这个推理本身就是有毒的，它不仅没有帮助，还会主动伤害预测质量。只有双边辩证推理才能同时保证预测性能（AUROC 86.9%，AUPRC 56.4%）和解释价值。

在强化学习的奖励设计上，研究团队比较了批次级别奖励和样本级别奖励的区别。样本级别奖励只关心这个患者自己有没有被预测对，批次级别奖励则进一步要求模型在不同患者之间建立正确的相对排序。实验证明，批次级别奖励在区分能力（AUPRC更高）和校准精度（ECE和Brier分数均更低）上都显著优于样本级别奖励。这背后的逻辑很直观：医疗分诊本质上是一个排序问题，必须知道谁比谁更危险，而不只是知道每个患者是否超过了某个绝对阈值。

在数据量极度有限的场景下，TRIAGE的优势进一步凸显。当只使用1%的训练数据时，TRIAGE比最强基准GRU-D在AUROC上高出4.4个百分点，在AUPRC上高出11.1个百分点。随着训练数据增多，两者的差距逐渐缩小，在10%的训练数据下基本持平。这个规律说明，TRIAGE因为继承了预训练语言模型中蕴含的大量医学知识，在标注数据稀缺时能更好地发挥这些先验知识的价值；而随着数据增多，专门训练的深度学习模型逐渐追上来。

在骨干模型的选择上，研究团队测试了Qwen3家族的1.7B、4B（默认）和8B三个规模，以及来自不同架构系列的Llama 3.2 3B。结果是TRIAGE在所有骨干上都稳定地超越了对应的基准，说明辩证推理监督方法本身的效果不依赖于特定的模型选择。

六、AI说的理由，医生能信吗

光有好的预测数字还不够。研究团队专门评估了TRIAGE生成的临床推理文本的质量，毕竟一个向医生呈现错误甚至荒谬推理的AI系统，不管预测多准，都难以被临床接受。

评估标准采用了医学教育领域广泛使用的IDEA评估工具，该工具通过四个维度来衡量临床推理文本的质量：解释性摘要（患者的整体情况有没有被准确概括）、鉴别诊断（有没有考虑多种可能的解释）、主要诊断论证（对主要判断有没有给出数据支撑）、替代诊断解释（对另一种可能性有没有给出合理的反驳或说明）。四个维度的满分分别是4、2、2、2，总分10分。

作为对比基准，研究团队对专门模型STraTS应用了整合梯度（一种后处理的可解释性方法）来提取重要特征，然后再让GPT-5.1把这些特征翻译成自然语言解释。这是目前最常见的“给深度学习模型加解释”的做法。

在200个随机抽取的案例上，由三个不同的评估模型（GPT-5.1、Claude Sonnet 4.5和Gemini 3 Flash）独立打分，每个模型对每个案例打三次，取平均。结果是TRIAGE的总分为7.744，STraTS加事后解释的总分为6.474，差距达到了1.27分，相当于提升了约20%。

最大的提升来自解释性摘要维度（+0.902），说明TRIAGE对患者的整体风险状况和病情轨迹的把握更为准确和全面。替代诊断维度也有明显改善（+0.288），这与TRIAGE天然要求考虑双方证据的设计完全吻合。

研究团队还做了两个生动的案例分析。一个是实际存活的患者，STraTS的事后解释出现了明显的医学错误：它把格拉斯哥昏迷评分15分（代表神志完全清醒，是好事）列为了支持死亡判断的证据，同时把碳酸氢盐偏低（通常提示代谢性酸中毒，是坏事）列为支持存活的证据——两处判断都与医学常识相悖。TRIAGE的推理则没有这类错误，而且它注意到了患者尿量从早期极低水平逐渐恢复到正常的动态趋势，将其解读为肾脏灌注改善的信号，而STraTS的解释只是静态地提到后期的尿量数值，完全丢失了这个临床上更有意义的趋势信息。

另一个是实际死亡的患者，其血清钾浓度高达10.0 mmol/L——这是可能导致致命性心律失常的极度高钾血症（正常值约在3.5-5.0之间）。这个最关键的死亡信号完全没有出现在STraTS的重要特征里。反而，STraTS把WBC（白细胞计数）23.3（属于白细胞增多症，提示严重感染或炎症，是坏信号）列为了支持存活的证据。TRIAGE则明确识别并解释了高钾血症的致命危险，以及升高的肌钙蛋白T（心肌损伤标志物）的临床意义，同时在“存活支持理由”一侧指出血钾后续逐渐下降至正常范围这一有意义的好转信号。

在幻觉（AI捏造不存在信息）的问题上，研究团队让评估模型检查了200份推理记录，发现只有3份（1.5%）存在严重幻觉，主要是错误引用了患者记录中不存在的检测指标或误读了某个数值。研究团队认为，这个低幻觉率得益于数据构建阶段的严格规定：明确要求AI在找不到支持证据时留空，而不是编造内容。

说到底，TRIAGE做到的事情有点像一位经验丰富的主治医生的思维方式：在给出最终判断之前，他会在脑海中同时过一遍“这个人为什么可能没事”和“这个人为什么可能有危险”，权衡两方面的证据，然后再说出自己对风险高低的判断。把这种思维方式显式地编码进AI的训练流程，而不是期望AI自然而然地产生，正是这项研究最核心的洞见所在。

这意味着什么？至少在工具层面，临床医生未来可能面对的不再是一个总是说“这个人必死无疑”的武断AI，而是一个能说“我认为这个患者死亡风险大约是七成，主要因为血钾极度异常和持续性神志障碍，但也有一些好的迹象，比如肾功能指标在小幅改善”的系统。前者只会增加医生的困惑，后者才有可能真正成为值得信赖的辅助工具。

当然，TRIAGE还有一些明显的局限性值得诚实地说出来。它目前只处理了二分类任务（死亡与否、脓毒症与否），还没有扩展到多分类或多标签的复杂临床场景。它的推理过程需要生成大量文字，运行速度比GRU-D这类轻量模型慢很多，在需要极低延迟响应的紧急场景下会有压力。评估推理质量时使用的是AI担任裁判的方法，而非真正的临床专家评审，这在方法论上仍有改进空间。生成的推理文本虽然大多数时候准确，但仍有1.5%的严重幻觉率，这在临床应用中不容忽视。

归根结底，这项研究展示了一条值得认真探索的路径：与其把语言模型当作一个黑箱分类器来用，不如利用它擅长生成结构化论证的能力，把临床推理的过程显式化、可审查化，从而同时提升预测精度和解释可信度。医疗AI的终极目标，从来不只是预测准确，而是让医生能够理解、信任并有效利用AI的判断——TRIAGE在这个方向上迈出了一步。

Q&A

Q1：TRIAGE框架是什么，和普通AI医疗预测有什么不同？

A：TRIAGE是由KAIST等机构提出的临床风险预测框架，核心区别在于它让AI在给出死亡风险分数之前，同时写出支持“患者康复”和“患者死亡”两方面的独立分析理由，模仿辩论中的正反两方陈词。而普通方法要么只输出概率（没有解释），要么只给出单边推理（导致预测概率极端化、不可比较）。TRIAGE通过这种双边辩证结构，同时解决了预测准确性和推理可解释性的问题。

Q2：为什么大语言模型在医疗预测里表现反而差？

A：研究发现，当大语言模型被要求先推理再预测时，会产生“风险极化”现象——几乎对所有患者都给出接近100%的死亡概率，失去了区分不同患者风险高低的能力。根本原因有两个：一是推理过程会在最后出现明确的裁决句，提前“锁死”答案；二是推理内容通常只呈现单方面证据，存在确认偏误。这两个问题导致最终的概率分数毫无参考价值，而专门针对医疗时间序列设计的深度学习模型反而因为没有这种偏误而表现更好。

Q3：TRIAGE的批次级别奖励设计是怎么工作的？

A：在强化学习阶段，TRIAGE的奖励不只看单个患者预测对不对，而是在一批患者中比较高风险组和低风险组能否被清晰区分。对于每个真实死亡患者，系统会拿它的预测分数和批次内所有真实存活患者的分数对比，用间距惩罚公式来量化“区分程度”作为奖励信号。这种设计让模型不只追求单个案例的正确率，而是主动学习在不同患者之间建立合理的相对风险排序，更符合医疗分诊“谁比谁更危险”的核心需求，实验证明它比单纯的样本级别奖励在区分能力和校准精度上都更优。