医疗诊断系统中的不确定性评估方法介绍
2026年11月9日 · 阅读 1 分钟
也发布于 العربية
近日，FusionBrain实验室的科研人员在2026年行业追踪的EMNLP会议上展示了他们的研究，题为《基于LLM的医疗诊断系统的不确定性保护》。该研究探讨了如何评估医疗诊断模型的回答不确定性。随着大型语言模型（LLM）在医疗咨询中的广泛应用，确保其输出的可靠性变得尤为重要。
研究指出，LLM在医疗领域的应用中，存在模型产生幻觉的风险，这可能对患者健康造成影响。为了应对这一挑战，科研团队提出了不确定性量化（UQ）方法，通过为模型的输出指定信心度，来帮助医生做出更明智的决策。这些方法通常依赖于模型的内部状态或生成的输出，但在仅能通过API访问的情况下，如何进行不确定性评估成为关键问题。
研究中，团队设计了一种机制，称为“保护栏”，为每个诊断结果分配信心度，并向医生展示。这一机制不需要重新训练基础模型，而是单独训练评估模块。信心度的计算依据是当前对话中模型输出的可靠性，反映了模型对每个诊断的信心。
在对不确定性评估方法的比较中，研究团队分析了16种不同的方法，主要包括基于重复生成的评估、文本对话与诊断的分类器训练，以及利用LLM内部特征的方法。每种方法在不同情况下具有不同的适用性，研究人员强调，确保诊断的一致性与正确性是评估的关键。