[ICLR 2025] INFOGATHERER：基于证据理论的策略性追问，重塑高风险 AI 决策

TL;DR

在医疗诊断或法律咨询等高风险（High-stakes）领域，LLM 的“幻觉”和“盲目自信”是致命的。来自 UBC、华盛顿大学等机构的研究者提出了 INFOGATHERER。该框架不再让 LLM 凭直觉猜答案，而是通过 Dempster-Shafer 证据理论 构建一个严谨的“证据网络”。它能识别自己“不知道什么”，并据此向用户提出最关键的问题，以最少的交互次数锁定正确答案。

痛点深挖：LLM 的“强行回答”病

当用户说“我喉咙痛”时，传统的 RAG 系统或 LLM 往往会根据检索到的片面文本直接给出诊断。这种模式存在三大死穴：

1. 信息缺位：用户初始输入通常是不完整的（Underspecified）。
2. 虚假置信度：LLM 的 Logits 或语言化概率（Verbalized probabilities）经常失准，无法区分“我知道结果是 A”和“我有证据证明可能是 A 或 B”。
3. 追问盲目：现有的交互式方法（如 MediQ）往往胡乱提问，导致用户疲劳，或在证据不足时草率收场。

核心机制：Dempster-Shafer 与证据网络

INFOGATHERER 的核心突破在于放弃了传统的贝叶斯概率点估计，转向了 Dempster-Shafer (DS) 理论。

1. 从点概率到 BBA（基本概率分配）

在贝叶斯框架下，如果你不知道是 A 还是 B，你必须给它们各分配 0.5 的概率。但在 DS 理论中，你可以将质量（Mass）分配给 子集。例如，一份文档提到“此症状可能指向感冒或流感”，系统会将 Mass 直接赋给集合 {感冒, 流感}，而非强行拆分。这种对“歧义（Ambiguity）”和“无知（Ignorance）”的显式建模，防止了算法在早期阶段过早收敛。

2. 自动化证据网络构建

系统从领域文档（如医学教科书、法律条文）中自动提取变量关系，构建 有向无环图 (DAG)：

• 根节点：最终假设（如：什么病？）。
• 中间节点：潜在的病理或法律条件。
• 叶子节点：可观察的特征（症状、案件事实）。

图 1：INFOGATHERER 流程概览。从文档提取证据构建网络，通过计算不确定性引导提问。

3. 策略性提问逻辑

系统使用 Deng 熵（Deng Entropy） 来评估候选问题的价值。其策略分为两步：

1. 降噪（Reduce Nonspecificity）：优先提问那些能把大集合（如“呼吸道疾病”）拆小的关键点。
2. 破局（Reduce Discord）：当选项只剩下几个具体的可能时，提问以分辨冲突证据。

实验与结果：少即是多

研究人员在 MedQA（美国执业医师考试） 和 BarExamQA（司法考试） 上进行了严苛测试。

• 惊人的准确率提升：在法律任务中，INFOGATHERER 的成功率比基线方法 AoP 提升了近 50%。
• 极高的对话效率：相比于其他主动提问模型（如 MediQ 动辄 10 轮以上的对话），INFOGATHERER 通常在 5-7 轮内就能达到预设的置信阈值停止对话。

表 2：不同模型在法律与医疗领域的表现对比。可见 INFOGATHERER 在成功率和轮次平衡上具有压倒性优势。

深度洞察：为什么这种方法有效？

INFOGATHERER 的成功在于它将 统计语言模型（LLM） 与 经典不确定性推理（DST） 进行了解耦：

• LLM 负责感知：负责阅读非结构化文本、解析用户语义、生成自然语言问题。
• DST 负责决策：负责严谨的证据融合（Evidence Fusion）和冲突处理，确保系统的逻辑脊梁是客观且数学化的。

通过消融实验（见图 4），我们可以看到 INFOGATHERER 的置信度曲线增长非常“顺滑”且理性，不像传统 LLM 那样会出现由于猜测导致的置信度剧烈震荡。

图 4：INFOGATHERER 的置信度增长相比 baseline 更加稳健，代表其提问更具信息增益（Information Gain）。

局限性与展望

尽管表现卓越，INFOGATHERER 目前仍依赖于预定义的候选假设集和结构化的知识库。未来的研究方向在于如何将其延展至 开放域（Open-domain） 任务，以及如何处理动态变化的证据流。

对于正在开发专家级 AI 助手（Legal-Tech, Med-Tech）的团队来说，这篇论文提供了一个关键启示：不要试图训练 LLM 去“感知”不确定性，而要给它一套数学框架去“计算”不确定性。