2026年11月9日

如何检测AI生成文本中虚构的引用

一条看起来完美的参考文献——作者、年份、期刊、DOI——仍可能指向不存在的东西。AI生成的草稿尤其容易出现这种情况,因为语言模型可以拼凑出读起来令人信服的引用式字符串,却并不对应真实作品。实际任务不是整体上“信任”或“不信任”草稿,而是让每条引用都经过一套验证流程,将真实作品与虚构作品区分开,并确认真实作品确实支持其所附带的论断。 本指南提供这套流程:如何诊断草稿所处状态、应建立哪些工件、如何分层验证、一个完整示例、一份可复用清单,以及

作者WisPaper 团队AI 科研工作流团队
如何检测AI生成文本中虚构的引用的研究工作流插图

一条看起来完美的参考文献——作者、年份、期刊、DOI——仍可能指向不存在的东西。AI生成的草稿尤其容易出现这种情况,因为语言模型可以拼凑出读起来令人信服的引用式字符串,却并不对应真实作品。实际任务不是整体上“信任”或“不信任”草稿,而是让每条引用都经过一套验证流程,将真实作品与虚构作品区分开,并确认真实作品确实支持其所附带的论断。

本指南提供这套流程:如何诊断草稿所处状态、应建立哪些工件、如何分层验证、一个完整示例、一份可复用清单,以及明确的完成标准。它面向大多数学生和早期职业研究者面临的时刻——一个论文章节、一篇课程论文或一份初稿,其中已积累AI辅助文本,现在需要在下一个项目开始前形成一份站得住脚的参考文献列表。

为什么AI生成的引用会以可预测的方式失败?

虚构引用是指出现在文本中、但无法对应到真实可识别作品的参考文献——或者对应到真实作品,但该作品并未表达文本所声称的内容。有两种失败模式值得注意,它们需要不同的检查:

  • 身份虚构。 标题、作者、发表场所、年份或 DOI 组合不对应实际出版物。该字符串可能把真实作者姓名与虚构标题混在一起,或把看似合理的 DOI 附到错误作品上。
  • 真实作品,错误论断。 引用对应到真实论文,但它所支持的句子夸大、错误归因或误读了该论文内容。

由于这些失败方式不同,单一检查永远不够。一个能解析的 DOI 证明标识符存在;它不能证明书目字段匹配,也不能证明来源支持你的句子。因此验证必须分层推进:先身份,再字段,最后论断支持。

你的草稿实际处于什么状态?

在验证任何内容之前,先把引用分组,以便知道每组需要多少工作。大多数草稿属于三种起始状态之一:

  1. 未经处理的 AI 输出。 引用是内联生成的,从未检查过。不要假设任何内容;每条都需要完整验证。
  2. 部分清理。 一些参考文献是手工检查的,另一些是从搜索结果粘贴或从管理器导入的。你需要知道哪些是哪种。
  3. 人工与 AI 来源混合。 你读过的真实论文与 AI 建议的补充内容并存。风险在于 AI 补充内容继承了真实内容的可信度。

快速诊断:打开参考文献列表,对每条问自己能否指出获得它的确切位置——数据库记录、你下载的 PDF、图书馆条目。无法追溯的条目是第一轮嫌疑对象。这个分诊步骤能把压倒性的列表变成有优先级的队列。

检查前应建立哪些工件?

当你基于结构化工件而不是阅读散文时,验证会更快、更可靠。建立三个:

  • 引用清单。 每条文内引用一行,包含它所支持的句子、按原文写出的完整参考文献,以及状态列(未验证、已验证、已更正、已移除)。
  • BibTeX 或结构化参考文献文件。 机器可读条目让你能一次筛查整个列表,而不是逐条处理。如果你的草稿没有结构化文件,导出或重建一个。
  • 论断日志。 对每条引用,用你自己的话记录它旨在支持的具体论断。这是你之后要与来源比较的内容。

论断日志是大多数人跳过的工件,也是能抓住“真实作品,错误论断”问题的工件。没有它,你验证完身份就停下——把更具破坏性的错误留在原处。

如何筛查整个 BibTeX 列表中的虚构参考文献?

当你的参考文献是 BibTeX 时,批量筛查列表是发现虚构条目的最快方式。TrueCite 专为 BibTeX 引用筛查而构建:它对照真实学术数据库检查条目,以标记虚构引用。尽早让文件通过它,然后再投入时间做论断级检查,这样你就不会仔细验证不存在的来源。

把筛查输出当作分诊层,而不是最终裁决。被标记的条目进入队列前端等待人工确认;通过的条目仍需要字段级和论断级检查。筛查告诉你该看哪里,流程的其余部分告诉你该得出什么结论。

如何确认引用对应到真实作品?

对每条条目,通过不止一个信号确认身份。DOI 可以通过 doi.org 解析到该标识符当前注册的目标——这有助于定位作品,但书目字段和来源文本仍需检查身份和论断支持。实践中:

  1. 解析标识符。 如果给出 DOI,解析它并查看落点。落点失效或不匹配是危险信号。
  2. 匹配字段。 将标题、作者、发表场所和年份与解析记录比较。小差异(格式、缩写)正常;标题不同或作者集合不同则不正常。
  3. 在第二个索引中交叉核对。 出版商提交的元数据通过 Crossref REST API 等服务公开,包括标题、作者、发表场所、日期、标识符和发表后更新。在独立索引中一致出现的记录,比只出现在一个地方的记录更可能是真实的。
  4. 按作者和标题搜索。 Google Scholar 记录了按作者和标题搜索、日期排序和限制、被引用次数、相关文章、引用导出以及定位替代版本——当你需要确认作品存在并找到你实际读过的版本时很有用。

如果条目在此阶段失败,不要凭记忆修复。将其标记为未验证,从草稿中移除,并为该论断寻找真实来源。

如何找到真实来源来替换虚构引用?

移除虚构引用会留下缺口:句子仍需要支持。这时你从验证切换到搜索,学术搜索界面能节省时间。使用 WisPaper 搜索 为你记录的论断寻找学术论文,按概念而不是按虚构标题搜索。如果你更想先进入公共入口,WisPaper Scholar 检索 页面解释并打开论文查找流程。

找到候选后,不要粘贴第一个看似合理的命中。应用你验证时使用的相同身份检查:解析 DOI、匹配字段,并阅读足够来源以确认它支持你的句子。然后同时更新参考文献和论断日志,使替换可追溯。

如何检查真实引用是否支持其论断?

这一步区分干净参考文献列表和站得住脚的列表。对每条已验证引用,打开来源并与你的论断日志条目比较:

  • 范围。 来源是否处理你句子描述的同一人群、环境或条件?
  • 强度。 你的句子是否声称超过来源所示?弱化论断或寻找更强来源。
  • 方向。 来源实际支持该观点,还是使其复杂化?论证相反的引用比没有引用更糟。
  • 归因。 如果来源为发现引用另一作品,尽可能引用原始作品而不是二次提及。

在状态列记录结果。只有当身份和论断支持都确认时,引用才是“已验证”;在此之前,无论论文看起来多真实,它都保持“未验证”。

验证过的来源在工作时应放在哪里?

验证会产生一组已确认论文,它们需要一个归宿,以便下一章或项目不必从头开始。将已确认论文保存或上传到 My 文献库,在那里组织它们。论文进入库后,你可以使用 文献库 QA 基于这些上传或保存的论文提问——当你需要重新检查来源内容而不必重新打开每个 PDF 时很方便。

对于更大的工作——一个论文章节或有许多线索的初稿——在 Research Projects 中设置工作,在那里创建新项目并保持工作有序。这也是通往下一个项目的自然桥梁:已验证的库和项目结构会延续,因此一月的工作从已确认来源开始,而不是从一堆新的未验证引用开始。

完整示例:清理寒假后的论文章节

假设一名硕士生寒假后回到一个用 AI 辅助起草的文献综述章节。该章有 60 条文内引用。流程如下:

分诊。 学生建立引用清单和论断日志。二十条引用可追溯到已下载的 PDF;四十条无法追溯。四十条进入队列前端。

批量筛查。 学生将参考文献列表导出为 BibTeX,并通过 TrueCite 运行。四十条中的一部分被标记为可能虚构。学生暂不删除它们——每个被标记条目都进行人工身份检查。

身份验证。 对每个被标记条目,学生解析 DOI 并比较字段。几个解析不到任何内容;几个解析到真实论文但标题与草稿声称的不同。这些是已确认的虚构引用,被移除。

替换搜索。 对每个被移除引用,学生在 WisPaper 中搜索论断日志中的概念,找到真实论文,验证其字段,并阅读足够内容以确认支持。参考文献和论断日志同时更新。

论断检查。 二十条可追溯引用并非自动安全。学生将每条与其论断日志条目比较,发现两条夸大了来源所示。句子被弱化以匹配证据。

整合。 已确认论文进入 My 文献库;该章来源在 Research Project 中组织。学生最终得到一份参考文献列表,其中每条状态为已验证、已更正或已移除——以及一份记录推理的论断日志。

可复用清单

步骤行动工件检查点
1按可追溯性分诊引用引用清单每条都有状态
2建立结构化参考文献文件BibTeX 文件文件与草稿参考文献列表匹配
3记录每条引用支持的论断论断日志每条引用一个论断条目
4批量筛查虚构条目筛查输出被标记条目排队等待人工检查
5解析标识符并匹配字段已验证身份笔记DOI 解析且字段匹配
6用真实来源替换虚构引用更新后的参考文献每个缺口由已验证来源填补
7将每个来源与其论断比较更新后的论断日志论断支持确认或句子修订
8整合已确认来源库和项目已验证论文已保存并组织

如何知道参考文献列表已就绪?

使用明确的完成标准,而不是感觉草稿看起来不错。当以下条件满足时列表就绪:

  • 每条文内引用都出现在清单中,状态为已验证、已更正或已移除——没有空白。
  • 每条剩余引用都对应到真实作品,其标题、作者、发表场所和年份与所写参考文献匹配。
  • 每条剩余引用都有论断日志条目,确认来源支持其所附句子。
  • 没有引用是凭记忆修复的;替换来自搜索,并像原始引用一样验证。
  • 已确认来源保存在一个地方,以便下一章或项目复用。

如果任何标准失败,列表就未就绪——无论散文看起来多精炼。状态列和论断日志是工作完成的证据。

接下来应该做什么?

选择启动流程的最小具体行动:打开草稿,为前十条引用建立引用清单,将每条标记为可追溯或不可追溯。这个单一工件告诉你面对的是轻度清理还是完整验证——并给你将用上述清单处理的队列。然后,将参考文献导出为 BibTeX,筛查它们,并开始分层检查。到下一个项目开始时,你将拥有一个已验证的库,而不是一堆充满希望的猜测。

常见问题

是的。DOI 可以解析到真实作品,而草稿中的书目字段——标题、作者、发表场所、年份——与该作品不匹配,或者该作品不支持你的论断。解析有助于定位作品,但身份和论断支持仍需单独检查。把可解析 DOI 当作一个信号,而不是裁决。