警惕“AI垃圾”侵蚀学术界：68%的论文投稿被指存在虚假引用与虚假作者
两位资深审稿人在对NeurIPS、WACV及ECCV研讨会的22篇论文进行评审后发现，高达68%的投稿存在虚假引用、虚假作者列表或明显的LLM生成痕迹。研究显示，2025年学术界可能存在数十万条虚假引用，且现有的审稿过程未能有效拦截这些错误，约85.3%的虚假引用最终仍出现在正式发表的论文中，学术诚信面临严峻挑战。
核心要点
- 高比例造假：在审稿人评审的22篇论文投稿中，有15篇（68%）涉及虚假引用、虚假作者或明显的LLM生成内容。
- 覆盖顶级会议：受影响的投稿涵盖了NeurIPS（数据集与基准测试、立场论文）、WACV以及ECCV的TerraBytes研讨会。
- 行业普遍性：研究估计2025年学术界产生了约14.69万条虚假引用，且主要由早期研究人员和小型团队产生。
- 审稿机制失效：追踪发现，85.3%存在于预印本中的虚假引用在正式发表后依然被保留，审稿环节未能起到过滤作用。
详细分析
“AI垃圾战壕”中的审稿现状
审稿人Caleb和Isaac在今年夏天的评审工作中发现，学术投稿质量正受到“AI垃圾”（AI Slop）的严重冲击。在他们评审的22篇论文中，涵盖了NeurIPS的数据集与基准测试赛道、立场论文赛道，以及WACV和ECCV的TerraBytes研讨会。结果显示，55%至82%的分配稿件包含虚假引用、虚假作者或明显的LLM生成痕迹，例如幻觉产生的技术术语、逻辑混乱的写作以及无关的引用。审稿人将这种被迫处理大量AI生成低质内容的状态描述为身处“AI垃圾战壕”。
学术造假的规模化与隐蔽性
根据《Nature》的分析和Zhao等人的研究，这种现象并非个例。2025年，学术界估计产生了约146,900条虚假引用。这些错误并非集中在少数恶意行为者手中，而是广泛分布在许多论文中，尤其是早期研究人员和小型团队的投稿中。更令人担忧的是，现有的同行评审过程未能有效发挥拦截作用。研究人员追踪了bioRxiv上包含虚假引用的预印本，发现其中85.3%的幻觉内容在最终发表的版本中依然存在，这意味着虚假信息正在系统性地渗透进正式的科学文献中。
行业影响
这一现象揭示了AI大模型在简化论文写作的同时，也为学术诚信带来了前所未有的挑战。虚假引用和虚假作者的泛滥不仅极大地浪费了审稿人的时间和精力，更可能动摇科学研究的真实性根基。如果学术界无法建立有效的检测机制或提升审稿质量来应对“AI垃圾”，高质量的学术交流环境将面临崩塌风险，科学文献的可信度将大幅下降。
常见问题
什么是“AI垃圾”（AI Slop）？
在学术语境下，这指的是由大语言模型生成的低质量、包含幻觉或无意义内容的文本，具体表现为虚假引用、虚假作者列表以及逻辑不通的技术论述。
为什么审稿过程没能拦截这些虚假信息？
研究显示，审稿人往往难以察觉隐蔽的虚假引用或虚假作者信息。数据显示，高达85.3%的虚假引用在论文从预印本转为正式发表后依然被保留，说明目前的评审机制在应对AI生成的虚假信息方面存在显著漏洞。
哪些学术领域受到的影响最大？
根据文中提到的审计数据，受影响的范围非常广泛，包括计算机视觉（WACV）、机器学习（NeurIPS）以及生物医学领域（如The Lancet审计的250万篇论文）。
