国际顶刊接连曝光:AI 沦为学术造假 “帮凶”

最近Nature曝光了一份令学术圈震惊的事情,路易斯维尔大学Alex Glynn创建了一个在线追踪器「Academ-AI」,该软件识别出超700篇含有AI生成内容的论文,其中有些甚至出现在顶级刊物上,这无疑对学术界产生了震动。

在这些论文中,有些依赖AI生成的内容异常隐晦,仅有少数直白地暴露了其出处,AI痕迹隐藏得极好。

而在Science的最新一篇揭露性报道中指出,在过去3年间,基于美国健康与营养调查(NHANES)数据库发表的低质量论文数量骤增。

👉 往期推文:《Scientific Reports》暴雷!利用公开数据“灌水”的劣质论文激增,92%来自中国

Scientific Reports副主编 Matt Spick 及他的同事们,在PubMed、Scopus这两个论文数据库中发现341篇相似度极高的“模式化”论文,它们分别发表于147本期刊上,其中包含 Scientific Reports、BMC Public Health 和 BMJ Open等。

从2014年到2021年,每年仅有4篇相关的低质论文。然而,自2022年起,这类文章的发表量出现了显著的增长,到2024年10月,仅Matt Spick团队关注的期刊上就发表了190篇“模式化”论文。

AI论文暴雷,期刊大规模撤稿!

使事情雪上加霜的是撤稿事件频发。首当其冲的就是Springer Nature旗下的《Neurosurgical Review》杂志因有文章使用AI生成内容而大规模撤稿。该期刊从2024年秋季暂停了Letter to editor和Review的接收。截至现在,该杂志已撤回 129 篇论文且调查仍在继续,撤稿数量可能进一步攀升

 “主编已撤回这篇文章。出版商的一项调查发现,包括这篇在内的多篇对发表在该期刊上的研究进行评论的文章在短时间内提交,且有强烈迹象表明这些文章的文本是由大型语言模型(LLM)生成的,而作者未进行适当披露。因此,这些文章违反了该期刊的编辑政策,正在被撤回。”

此次被撤论文大部分来自印度的科研单位,其中印度萨维塔医学和技术科学研究所(SIMATS)的两位研究人员 Hethesh Chellapandian 与 Sivakamavalli Jeyachandran 被撤文章高达35篇。2024年,各期刊至少撤回了80篇来自萨维塔作者的论文。截至2025年,Neurosurgical Review对该大学研究人员的撤稿总数达到 90 篇。

中科院提出了“八条提醒”!

为了应对频繁撤稿以及对科研的严谨性,在2024年9月,中科院在关于在科研活动中规范使用人工智能技术的诚信提醒中对于AI的使用提出了“八条提醒”。

这是自2018年以来中国科学院科研道德委员会连续第7年发布诚信提醒,前几年分别聚焦学术评议、科技奖励推荐、学术成果发布、科研原始记录、科研伦理、论文署名等关键环节,我们不难发现各顶尖高校以及机构都已经在关注AI在学术中的应用规范的问题了。

与此同时,也有许多出版机构将AI用途分为两大类:一类是文本优化(如拼写、语法、可读性优化);另一类是内容生成。通常来说,前者无需披露,而后者则要求披露。JAMA就严格要求作者披露所有AI的使用细节,并声明对由此产生的内容负责。同样的,Science也要求研究人员详细列出AI使用提示词。如此种种举措,皆旨在确保AI协助的透明性,避免因内容生成过度依赖AI而产生的不良后果。

但无论如何,这些都在说明,AI在科研写作领域正在逐渐变得普及这一事实。它既是科研的 “加速器”,也是学术诚信的 “试金石”。如何正确使用AI,这不仅仅需要依靠高尖技术的监管,更需要科研人员自己正确的研究价值观。AI 应服务于探索未知科研领域,而非成为制造学术垃圾的工具。AI不是“能不能用”,而是“如何用”。

Logo

脑启社区是一个专注类脑智能领域的开发者社区。欢迎加入社区,共建类脑智能生态。社区为开发者提供了丰富的开源类脑工具软件、类脑算法模型及数据集、类脑知识库、类脑技术培训课程以及类脑应用案例等资源。

更多推荐