借助人工智能,一位教授今年撰写了200篇论文。研究人员对比感到震惊。
在其他学者提出质疑后,一个在线平台删除了由芝加哥大学尼古拉斯·波尔森(Nicholas Polson)撰写或合著的257篇论文。
今天凌晨 3:00 PT芝加哥大学布斯商学院查尔斯·M·哈珀中心。(Joe Przybylski/芝加哥大学)作者:托德·瓦拉克(Todd Wallack)
许多学术研究人员每年仅发表几篇论文,旨在寻求科学发现或为企业和政府机构面临的日常问题寻找解决方案。一些特别忙碌的教授每年可能会发表十多项研究。
然而,尼古拉斯·波尔森的经历却十分离奇。
这位芝加哥大学的统计学家今年撰写或合著了200多篇论文以及多达14本书籍,这在互联网上引发了推测:他是否在未披露协助的情况下使用人工智能来虚增产量。
这一争议凸显了学术界日益增长的担心理虑:某些研究人员是否可能过于依赖人工智能来产出海量论文,从而让负责审核工作的期刊不堪重负。
组织科学(Organization Science)期刊的高级编辑克劳迪恩·加滕伯格(Claudine Gartenberg)在谈及整体研究投稿时表示:“将会出现大量质量低劣的研究,这是目前系统无法处理的。”该期刊专门发表关于组织的同行评审研究。
研究人员指出,在人工智能出现之前,有缺陷或造假的研究如果蒙混过关,就会引发严重问题,误导公众和政策制定者。
《柳叶刀》期刊1998年发表的一篇有缺陷的论文曾提出麻疹、腮腺炎和风疹(MMR)三联疫苗与自闭症之间存在联系。这篇后来被撤回的论文加剧了人们对疫苗安全性的担忧,并导致接种率下降。随后的研究表明两者之间没有任何联系。
现在已被推翻的癌症研究曾在二十年前导致杜克大学的研究人员使用有疑问的基因检测,来帮助为参与临床试验的患者选择治疗方案。
波尔森发布论文的在线平台表示,在其发布量激增后,该平台在过去一个月内删除了他的257篇作品。批评者并未指控波尔森造假,但对波尔森是否妥善披露了人工智能的使用,以及是否有可能在如此短的时间内产出如此多高质量的论文提出了质疑。
波尔森在给《华盛顿邮报》的电子邮件中承认,他使用人工智能来协助创作这些作品,但未透露他是否在发表的任何论文中指明使用了人工智能。
波尔森的大多数论文都集中在高等统计学和数学领域,不过有些也涉及更广泛关注的议题。其中包括试图了解可能导致削减社会保障和其他福利计划的财务压力、为什么玩家擅长某些如象棋等战略游戏,以及 TikTok 如何在不告知观赏者的前提下推送吸引他们的特定视频。
中央阿肯色大学的经济学家杰里米·霍佩达尔(Jeremy Horpedahl)对波尔森的高产感到震惊。
他说:“九个月内写出两百多篇论文,既闻所未闻,令人难以置信。”
对这些论文的质疑非常严重,以至于波尔森用来分享研究论文的平台 SSRN 在过去一个月内下架了这些文章,并冻结了用于发布这些作品的账户。
波尔森暗示这些抱怨源于嫉妒。
“显然,人工智能能让一名高产的研究人员变得更加高效,”他在给《华盛顿邮报》的电子邮件中写道。
尽管许多其他研究人员也认同人工智能可以帮助学者加快如追踪以往研究等日常繁琐任务,但一些人警告说,它也可能无意中用抄袭、冗余作品、虚构引用以及数据和分析中的致命错误污染研究管道。
今年针对3,200篇同行评审论文的一项审查发现,有2%的论文包含至少一条无法验证的引用。另一项针对几家人工智能相关会议接收论文的研究发现,有300多篇论文包含至少一条不存在的引用。
随着人工智能使学者们能够产出更多研究,一些人担心海量的数量可能会压垮负责筛选材料和发现问题的编辑及审稿人。
《组织科学》的高级编辑加滕伯格估计,自 ChatGPT 于2022年首次推出以来,其期刊的投稿量增加了一倍。她表示,其姐妹出版物也出现了增长。而大型学术出版商爱思唯尔(Elsevier)报告称,其旗下期刊的投稿量在2021年至2025年间激增了约68%。
“编辑们正面临不堪重负的困境,”加滕伯格说,她同时也是宾夕法尼亚大学沃顿商学院的管理学教授。
加滕伯格表示,她还看到一些审稿人使用人工智能来进行论文评审,从而降低了筛选过程的质量。
这一争议发生之际,恰逢撤稿数量上升,且许多研究人员面临来自政治家关于偏见的指控。
加滕伯格担心粗制滥造的人工智能论文可能会进一步削弱对同行评审机制的信任,并降低那些为严重问题提供潜在解决方案的发现的影响力。
“我认为对同行评审的信任将会下降,”她说。“如果每个人都假设任何论文都可能是那篇(被撤回的)MMR 论文,那么对该机制本身的信任就会消失。”
加滕伯格特别担心,编辑难以发现的数据或分析问题可能会蒙混过关。
与此同时,波尔森的论文之所以脱颖而出,是因为他今年发表的作品数量极其庞大。
“一年发表两百篇显然非常不同寻常,”加州大学洛杉矶分校的管理学教授奥永·西迪克(Auyon Siddiq)说,他是最早注意到这股文章浪潮的人之一。“这不仅在于数量,还在于主题的多样性以及它们与其以往作品的区别。”
SSRN 是一个供研究人员分享论文(包括尚未经过同行评审和发表在学术期刊上的论文)的平台,通常要求研究人员说明他们对人工智能的使用。但几位学者表示,他们在看到的波尔森论文中没有发现任何此类披露。
然而,该平台为删除波尔森的文章并封禁其账户停止进一步投稿给出了另一个理由。
“虽然很多论文确实没有包含人工智能披露,但那并不是主要问题,”一位发言人说。“更严重的问题是异常的投稿活动。”
哥伦比亚大学的统计学家安德鲁·格尔曼(Andrew Gelman)表示,他没有阅读波尔森的所有论文。但在波尔森合著的一篇提出人类联系统一理论的80页论文中,他没有看到任何价值。
“这没有多大意义,尽管你可以看出聊天机器人是如何撰写其中大段内容的,”他说。
格尔曼表示,对于是什么动机促使一位知名商学院的资深教授利用人工智能产出如此多的文章,他感到困惑。
“人们谈论学术作弊等等,但他从中得不到任何好处,”格尔曼说。“他已经获得了终身教职。”
波尔森是芝加哥大学布斯商学院的教授,他坚持认为自己是通过对感兴趣的问题付出努力才写出这些论文的。他说人工智能只是帮助他加快了速度。
“许多枯燥繁重的日常工作变得容易多了,”波尔森说。他说他猜测这些抱怨是出于“嫉妒和企图盗取我的工作流程。但谁知道呢?”
波尔森表示,许多批评者似乎并没有真正阅读过他的完整作品,但他没有回应关于许多文章缺乏人工智能披露的问题。
除了发表学术论文外,波尔森还预定于今年秋季在芝加哥大学教授两门商业课程。根据亚马逊上的列表,他的名字出现在今年迄今为止出版的14本书籍的封面上,未来几个月还预定出版两本。
波尔森没有回复要求他确认所有书籍均出自他手的邮件。除了两本书外,其余所有书名要么提及了他的大学,要么列出了与他在研究论文中合作过的共同作者。
这一争议发生之际,芝加哥大学一直在试图限制学生在某些基础课程中使用电子设备,以帮助确保他们积极参与课程内容和相互互动,而不是依赖人工智能。学校没有回应关于是否要求教职员工披露人工智能的使用,或者是否计划对波尔森今年的出版物展开调查的问题。
与此同时,许多学者归功于人工智能帮助研究人员提高了工作效率。
《组织科学》编辑加滕伯格表示,尽管她担心理工智能助长了其他人写出有缺陷的论文,但她自己也会使用人工智能来协助处理例行任务和进行数据的早期探索。她希望新的人工智能工具最终能帮助编辑在作品发表前检测出有缺陷的数据或分析。
“我只是认为,我们真的必须意识到世界已经改变了,”她说。
托德·瓦拉克是《华盛顿邮报》的全国教育记者
