尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

知名打假人发现,Nature报道

白交 发自 凹非寺

量子位 | 公众号 QbitAI

尴尬了,物理论文把ChatGPT按钮也复制了进去。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

结果不仅通过了两个月同行评审,甚至最终在杂志上公开发表。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

而发现这一现象的正是知名打假人法国图卢兹大学副教授Guillaume Cabanac,曾入选Nature年度十大人物。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

Nature最新报道称,这并非个例,甚至只是「冰山一角」。

要说在论文里出现「Regenerate response」还算比较隐晦,还有更离谱更明显的。

比如,直接将「作为人工智能语言模型,我……」复制进去。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

嗯…就是说想用就用吧,但用得有点过于随意和不认真了,写个论文咋就跟学生写作业似的。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

只是冰山一角

几天前,Physica Scripta杂志发表了一篇论文,旨在发现复杂数学方程的新解。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

结果没想到的是,在论文第三页出现了类似ChatGPT按钮上短语「Regenerate Response」。

出版商的同行评审和诚信负责人表示,作者后来向期刊证实,他们使用ChatGPT来帮助起草手稿。

而在此之前,论文5月提交、修改版又于7月提交以及后续的排版均未发现这样的异常情况。

目前出版商已经决定撤回这一论文,理由是作者提交时没有声明他们使用该工具,这一行为违反了他们的道德政策。

事实上,这并非唯一案例。自pubpeer不完全统计,4个月以来就有十几篇含有「Regenerate Response」或「As an AI language model, I …」的文章。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

以「As an AI language model, I …」为例,搜索就有8个结果,最新一次是在三天前发现的。

对此这也给同行评审员带来更严峻的考验,一来他们通常没有时间去彻底检查;二来看门人的数量跟不上。

不过也有一些特定的方法,比如ChatGPT在内的大模型会擅长吐出虚假文献、

Retraction Watch就曾爆出一篇由AI撰写的千足虫预印本,因为含有虚假引用而被撤回,随后又被重新上线。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

可以用,声明即可

事实上,这并非意味着研究者们不能用ChatGPT以及其他大模型工具协助撰写稿件。

Elsevier和Springer Nature在内的许多出版商都表示:

可以用,声明即可

此前,就有来自田纳西大学健康科学中心的放射科医生Som Biswas,在4个月内使用ChatGPT写了16篇论文,并在4个不同的期刊上发表了5篇。

当他第一次提交论文时,就跟编辑坦言:你看到的所有内容都是AI写的。

尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿

结果就在几天后,这篇论文通过同行评审,并在杂志Radiology上发表。

于是在这之后一发不可收拾,写的论文也并不局限于放射学专业,包括教育、农业、法律等。

于一部分人而言,以ChatGPT为代表的大模型着实提高了他们的生产效率。

对于ChatGPT辅助写论文,你怎么看待呢?是否已经再用它写论文了?

参考链接:
[1]https://www.nature.com/articles/d41586-023-02477-w#ref-CR1
[2]https://pubpeer.com/search?q=%22As+an+AI+language+model%2C+I%22
[3]https://pubpeer.com/publications/DF3D58918B5A0BD5943E6D280ED7E2

版权所有,未经授权不得以任何形式转载及使用,违者必究。