尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿
知名打假人发现,Nature报道
白交 发自 凹非寺
量子位 | 公众号 QbitAI
尴尬了,物理论文把ChatGPT按钮也复制了进去。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/c215dc4f442f9c686c1f0a04650245a3.png)
结果不仅通过了两个月同行评审,甚至最终在杂志上公开发表。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/316e7e6da845c08f28da12245d42e183.png)
而发现这一现象的正是知名打假人法国图卢兹大学副教授Guillaume Cabanac,曾入选Nature年度十大人物。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/7c4bc378f2ee22f0dfe53e52fa5bd6b8.jpeg)
Nature最新报道称,这并非个例,甚至只是「冰山一角」。
要说在论文里出现「Regenerate response」还算比较隐晦,还有更离谱更明显的。
比如,直接将「作为人工智能语言模型,我……」复制进去。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/daae96f30498793bde9feb39708d9402.png)
嗯…就是说想用就用吧,但用得有点过于随意和不认真了,写个论文咋就跟学生写作业似的。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/a8554ffd9877c0f5ccc947a62c4ac41e.jpeg)
只是冰山一角
几天前,Physica Scripta杂志发表了一篇论文,旨在发现复杂数学方程的新解。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/c8297856b54ea5a80f168e7e63af3f99.png)
结果没想到的是,在论文第三页出现了类似ChatGPT按钮上短语「Regenerate Response」。
出版商的同行评审和诚信负责人表示,作者后来向期刊证实,他们使用ChatGPT来帮助起草手稿。
而在此之前,论文5月提交、修改版又于7月提交以及后续的排版均未发现这样的异常情况。
目前出版商已经决定撤回这一论文,理由是作者提交时没有声明他们使用该工具,这一行为违反了他们的道德政策。
事实上,这并非唯一案例。自pubpeer不完全统计,4个月以来就有十几篇含有「Regenerate Response」或「As an AI language model, I …」的文章。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/03571fc514c6a52a9fc88ec1e2f0a62f.png)
以「As an AI language model, I …」为例,搜索就有8个结果,最新一次是在三天前发现的。
对此这也给同行评审员带来更严峻的考验,一来他们通常没有时间去彻底检查;二来看门人的数量跟不上。
不过也有一些特定的方法,比如ChatGPT在内的大模型会擅长吐出虚假文献、
Retraction Watch就曾爆出一篇由AI撰写的千足虫预印本,因为含有虚假引用而被撤回,随后又被重新上线。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/bddd1f202ebf280dbe5298fc2876a323.png)
可以用,声明即可
事实上,这并非意味着研究者们不能用ChatGPT以及其他大模型工具协助撰写稿件。
Elsevier和Springer Nature在内的许多出版商都表示:
可以用,声明即可。
此前,就有来自田纳西大学健康科学中心的放射科医生Som Biswas,在4个月内使用ChatGPT写了16篇论文,并在4个不同的期刊上发表了5篇。
当他第一次提交论文时,就跟编辑坦言:你看到的所有内容都是AI写的。
![尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿](/wp-content/uploads/replace/26d992fccce66d661a22f44541d7da81.png)
结果就在几天后,这篇论文通过同行评审,并在杂志Radiology上发表。
于是在这之后一发不可收拾,写的论文也并不局限于放射学专业,包括教育、农业、法律等。
于一部分人而言,以ChatGPT为代表的大模型着实提高了他们的生产效率。
对于ChatGPT辅助写论文,你怎么看待呢?是否已经再用它写论文了?
参考链接:
[1]https://www.nature.com/articles/d41586-023-02477-w#ref-CR1
[2]https://pubpeer.com/search?q=%22As+an+AI+language+model%2C+I%22
[3]https://pubpeer.com/publications/DF3D58918B5A0BD5943E6D280ED7E2
- 开源=最强大模型!Llama3.1发布,405B超越闭源GPT-4o,扎克伯格:分水岭时刻2024-07-24
- 国内首批丨腾讯云上架 Llama 3.1模型,支持在 TI 平台精调和推理2024-07-24
- AI视频修复速度10倍提升,过曝变色也能逐帧搞定|美图国科大新算法2024-07-21
- 李飞飞创业:3个月估值破10亿美元2024-07-17