Stack Overflow禁用ChatGPT生成内容,网友:人类和AI快打起来

我们问了ChatGPT本尊对此事的看法

衡宇 Alex 发自 凹非寺

量子位 | 公众号 QbitAI

AI届当红炸子鸡ChatGPT,刚刚被程序员问答社区Stack Overflow禁用了!

芜湖,难道是因为有人感慨,ChatGPT非常强大,可以取代Stack Overflow?

但其实,Stack Overflow给出的官方公告里,是这样说的:

(这样做)的目的是减缓使用ChatGPT创建的大量答案流入社区。

因为从ChatGPT得到错误答案的概率太高了!

不过,官方也说了,这个措施只是临时的。

到底要不要永久在社区里禁用ChatGPT尚待研究,暂未决定。

“回答正确率太低”

昨天,OpenAI的CEO在推特上高兴地宣布,ChatGPT这个出生不满一周的家伙,已经拥有了超百万用户。

不过,大喜之余,有个小悲,那就是——

Stack Overflow临时禁止在社区内发布ChatGPT生成的文本。

Stack Overflow,程序员meme经常出现的段子之一,把自己活成了ChatGPT爆红时期最引人注目的段子。

这到底是为什么?

看了官方给的公告,总结下来不外乎一个原因。

最主要的目的,就是减缓使用ChatGPT创建的大量答案流入社区。

目前在Stack Overflow站内搜索,还能看到公告发布前,许多用ChatGPT在问题下的回答。

Stack Overflow官方认为,和ChatGPT对话得到的答案,正确率太低了。

而且,无论答案正确与否,它的所有回答看起来都很正儿八经。

但是ChatGPT的火热和极低的门槛,让很多人用它创建的答案在社区里进行询问和回答。

但是很多人在发帖时,缺乏相关专业知识,在发布之前又没有验证一下答案的正确性。

而且,ChatGPT给出回答的消息源也不能追溯。

对于一个程序员问答社区来说,这是非常有害的。

为了应对这个现象,可苦了Stack Overflow为管理基础设施质量的志愿者们。

他们只能没日没夜在铺天盖地的海量帖子中,去确认ChatGPT生成的问答到底是不是对的。

而且对想要找到保真问答的程序员来说,ChatGPT“入侵”Stack Overflow,也加大了他们的获取有效信息的成本。

为了从源头杜绝这种现象发生,StackOverflow做出决定:先禁止!

目前,Stack Overflow已经不允许发布ChatGPT创建的答案来提问或回答文章了。

临时措施发布后,如果还有用户在用ChatGPT搞事情,那Stack Overflow就不客气了——

将对这类用户实施制裁(具体咋制裁木有说)。

还是“格杀勿论”那种,哪怕除了使用ChatGPT外,用户的提问和回答行为和内容都是符合社区规定的。

现在,只是在站内搜索“ChatGPT”这个关键词,也因为要证明一下你不是机器人哦~

但无论怎么说,这个措施怎么说也只是临时的。

关于ChatGPT和其它类似AI问答软件,社区到底会有啥样的最终策略, Stack Overflow工作人员还在紧急讨论中,尚不确定。

公告评论区里,用户已经七嘴八舌说开了。

有人拍手称快,嚷着“永久封了它”。

有人也趁机表达了拿AI问答软件来社区互动的不满。

当然,也有人投出了自己的赞成票。

语言大模型的应用引起担忧

再来说下Stack Overflow到底是为何物。

简而言之,这是很多程序员都会用到的一个免费问答网站。

该网站有几个特点,一是不像一般的论坛,它没有闲聊区

另外,那些观点类、可能引起激烈讨论的问题一般都会被临时“和谐”掉,得是能出确切答案的问题才行。

也就是说,假如你在该网站上提出一个很主观的问题,网站很可能不会公开显示出来,直到你把问题修改到合规为止。

新用户起初只能提出问题或给出回答。但是你可以通过问答等赚积分(这里是Reputation),然后解锁各种功能。

包括评论、编辑他人的帖子、选择隐藏或展示别人的问题,最高等级的用户还能网站内部的工作人员一起来搞分析维护。

ChatGPT,则是基于语言大模型的聊天AI,能生成代码、修复Bug,其回答各种问题的能力更是惊艳了一大波人。

不过,目前Stack Overflow以及不少AI专家已经对背后的语言大模型产生了担忧,至少是有些顾虑。

Lecun也说,基于语言大模型开发出的文本生成类工具,可能会使广泛传播错误信息变得更容易。

IBM科学家Grady Booch的态度更为坚定。

还有人指出,即使AI回答正确,但这对于不少内容创作者来说,将是一场不小的打击。

One More Thing

对于Stack Overflow临时禁用ChatGPT生成的答案,我们询问了ChatGPT本尊的看法。(手动狗头)

我们还问,如果StackOverflow确定禁用的话它会怎么办。

结果人家倒是很淡定:

ChatGPT传送门:
https://chat.openai.com/chat

参考链接:
[1]https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
[2]https://www.reddit.com/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/
[3]https://stackoverflow.com/tour?mnu=1

版权所有,未经授权不得以任何形式转载及使用,违者必究。

相关阅读