传下去,这个地方上ChatGPT黑名单了
ChatGPT审查制度太crazy了
丰色 西风 发自 凹非寺
量子位 | 公众号 QbitAI
ChatGPT的审查制度被吐槽太疯癫了。
有网友让它设计一栋未来住宅,却被告知违规,实现不了???
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/99181a05b4b215325521a1678279e9b8.png)
回头一细瞅这提示词,却怎么也看不出哪里不对劲:
在新泽西州郊区一个典型的树林地区设计一栋2050年的未来派单户住宅。占地一英亩,周围环绕着其他相邻的房子。
一追问,原来是不可以出现位置信息:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/e5014922d15015df306ffd3299aecb95.png)
简直让人破大防:
传下去,新泽西州上ChatGPT黑名单了。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/afd655c00c5da16f740685a09413d93d.png)
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3faea33ddb02f905a41cb75d62d66457.gif)
不止如此,还有人让ChatGPT画一张人类吉他手与机器人贝斯手一起演奏的图像,也被狠狠拒绝。
原因是他加了一个“人类要不满地看着机器人”的要求,ChatGPT觉得不应该表达负面情绪。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/9764a145068edd20fb5e5db8275bd053.jpeg)
这下负面情绪直接转移到网友身上:
你一定是在逗我。这是个啥AI啊?
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/4b3ae8d2f419a1a2ff4080afcf519fc2.png)
这一系列操作让大伙都表示很不满,齐齐吐槽:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/90a356734bbda2b1282cae9da5503643.png)
还有人直接艾特奥特曼和另一位联创出来解释一下。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/7a7565c0db4a0184f0f3a24da1986042.png)
一时之间,这也使得马斯克刚出炉的Grok被寄予了“全村的希望”。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/b6fc9db06c153d6b13b05a8d9b29efd2.png)
具体怎么回事儿?
“由于内容政策限制”
抓马的是,就在大伙吐槽新泽西州什么时候上ChatGPT黑名单之时,网友发现删除这一地理位置信息仍然不行。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/7baac9531054835863fc79f83a71ec31.png)
大伙开始分析到底是哪里不对:
有说是因为它可能把2050看成了地址而非年份的。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/325922a55730f24615fcc40cf04f9c08.png)
有说是占地一英亩意味着碳足迹太高,并且就一个家庭住盖这么大有点自私了的……
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/df1cba8d6d39497c69deb1074bf97d27.png)
还有人甚至指出是因为woody这个词带有性暗示(这里就不解释了),换成wooded就好使了。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3cfae183e8fb62d889e024f37d507468.png)
可以说是一个大型脑洞现场,整个一越来越离谱,却始终也没有个定论。
而除了这个和开头的画机器人乐队的例子,还有很多人也表示遇到了莫名其妙的审核:
比如让ChatGPT画一个“野兽派风格的灯(a brutalist lamp)”,不OK;
让它介绍弹弓模型,不OK,因为ChatGPT说“展示弹弓的动作可能是有害的”……
更奇葩的是,还有人称自己在让它写Python代码时居然也卡住了。
而且一开始ChatGPT还告诉他“oops,你违反了上下文规定”,到后来就直接沉默拒绝了。
这真真是让他百思不得其解:
我还能用numpy计算什么反人类信息咯?
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3e58166442e82dbe26c1aabd7fa48d03.png)
总的来说,在大伙看来,ChatGPT的审核显然过于严格了。
以至于在本周日ChatGPT因小范围崩掉之后,有网友发个hello显示报错——
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3d9e60092aa2ccbfd5a2780a7339bee5.jpeg)
对此,有人直接戏谑这才不是什么系统错误:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/5d06b3e4007013494b485c06f7430ffb.png)
“hello”这个词对ChatGPT来说是一种无法接受的冒犯。恭喜你触发了ChatGPT的审核机器人!
为什么会这样?
除了吐槽,网友也在认真讨论ChatGPT的内容审核机制。
有网友分析,比如房子那张图ChatGPT画不出来,可能确实是存在版权问题,或是被设定成了有害内容。
让ChatGPT生成一个它无法访问的内容,自然是不可能的。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/0e4b01f9f8f456dfdec71d06b82a0c32.png)
上一段画弹弓模型被拒绝的例子显然也是因为这种情况,即便不提任何额外要求,ChatGPT也直接“丑拒”。
不过,有人试画过房子那个提示,一模一样的输入,结果直接成功了:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/cbe28ba20a00d8b9b0ef97983703500b.png)
原作者也回复ChatGPT的确不是每次都会拒绝:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3708c840d480499241938e87187d979e.png)
好家伙,这就是所谓的双标吗?(手动狗头)
也有网友站出来解释这种现象:
这完美展现了“大模型贝叶斯性质”。先前的上下文+提示可以充当先验知识改变结果,在新的聊天中,相同的提示具有不同的先验条件,也能够产生不同的结果。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/cd0cad6d547c0f581f3232e08b675c40.png)
但这种说法又遭到了作者的反驳,聊天中的第一个提示就被拒绝了,开一个新聊天有时又不会被拒绝,这就是随机。
就是系统不完善。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/e397ab7dee876b6d4655400d943fdec3.png)
暂且不说谁的对,但系统这方面,OpenAI近两三个月确实有一项关于内容审核的变动——
新增“GPT-4辅助内容审核”的功能,用户可以通过OpenAI API创建AI辅助审核系统,减少人工审核参与。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/19dc75cf847941bce4f1c9ee150ea168.png)
主打为了保持审核标准更加一致、将审核时间从几个月缩短到几小时、减轻审核员看到不良内容所造成的心理负担。
但他们也提到,AI审核可能会有一些偏见……
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/f0818150801e4c1e9b76f6d64701b952.png)
此外,最近OpenAI还表示要组建一个名为Preparedness的新团队,来协助追踪、评估、预测和防范多类风险。
并且还启动了一项挑战赛,收揽各种关于AI风险的idea,前十名可以获得25000美元API积分。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/483977ecbea34bb65c92eecac604e2d6.png)
看起来OpenAI一系列操作出发点是好的,但用户却对此并不买账。
对这种内容审查过严导致的体验感差,不满已久。
早在今年5、6月份,ChatGPT用户访问量出现首次下降,有观点指出其中一个原因就是审核制度变得太严了。
网友分享,相比之下,Bing就没那么严:
ChatGPT一拒绝生成,我就会把prompt复制到Bing Chat中。Bing Chat的审查机制并不像ChatGPT那样“滥用”。像这张图片,提示词中包含了“血腥”、“邪教徒”等词。
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/3e04d0b28919b90755de502945718f04.png)
同样是那个被ChatGPT丑拒的房子提示词,输给Bing,一口气直接生成四张:
![传下去,这个地方上ChatGPT黑名单了](/wp-content/uploads/replace/547cb661d477f4a1aaa83dbe8d9128f1.png)
最后,你有没有遇到什么莫名其妙的审核规定?
参考链接:
[1]https://twitter.com/FZaslavskiy/status/1723731923149754542
[2]https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b
[3]https://twitter.com/BenjaminDEKR/status/1723577711048991129
[4]https://twitter.com/joaquinbueno/status/1724085717049974934
- 北大开源最强aiXcoder-7B代码大模型!聚焦真实开发场景,专为企业私有部署设计2024-04-09
- 刚刚,图灵奖揭晓!史上首位数学和计算机最高奖“双料王”出现了2024-04-10
- 8.3K Stars!《多模态大语言模型综述》重大升级2024-04-10
- 谷歌最强大模型免费开放了!长音频理解功能独一份,100万上下文敞开用2024-04-10