OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇
现实版《无间道》
金磊 发自 凹非寺
量子位 | 公众号 QbitAI
当ChatGPT被黑客“入侵”时,OpenAI会如何应对?
掐断API,不让他们用?不不不。
这帮极客们采取的做法可谓是剑走偏锋——反手一记《无间道》。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/249b12c94475bc5c36329f2d5f1440f6.png)
故事是这样的。
OpenAI虽然在发布ChatGPT之前做了大量的安全性检测,但当开放API之后,还是防不住一些居心叵测的黑客们拿它搞事情。
然后有一天,团队中的一个工程师突然发现ChatGPT端点上的流量有些不太正常;在经过一番调查之后,确定了大概率是有人在反向工程API(盗版API)。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/3d74d74354df6c4de3038b53538f7004.png)
不过OpenAI并没有选择立即阻止这些黑客,因为如果团队这样做了,黑客们就会马上发现异样,然后改变策略继续攻击。
这时,团队里一个“大聪明”就支了个妙招:
我们搞成“catGPT”,每个token都是“meow”……
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/ea861ec887b16c892b8333e07b1544cb.png)
“陷阱”布置成功后,黑客大兄弟再向ChatGPT提问时,画风就是这样婶儿的了:
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/f34026fd8cdb35bcff2b0ff086352f89.png)
没错,不管问啥,回答都是“喵言喵语”:
喵,我不知道。我是只猫,不是只鸟!
这位黑客大兄弟起初还不知道自己早已落入“陷阱”,还发帖描述了自己神奇的经历[笑哭]。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/bcdfac549a187175c82ce5a6cfc62d49.png)
不过黑客团伙中很快有人察觉到了异样:
两个代理都出现了同样的情况;我觉得我们完了(暴露了)。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/81db6d56e0832d8adb85d92f0318732b.png)
团伙中还有人在Discord社区中这样讨论:
兄弟,你觉得OpenAI是发现了我们在(拿盗版API)用模型,然后开始拿“猫语promt”来回答我们吗?
若真如此,那也太搞笑了吧!
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/a97042aa1c9c8c25f3ab2bce069d0a30.png)
殊不知,OpenAI的成员们早就潜入了Discord社区,观望着黑客们的对话……
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/15db1dacd27788629774678d6bb8a9ed.png)
黑客们最终还是发现了真相,后知后觉的他们,最终在Discord中给OpenAI的团队发话了:
我很失望。我知道OpenAI的某人正在读这段文字。
你们有千载难逢的机会给我们来个“Rick Astley”(发现被整蛊时用的桥段),你们竟然就搞个猫。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/654e2d3b75ac82d1579acb2b1750a006.png)
对此,OpenAI的成员表示:“收到,下次我们会的”。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/11466dfabdba43a8176fc856146d2186.gif)
上面这个有趣的故事,其实是一位OpenAI工程师Evan Morikawa在一场技术分享活动中自曝的。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/21ea63a4d67ba8e917c1776c7cbb4443.png)
不少网友在看完这个故事之后,纷纷感慨道:
绝对的传奇!
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/30ecce8e5b8628faf96bc3d543c3c557.png)
虽然故事很精彩、很有趣,不过言归正传,这也从侧面反映出了目前大模型时代下所存在的安全隐患。
正如Evan在活动中所说:
随着模型变得越来越强大,它们在坏人手中可能造成的伤害变得更大,我们在这里的警惕性确实需要成倍增加。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/9b2d73f331b474e0f8602f66ee7d7e30.png)
除此之外,Evan在活动中还分享了两个与OpenAI、ChatGPT相关的“隐秘的故事”。
我们继续往下看。
OpenAI:GPU够的话,发布早就提前了
Evan先是回顾了ChatGPT最初爆火的盛况:
从内部决定发布,到后来意外走红,就连马斯克都发推讨论等等。
随之而来的便是大量用户的涌入,当时他们自己也很担心,因为以他们GPU的能力,完全hold不住那么大的负载。
然后Evan在现场展示了他们为ChatGPT提供动力的计算机,里面有8个英伟达A100 GPU:
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/4d948085190720789c8726ca95c3f991.gif)
每个GPU上还都附加了特殊的HPM高带宽内存;至关重要的是,他们还需要所有GPU相互通信:
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/acbd16a8fa171a80dd3c2876ba6bd27d.gif)
Evan表示,里面的每个环节的性能都会影响ChatGPT最终的体验感。
接下来,Evan站在现在这个时间节点,回顾并总结了OpenAI最初在GPU上所遇到的瓶颈。
1、GPU内存不足
由于ChatGPT的模型非常大,需要占用大量GPU内存来存储模型权重。而GPU上的高带宽内存非常昂贵和有限,不够用来同时服务大量用户请求。这成为第一个瓶颈。
2、计算效率低下
初期通过简单的GPU利用率指标监控存在问题,没有充分考虑到tensor运算的内存访问模式。导致GPU算力没有被充分利用,浪费了宝贵的计算资源。
3、难以扩容
ChatGPT流量暴增,但受限于整个GPU供应链,短时间内无法扩充GPU服务器数量,不得不限制用户访问。无法自动扩容成为重大挑战。
4、多样化负载特征
随着用户使用模式的变化,不同模型和请求类型对GPU的计算方式和内存访问模式需要不断调整,优化难度大。
5、分布式训练困难
GPU之间的通信和数据交换成为训练架构中新的瓶颈。
可以看出,OpenAI开始将GPU用于部署大模型服务时,确实因为经验不足而遇到一些系统级别的困难。但通过不断调整策略和深入优化,才使ChatGPT得以稳定运行。
而且Evan还爆料说:
如果不是因为GPU短缺,去年产品和功能的发布速度会更快。
我们已经准备好了东西了,但我们也知道无法处理负载。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/ee8176153c561f7977eff44090996792.png)
基于上述的挑战,Evan分享了OpenAI总结出的经验教训:
- 把问题视为系统工程挑战,而不仅仅是研究项目;需要优化各个系统组件的协同工作,如缓存、网络、批处理大小等。
- 要深入了解硬件的底层细节及其对系统的影响,如GPU内存带宽、ops/bytes等对性能的影响;不能停留在表面指标。
- 不断根据模型和场景变化对系统进行调优;不同的模型结构和使用场景会对系统提出不同要求。
- 要考虑到硬件的各种限制,如内存和算力均衡、扩容限制等,这会影响产品路线图;不能简单地套用传统的云扩展经验。
把ChatGPT看成初创公司
至于团队方面,Evan也有所介绍。
ChatGPT启动时,应用工程团队只有30人左右,发布10个月后才扩充到近100人。
OpenAI一直在员工数量增长与保持高人才密度之间寻找平衡,他们最初希望团队尽可能小,这样可以保持高效的迭代文化。
不过后来随着产品规模增长,很多职能只有几个人在支撑,这样就会存在一定风险,因此才决定进行一定扩张。
Evan对于团队建设方面的分享,有一个观点是值得划重点的。
那就是他认为:
不要把ChatGPT看成是OpenAI的一个部门。
他们在三年前就尝试过用API做类似ChatGPT的事情,因此在Evan看来——
ChatGPT更像是个10月大的初创公司嵌套到了3年前的初创公司;而这个三年前的初创公司,又嵌套在一个8年前的初创公司(即OpenAI)。
接下来,如果公司还会出现新的产品,Evan希望还是能够保持沿用这种模式。
![OpenAI潜入黑客群聊!盗用ChatGPT被换成“喵喵GPT”,网友:绝对的传奇](/wp-content/uploads/replace/3170ef5b7a81612ef3a80a667e3b59a8.png)
参考链接:
[1]https://www.youtube.com/watch?v=PeKMEXUrlq4
[2]https://twitter.com/random_walker/status/1719342958137233605?s=20
[3]https://twitter.com/nearcyan/status/1719225443788935372?s=20
- 商汤科技日日新大模型亮相巴黎,中国AI共赴奥运之约2024-07-26
- 智谱AI版Sora来了!人人免费不限次,有手机就能玩,API也开放了2024-07-26
- Mac装上字节豆包,艾玛!一下变AI PC了!2024-07-22
- 英特尔举办2024网络与边缘计算行业大会,推动边缘AI创新发展2024-07-24