突发!OpenAI开除Ilya盟友,理由:涉嫌信息泄漏
神秘Q*再次引发热议
西风 发自 凹非寺
量子位 | 公众号 QbitAI
突发!OpenAI开人了,理由:涉嫌信息泄露。
一位是失踪的首席科学家Ilya盟友,超级对齐(Superalignment)团队核心成员Leopold Aschenbrenner。
另一位也不简单,是LLM推理团队研究员Pavel Izmailov,曾经也在超级对齐团队干过。
目前尚不清楚这俩人到底泄露了啥信息。
消息被曝出后,不少网友表示“挺震惊”:
不久前我还看过Aschenbrenner的帖子,感觉他正处于事业上升期,没想到会有这样的转变。
还有网友认为:
OpenAI失去Aschenbrenner,Ilya Sutskever也被边缘化,该公司对于构建安全AI的承诺看起来更加不可信了。
OpenAI人才流动,与谷歌Meta互挖墙脚已经见怪不怪,但开除形式的人事调动,还是去年11月董事会叛变之后的第一回。
俩人曾经都是Ilya的部下
据了解,Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作过,再往前追溯,19岁从哥伦比亚大学毕业,还在牛津大学做过经济增长方面的研究。
Pavel Izmailov这边,他还是纽约大学CILVR小组成员,本人透露2025年秋将加入纽约大学Tandon CSE、Courant CS担任助理教授。
目前,俩人的X主页还都备注着与OpenAI的关系。
最近这个月俩人都没有发新推文,不过置顶帖子倒是很亮眼。
没错,都是超级对齐团队的第一篇论文,俩人都是这篇论文的作者。
这就不得不说到这个团队,组团于去年7月份,是OpenAI为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。
超级对齐团队负责遥远的未来,给超越人类的超级智能安全性奠定基础,由Ilya Sutskever和Jan Leike领导。
虽然OpenAI看起来似乎在安全方面很重视,但其内部对AI的安全开发存在很大分歧已不是什么秘密。
这种分歧甚至被认为是去年11月OpenAI董事会内讧的最大原因:
网传Ilya Sutskever成为“政变”带头人,就是因为看到了一些东西让他内心不安。
而Ilya带领的这个超级对齐团队,很多成员也是站在Ilya这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。
随着OpenAI内讧事件的平息,奥特曼成为赢家,Ilya Sutskever离开董事会几乎没再公开露头,超级对齐团队现在是个什么情况咱也不知道。
再说回到这次两位研究员被解雇。
两人曾经都是Ilya部下,the information还表示Aschenbrenner是Ilya盟友、与优先考虑解决AI危险性的运动有关联。
所以,也有网友猜测这次裁员是奥特曼的“秋后算账”。
和Q*泄密有关?
除此之外,网友比较关心还有泄密的内容究竟是什么。
目前猜测的焦点还是放在Q*,也就是董事会叛变大戏的导火索之一。
根据网友评论,Jimmy apples似乎发过相关推文,但没过多久我们看到链接打开时已是推文被删的大状态……
从遗留的蛛丝马迹来看,好像大概也许还是和Q*有关。
目前Q*从传闻,已经变成被正式确认的存在,但关于它的一切,奥特曼本人目前都守口如瓶。
总之自从Q*之后,OpenAI内部开始出现理念分歧。
经历一系列风波后,93%的员工签署联名信与奥特曼共存亡,调查结果公布后奥特曼无罪重返董事会。
看似风平浪静,上下一心致力于实现AGI背后,裂痕仍旧存在。
参考链接:
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/
- AI视频边生成边播放!首帧延迟仅1.3秒,生成速度9.4帧/秒|Adobe&MIT新研究2024-12-10
- 谷歌量子芯片引爆热议:5分钟算完10²⁵年任务,Nature加急发表,还证实了多元宇宙???2024-12-10
- 北交开源o1代码版!强化学习+蒙特卡洛树搜索,源代码、精选数据集以及衍生模型通通开源2024-12-09
- Sora二代实机演示曝光!解锁图生视频,奥特曼暗示:期待周一2024-12-09