马斯克：离AGI还有三年，Ilya道德感很强，他认真了一定是严肃问题
马斯克曾私下联系Ilya询问开除奥特曼理由
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
马斯克在最新访谈上金句频出，除了大爆粗口痛骂广告商外，还谈了很多对AI的看法。
特别是对OpenAI近期动荡的看法。
他表示对Sam Altman的感觉很复杂，紧接着就借用《魔戒》表达了担忧：
权力之戒会带来腐化，而权力之戒就在这里，所以……我也不好说，我需要知道Ilya为何认为开除奥特曼有必要，这看起来像是一个严肃的问题。
当初OpenAI刚成立时，正是马斯克等人花重金把Ilya Stuskever从谷歌DeepMind挖过来，两人私下一直保有联系。
这次事件发生后，马斯克也尝试联系Ilya和其他可能知情的人，但据他所知Ilya还没有和任何人谈论这个问题。
而马斯克接触的其他人，也都不能说明白到底发生了什么。
AGI还三年，数字之神是个CSV文件
访谈发生在纽约时报举办的DealBook峰会，开场仅11分钟，马斯克就开启了口吐莲花模式。
此前，因为马斯克自己关于以色列问题的言论，迪士尼苹果可口可乐等100多家公司停止在平台投放广告。
面对这个问题，马斯克直接呛声“那就别来投广告了”。
如果有人想用广告来勒索我、用钱勒索我，就f*** yoursef去。
如果平台因此倒下，马斯克认为那么“整个世界都会知道是这些广告商毁了这家公司，并详细记录下来”。
……
就在马斯克忙着处理自己麻烦事的这几周，他参与创办的OpenAI也经历了一场大风暴。
虽然马斯克自己也没能搞明白事件原因，但他很相信OpenAI首席科学家Ilya Sutskever。
Ilya是一个道德感很强的人，他对是非对错问题非常认真。
如果他觉得开除奥特曼是有必要的，全世界都应该听听他的理由。
虽然还不知道这个理由到底是什么，马斯克倾向于“OpenAI真的发现了什么”。
插播一句题外话，就在马斯克接受采访的同一天，奥特曼也首次回应了关于Q*的传闻，称“这是一个不幸的泄密事件”。
当主持人把话题转向“那么你的AI事业与OpenAI、谷歌如何相比”时，马斯克表示自己从30年前上大学时，就开始思考AI会带来的影响。
他之所以此前没有大规模投入AI研发，就是想先搞明白“这把双刃剑到底哪边更锋利”，也就是AI给人类带来的好处更多，还是危害更多。
他联合创办OpenAI的初衷是制衡谷歌，当时谷歌拥有几乎2/3的AI人才，和无限的算力资源。
为了挖来Ilya Sutskever，他还和好友、谷歌创始人Larry Page闹翻了。
接下来他明确强调了OpenAI名字中的“Open”本意就包含“开源”，还开玩笑说现在这家公司应该改名叫“超级闭源利润最大化AI”。
命运喜欢讽刺。
相比于AI，他认为可持续能源更像是只有好处的单刃剑，AI就像一但从瓶中放出来就关不住的精灵。
主持人提问AGI还有多远，马斯克没有直接回答。
他先讲了神经网络的权重本质上就是一堆数值，可以表示成CSV格式（逗号分隔值）。
数字之神就是一个CSV文件，真的很好笑，但确实就是这样。
主持人追问，“虽然你出了名的会夸大事物发展的速度，但还是想问你认为AGI究竟多快会到来”。
马斯克仔细思考一阵，推演到如果标准是“在所有事上比最聪明的人类还聪明，比未来用机器增强过自己的人类（machine augumented human）还聪明”，那真的不好说。
但往小了说，写小说和JK罗琳一样好、能发现新物理规律或发明新技术的AI，从现在算起还有不到3年。
马斯克还谈到自己的xAI，可能拥有全球最好的单一数据源，可以实时了解地球上发生的最新动态。
微软和谷歌都拥有庞大的数据，但其他文章、视频、评论都会被用户分享到X平台上。
尽管单个用户分享的内容很少，整体上xAI拥有了更丰富多样的数据，成为相对其他AI公司的独特优势。
但如何合理和适当地使用这些数据，避免版权问题，还需要审慎考虑。
在讨论过程中，马斯克还向公众明确揭露了AI行业不会对外说的潜规则：
几乎所有大模型，都在受版权保护的数据上训练了。
主持人似乎感到震惊，询问“你在说包括OpenAI在内的这些公司，在版权问题上都撒谎了吗”。
马斯克回答：赤裸裸的谎言。
One More Thing
就在最近，有xAI内测用户发现，Grok大模型可能悄悄升级到Grok-2了。
但目前只有AI自己的回答为依据，也不排除是幻觉出来的。
上周，马斯克回复网友说Grok将在本周开放给所有X Premium+付费用户。
本周眼看就快结束了，只能说，搞快点。
参考链接：
[1]https://www.youtube.com/watch?v=2BfMuHDfGJI
[2]https://x.com/teslaownersSV/status/1730069334075253132
- 揭秘腾讯混元大模型：400+场景落地，协作SaaS产品全面接入2024-04-25
- NeurIPS开辟高中赛道引爆争议！网友：代理人战争要开始了2024-04-13
- 微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了2024-04-23
- 新测试基准发布，最强开源Llama 3分数骤降，差距拉开了2024-04-22
相关阅读
