微软高通英特尔都力推的AI PC,为啥联想更先造好?
AI私人订制的时代正在到来
明敏 发自 凹非寺
量子位 | 公众号 QbitAI
为什么是时候换一台AI PC了?
何川想到的是20多年前的一次考试突击,要是当时有AI就好了。
因为记错了第二天的考试科目,清华学霸也不得已在考试前夜点灯熬油重新学习一门课程。
如果有内置大模型的电脑,一本电子教材输入进去,把所有重要知识点列成提纲,我只需把这些内容背好就没问题了。
更直接的改变是当下的工作生活。
总结筛选邮件、做汇报PPT……这样琐碎的工作,如果AI来做,人就能被解放出来。
已经在用AI辅助办公的郑爱国感慨, “一台PC的价格,相当于有一个个人助理,何乐而不为呢?”
可能有人会问,云端大模型不能做吗?为什么一定需要一台AI PC?
因为计算要在本地、要构建个人知识库、要隐私保护……更加完整的答案随着最新AI PC的全面发售,已经向所有人呈现。
而关于AI PC的必要性与否,或许从此将不再是最热门的讨论话题。取而代之的是,是不是该换一台AI PC了?
为什么对AI PC可以更加肯定?这个在一年时间内快速诞生的新物种,又是如何被造出的?
从真正意义的AI PC本身看起。
何以AI PC?
怎样一台PC才能被称之为AI PC?
最基本的定义是将大模型引入电脑本地,通过生成式AI进一步拓展PC的能力。
从各大厂商的实际动作来看,第一波上机的AIGC应用集中在3大方面:
- AI辅助创作(绘画/文案生成等)
- AI辅助办公(PPT生成/会议纪要/智慧分身)
- 生活助手(知识问答/本地搜索等)
比如AI绘画方面,高通、英特尔的最新PC芯片均已支持Stable Diffusion的本地运行,并且在生成速度上展开角逐。
联想的AI PC中已具备AI画师能力,它支持文生图、图像训练和深度编辑等功能。
办公场景中,打工人最关心的PPT生成方面,联想率先在本地实现。
只需一句话,它就能基于上传的文档材料生成PPT大纲。
再基于大纲内容,一键排版布局,生成十几页PPT。
还有本地文件搜索和整理,也是目前AI PC上的热门功能。
微软才发布的AI强化版Windows 11,支持通过自然语言搜索的方式“回忆”任何文件或网页浏览记录。
联想做的更彻底,依托内嵌于AI PC的个人知识库,可实现对个人文档的精准识别和学习,并根据本地大模型实现多模态文件内容总结和归纳,包括PPT、图片、文字和邮件等。
换言之,哪怕一次都没看过、没有浏览记录的文档,它能学习和总结。
总结来看,要将个人电脑AI化已成为业内共识。
不过各家对AI PC能力边界的定义、各自技术路线各有不同。基本上可以分为两派,强调交互主要在云端进行还是在本地进行。
前者的代表有微软等。
它前不久刚刚发布新一代Copilot+PC,接入GPT-4o提供各种实时AI能力。可以在打游戏的时候和AI对话,实时翻译字幕、以及上文提到的recall anything等。其革新主要体现在系统层面,同时端侧也深度集成了40多个AI模型 ,使得Copilot具备更强大的AIGC能力。
后者的代表为联想。
它提出的AI PC五大特性中,几乎每一点都聚焦于AI的本地化运行部署:
- 内嵌个人大模型与用户自然交互的智能体
- 个人知识库
- 本地异构AI算力
- 开放的人工智能应用生态
- 个人数据和隐私安全保护
其个人智能体联想小天,由嵌入本地的天禧大模型驱动,不联网情况下也能使用,可实现即时响应、几乎无延迟。同时联想还进一步强调了AI PC的个人化体验,联想小天具备自我学习和成长能力,可以通过日常互动不断学习和理解用户偏好,以此提供更加精准和个人化的服务。
同时,通过加强对个人数据和隐私的保护,能进一步缓解用户的隐私安全焦虑。也可以更进一步确保智能体是私人化、个性化的,始终为某一用户提供专属服务,让用户无需忧虑究竟是自己主导PC/智能体,还是无形中被AI读取意图、变相控制。而当用户想要体验更加丰富的AI功能时,还能依靠开放的AI应用生态拓展体验。
如上两种路线,终点相同都是AI PC。区别在于具体路径极具厂商自身特色。
微软的方式更侧重软件层的重塑,强调生产力的革新。微软定义Copilot+PCs为“Windows笔记本电脑配置内置AI硬件并支持整个操作系统的AI功能”。Copilot、Recall以及一系列APP的升级形成一场效率革命,AI的工具属性被拉满,但并未强调太多个性化体验。
联想从它擅长的硬件维度出发,在底层计算、系统架构上为内置大模型做出一系列更为 彻底的调整和重构,也能让PC本身更加适应AI化的操作系统。而且区别于Copilot的工具属性,联想智能体小天更像一个私人助理。
不过相同的是,无论哪种路线都意识到造一台AI PC不只是“把大模型暴力装进PC里”而已。
这或许也是为何AI PC概念大火一年,能真正将大模型放进PC本地的产品寥寥,面向普通消费者开售的产品更少之又少。
但就在这周,联想AI PC AI元启版现全面开售。普通消费者走进线下门店,即可体验真正意义上的AI PC。
为何联想的动作如此之快?
数十年行业积累、长期关注前沿技术、完善供应链……一切的一切,都要从联想决定做AI PC的第一天说起。
AI PC怎么造?
在大模型时代之前,做一台新款PC将会是一个至少为期1年、非常严谨的流程。
前期定义产品需要小半年时间,分为Gate A/B/C三个流程,A阶段发散、B阶段收敛,进一步验证市场潜力后到C阶段,这时产品形态基本已经确定。
之后进入开发阶段,不会进行特别大的改动,只能进行微调。整个产品的迭代周期都是以年为单位。
但是在大模型浪潮到来后,答案将发生天翻地覆的变化,因为要做的是一台AI PC。
做AI PC最大的不同是什么?
在联想内部最先拉起AI PC项目的何川觉得,造AI PC就是边造车边修路。“以前联想只负责‘造车’,现在还要修路,确保车能开下去。”
一系列的问题被摆在面前:如何给PC本地内置大模型?PC增加哪些前所未有的AI功能?
这些其实都是后话了,最开始最首要的难题,其实是到底要不要做AI PC?
何川确定AI PC必须要做的时间点是在2023年初。
当时ChatGPT已经引爆AIGC趋势,各种以生成式AI为核心的玩法、demo层出不穷。其中,增强生产力是主要玩法之一。
作为联想集团智能消费业务产品规划高级总监,何川和PC研发打交道已经有二十余年,他立马意识到AIGC的这一特性与PC作为生产力工具的定位,属性完全重合。
而且PC必须要enable AI,否则将被淘汰。
从创新维度来看,生成式AI属于破坏性创新,它具备的诸多能力,比如文生文、文生图等,都超越了人类大脑的能力范畴。
如果PC——这个人类最常用的生产力工具不进行AI化革新,它将很可能被AI大潮吞噬、淘汰。
无独有偶,联想全球中小企业产品与解决方案总经理郑爱国也时刻关注着AIGC趋势的走向。在ChatGPT爆火之初,他便开始调研大模型落在PC上的可能性。但由于早期阶段以云端大模型为主,参数规模都在千亿级别,很难实现本地化运行,他不得不将这个想法暂时搁置一旁。
直到和微软的一次合作交流,让他验证了自己的想法,并且看到了AI PC的可能。
郑爱国回忆,在去年4月左右,微软提出,希望在本地构建一个算力可达40TOPS的NPU。
以往微软从来没有如此深入底层技术产品的定义。
但40TOPS算力也不够用啊。当时趋势里,大家都还在卷参数量。直到偶然间得知,智谱正在做600亿参数的模型,也就是开始压缩模型了,郑爱国立马反应过来,微软定义的40TOPS NPU,就是要把大模型蒸馏剪切后放到PC上。而且如此长期的准备,一定是“大事”、一定是天翻地覆的变化。
郑爱国也是在这时明确,未来大模型会来到终端本地。
对应当时的趋势,大模型风头正盛,算力焦虑也愈加明显。ChatGPT宕机崩溃的消息,让更多人意识到云端算力的紧张。PC等个人计算设备,成为分摊算力压力的最好选择。
包括在2024 CES上,吴恩达的观点也进一步佐证了AI PC趋势。
在你的笔记本电脑、个人电脑或工业 PC 上运行边缘人工智能,这方面的能力实际上比大多数人认为的要好得多。我认为这将推动很多设备的销售,也将推动很多计算机科学的发展。
但要做AI PC,到底该怎么做?
按照产品开发的流程,需要明确产品的目标、定位、功能。这就还要回到大模型本身看起。
大模型作为强AI,具备更强大的理解生成能力。在创作生产、情感陪伴、人机交互等方面都带来前所未有提升。
郑爱国回忆,在联想内部,最初对AI PC的构想也十分全能。ChatGPT最初以聊天的形式出圈,AI PC是不是也要做AI聊天的功能?大模型可以更充分理解人类表达,是不是就能做好意图理解?是不是PC也能帮忙订机票、订酒店?
但这些想法逐渐收敛,原因有二:
一方面,出于对技术本身的理解,如果是大模型or端侧大模型本身就不擅长的领域,没必要做。比如订机票、订酒店这类操作,是行为模型擅长的领域;陪聊方面,云端大模型一定做得比端侧好。
另一方面,还需要与PC本身最容易触发的场景做结合。作为生产力工具,做PPT、找文件、调设置等这些操作,几乎是每一个PC用户的日常。AI PC的能力应该尽可能先触及到所有用户。
当时讨论这些内容时,智能体趋势还没火起来。
一次会上,杨元庆提出一个概念“personal twin”,大概意思是要把AI打造成一个个人双胞胎。以至于在AIPC发布前夕,杨元庆在一个联想的官宣视频上,开始了一场与自己的AI twin的对话,“它将会和用户本人非常像,通过了解用户的本地数据,它仿佛拥有了同样的记忆、具备同样的个性、能创作出同样风格的内容,就像一个双胞胎。但是它的存在不是为了取代人类,而是让人变得更加聪明强大,甚至一定程度上实现数字永生。”
何川后面回想,这其实就是智能体。
我们希望有一个智能体能够为自己服务,同时它又很像自己。因为它创作的内容、扮演的角色、掌握的背景知识最好都和我们很像,才能真正意义上帮助到我们。
如今回看,联想AI PC的个人知识库,就是为此而来。
有了个人知识库,AI PC内置的智能体可以深入了解用户,提供更精准和个性化的响应。同时借助个人本地文档,智能体小天还能不断加深对用户的认知和理解。
而这也引出了联想AI PC的另外两大特性:内嵌大模型、个人数据和隐私安全保护。
一旦涉及到用户隐私信息,安全隐私保护的必须被提上日程。联想在AI PC中增加了一块芯片,它包含加密算法,专门负责保障个人知识库和AI训练相关的敏感信息。与此同时,大模型的计算过程应该被留在本地,本地AI算力如何调用分布也需要重新思考。
由此,联想AI PC的五大特性,被逐一明确。
接下来,是该怎么做。
其中最首要的问题莫过于,如何让大模型在PC本地顺畅运行?对此,联想研究院人工智能实验室负责人范建平博士有个生动的比喻:螺蛳壳里做道场。
首要解决的问题,就是对端侧模型做进一步优化。
作为联想技术攻关先遣队,研究院人工智能实验室长期追踪前沿技术,并负责将先进技术与实际产品做结合落地。在ChatGPT发布后,团队便已经开始关注大模型,开始思考如何让大模型和PC结合。
把大模型内置于PC,一定程度上就好比把大象装进冰箱。哪怕后面端侧模型规模一缩再缩,本地资源的分配上还是需要精打细算。
联想集团首席研究员、联想研究院人工智能实验室研发总监师忠超介绍,PC本地还需要运行Windows、其他软件,需要预留出足够的内存空间,否则电脑无法工作。
但大模型究竟应该占用多少内存?当时没有人知道,这是一块“无人区”。
团队尝试用量化压缩、模型剪裁等方式,结合对PC系统的深刻理解,不断去压缩大模型,去突破大模型所需内存的极限。
可能前天还需要8GB内存,到了今天就能降到6GB了。
但内存占用也只是团队要突破的一个维度之一,实际团队要面临的工作远比这个复杂困难。师忠超记得,有一次团队做完优化,惊喜发现内存占用极限又一次向下突破到了5GB水平,但是冷静分析后,他们发现模型性能出现了下降。内存占用小和性能稳定之间的平衡术,是团队每天都要去磨炼的。
好消息是产品终于亮相,这意味着AI PC这场战役才刚刚开始。
但只解决模型占用内存还不够,模型应该跑在什么芯片上?这也是个全新的问题。
联想发现,不同的芯片厂商给出的解决方案不尽相同。微软首发的Copilot+PC选择和高通骁龙X Elite合作,在这块高通芯片上,NPU被做的非常大,负责为大模型提供计算支持。
但另一边英特尔、AMD的方案有所差异,它选择让GPU承担更多AI计算。作为上层集成商,联想决定提出异构计算策略,让AI计算在CPU、GPU、NPU上都可以进行,选用不同的底层芯片,联想就做不同的协同方案即可。
在上层能力上,联想AI PC强调更懂用户。联想研究院为此打造了智能检索增强的本地知识服务、混合意图理解等技术,使得AI PC可以深入洞察用户个人需求和偏好,提供个性化服务和设备控制。配合场景化的定向增强、模型压缩与异构推理加速等,能实现轻量加速、高效低耗的智能调度,提升相应速度的同时还能降低30%内存占用。
而作为一台内置智能体的终端,丰富的应用生态也是必备的,这一点在联想AI PC五大特性中已有体现。
去年10月,联想在一年一度的Tech World上发布了全球首款真正意义上的AI PC demo,最早展示了大模型如何在个人笔记本电脑上运行工作。
半年之后,首批联想AI PC正式对外发售。联想YOGA Book 9i、YOGA Pro 16s、YOGA Air 14、ThinkPad T14p、ThinkBook 16p、拯救者Y9000X 2024等,都将内置联想小天个人智能体。
而随着AI PC到来,刚满40周年的联想,也正在发生巨变。今年,“AI for All”成为联想全集团范围的全新使命,一个被刷新的联想正呈现在所有人面前。
回忆造AI PC的一年时间,何川、郑爱国、师忠超都不约而同反复提及一个词——前所未有。
对于何川而言,这种前所未有发生在他发起“招募令”的一刻起。
为了更快速灵活推进AI PC项目,何川想到借鉴谷歌内部常用的招募形式来组建团队。这能更快在内部找到AI人才、调动积极性。结果没想到,这次招募成为了他来到联想以来,反响最热烈的一次。
因为大家都看好AI,集团也有决心。
最终何川率先在内部拉起了一个规模上百人的开发团队,许多散落在公司各处的AI人才被集中在一起,成为联想内部最先推进AI PC的团队。
对于师忠超而言,这种前所未有来自他所在的联想研究院人工智能实验室成立的“作战室”。
在明确了大模型上端侧的任务后,他所在的团队立马开始追踪大模型相关技术,联想集团首席技术官芮勇博士,更是直接把所有AI相关人才都调了过去,团队规模快速扩展数倍。
团队整体都非常兴奋。我们一起在一个大办公室里工作,真的是war room,这里贴满各种小纸条,上面都是我们的想法。每天早晨,我们汇报各自战线的进展,遇到问题立马讨论解决方案,非常紧张的节奏。
师忠超没想到,这种特殊的开发模式,团队居然坚持了半年多时间。期间有一次郑爱国去“作战室”慰问,结果还看到有同事周末把小孩都领了过来,自发在公司加班加点“攻坚”。
为什么能如此兴奋?已经从事AI研究二十余年的师忠超说,这不仅是产品变革的机会,也是技术变革的机会。
这里还不得不提起领导联想研究院人工智能实验室的范建平博士。他曾先后在普渡大学、康斯坦茨大学任职,并曾获得北卡大学终身教职。
一次团队内日常的battle里,范教授和何川“急了眼”:
我天天和你们坐在这开会讨论为了什么?不就是为了情怀、不就是要做点有特色的事吗?
对于郑爱国而言,这种前所未有,是联想集团的全面刷新。
每个部门都在举手,都要提出创新的想法。
作为产品经理,郑爱国也从来没有像如今这样,能如此直接地参与到产业变革中来。“这是PC的第三次产业革命。”
如今,这种认知已经不局限于联想、PC厂商内部,而是逐渐在行业内达成共识。
中国信息通信研究院王晓丽在近期提出,生成式AI将成为智能终端生态的标配,随着技术的不断进步,AI终端有望为用户带来更多惊喜,同时也为终端产业带来新的增长点和发展机遇。
中信建投分析称,AI PC产品的涌现,一方面有望催化换机潮,从而带动全产业链受益;另一方面,也将促进核心零部件价值量提升,其中,处理器、存储直接受益确定性高,散热、电池等环节有望间接受益。
在此趋势下,联想自然成为趋势的“开路人”。造出AI PC还只是第一步,后面又该如何走呢?
造出AI PC,然后呢?
随着第一批AI PC正式发售,联想已经做好了迎接反馈和评价的准备。
何川开玩笑说,这次不做市场教育,用户有意见,我们立马改。
据透露,目前联想小天智能体的更新版本已在开发设计中,后续将根据用户建议继续不断打磨优化,预计以半年为期进行迭代。
那么未来,推动用户换机的理由可能将从Windows版本更新换代改为联想小天更新换代。
实际上,在联想构想中,智能体被放在了格外重要的部分。
在公布“AI for All”愿景时,杨元庆提出“个人人工智能双胞胎”和“企业级人工智能双胞胎”。
它们表达,未来社会人工智能将如影随形,仿佛自身的投射。投射的主体可以是一个人,也可以是一个企业。AI将作为外部扩展,存储更多的数据、做更多推理和计算,以此让个人/企业变得更强大。
这意味着,未来智能体将成为硬件终端的灵魂。
依托联想独有的制造体系,打造基于用户个性化体验的AI产品,何川觉得未来PC市场里,用户更关心的是谁家智能体能带来更符合个性化需求的体验。
这也是为何联想从一开始就觉得不做集成商,从更底层自研构建AI PC。因为关键核心技术要握在自己手里。郑爱国则认为,智能体将让PC拥有成为流量入口的机会。
而对于用户,联想的愿景很直接:AI普惠。
在联想发售的每一台AI PC中,都能看到一张非常详尽的说明书,介绍如何调用联想小天、如何与它对话、小天具备哪些功能。
目的很简单,让每一个愿意购买AI PC的用户,都能更低门槛、更充分感受AI的力量。
作为全球PC巨头,联想每年为全球用户提供数以亿计的智能终端设备。联想刚刚发布的2023/2024财年第四季度暨全年业绩中,第四财季个人电脑业务占全球份额22.9%,增速高于市场近6%;第四财季营收994亿人民币,同比增长近10%;并且全年研发费用率和研发人员总数及占比均创下历史新高。
杨元庆表示,严格定义的AI PC到2026年渗透率可能达到50-60%,“我相信大多数人的下一代PC将是AI PC”。
这意味着,当联想小天搭载每一台联想设备上时,全球亿万用户将一键拥抱AI。联想正在全力提速,让这样的未来更快到来。
现在,回到最开始,为什么是时候拥有一台AI PC了?
因为使用AI最新技术,从未如此so easy。
- 神秘「蓝莓」登顶文生图竞技场,疑似Flux续作,网友:都来打广告2024-09-29
- 百度智能云晒大模型落地成绩单:5个第一!2024-09-25
- 谷歌AI芯片AI设计!端到端闭环,三星联发科都buy in了2024-09-27
- OpenAI连丢3高管,光杆司令奥特曼紧急扶持华人上位!半年流失15员大将2024-09-26