英特尔打破40年“祖制”的CPU,AI PC们来验收成果了
越用越懂你
金磊 发自 凹非寺
量子位 | 公众号 QbitAI
那个号称40年来最大技术架构变革的英特尔® 酷睿™ Ultra处理器,用起来到底怎样?
现在,最潮的AI PC们,给出了一个明确的答案。
话不多说,直接来看效果。
例如你准备沉浸式工作一段时间,或许需要一台笔记本电脑满足以下几点要求:
- 调至静音
- 性能调到高性能模式
- 把昨天没有看完的文件打开
对于这样复杂的多个需求,现在你不用再挨个用鼠标去设置、操作,只需要用说的方式、一次性提出要求即可。
它不仅仅是多个任务一块处理,并且快速打开文件这么简单,更是能以懂你的方式给文件生成内容概要、提炼观点。
比如用多了AI PC,它就知道你喜欢先对文件进行内容摘要,然后再做观点及展开逻辑的工作。
而且AI PC用得越久,它就会越来越了解你的工作方式,以后不需要特殊强调某些输出点,它就能按照你要想要、你习惯的方式给出结果。
更重要的是,所有这些操作均可以在断网的情况下进行!
这就是智谱AI的PC智能助手在搭载了英特尔® 酷睿™ Ultra处理器的AI PC上目前已经能够做到的功能。
不仅如此,智谱AI首席运营官张帆还畅想过在多模态能力加持之下,AI PC在未来会带来的更多可能。
例如框选图片中的内容,“啪的一下”就能获取与之相关的细节信息。
提一个需求,就能秒生成海报。
批量更改文件的名字,不需要再挨个手动更改,只需一句话就能搞定。
日常繁琐的编写、发送邮件的工作,也可以统统交给AI PC来处理了!
由此,我们不难看出英特尔® 酷睿™ Ultra处理器目前已经取得的效果了——
不仅自身可以提供更强大的算力支持,还能和爆火的大模型软件应用非常默契地打“组合拳”,让AIGC应用们在商用终端上可以非常高效、丝滑地运行。
然而,像刚才我们看到的PC智能助手的能力(即AI PC助理),还只是搭载英特尔® 酷睿™ Ultra处理器的AI PC们所具备能力的一隅。
这块CPU的算力其实也已经涉猎到了与AI PC相关的更多领域,例如AI Office助手、AI Chatbot、AI本地知识库、AI视频图像处理以及AI PC管理等等。
那么接下来,我们就来继续深挖下英特尔® 酷睿™ Ultra加持之下,AI PC们的更多表现。
生产力直接Pro Max
AI Office助手
要问每个职场人都绕不开的“三件套”,那定然就是Word、Excel和PPT(多么痛的领悟~~)。
不过现在有了AIGC的加持,“三件套”或许不再会是让打工人提及便头痛的存在了。
因为像ExtendOffice这样的产品便已经有了基于本地的全新AI插件功能,可以说是让办公效率直接飞起。
比如繁琐的Excel,我们现在可以不用死记硬背复杂的公式、函数,只需自然语言就可以解决一切问题。
例如在Kutools AI中说一句“美元转人民币”,金额栏的值就会自动变换。
对敏感数据加密、解密,也是一句话就能搞定——“将选中的单元格加密”。
在Word中,依旧是一句“生成一篇AI PC的营销文案”,文章内容“唰唰唰”地就完成了。
再比如对于回复工作邮件这个重复性高又单调无聊的工作,在AIGC能力之下,一切变得皆可生成。
Kutools AI可以根据历史邮件自己学习,然后直接生成带有精准数字的报价回复邮件!
不难看出,在AI PC中,办公软件原本繁琐的操作,现在统统都变成一句话的事了。
AI Chatbot
在聊天助手这件事上,AI PC的玩法也开始有了不同。
以中科创达的法务大模型为例,即使是在笔记本电脑这样的端侧,也可以执行合同生成这样非常繁琐的需求。
而除了整个合同生成之外,AI PC上的法务大模型还可以帮助律师和法务工作者做一些案例的分析,在基本判断和准备工作上起到有效的帮助。
而也正如刚才所说,由于AI PC的大模型是可以在端侧运行,因此即使在坐飞机这样的场景下,需要工作的法务人员仍然可以在本地运行大模型来处理合同。
与此同时,端侧的运行也意味着数据的安全性和隐私性,而这也是法务相关人员处理合同时恰恰所需要的。
AI本地知识库
在AI PC中,现在RAG(检索增强生成)也焕发出了新生。
例如由星环科技带来的无涯大模型,便是在AI PC中原生运行的大模型,以每秒钟20多个字符的速度让体验变得非常丝滑;并且它在泛行业知识获取、内容理解和数据分析上做了能力的增强。
除此之外,星环科技还带来了无涯·问知这款RAG产品,可以有效的将海量本地文件资料一键转换成知识,其特点如下:
- 本地化高性能向量数据库,可以完全在AI PC上本地化运行。
- 对知识和文档支持多种格式、不限长度、自动入库。
- 支持图片、音频、视频等多模态数据。
- 自研RAG技术实现精准问答。
- 支持准确的数据分析。
那么具体效果如何?
在无涯·问知里搜索一条实时资讯,它不仅能够对文本内容做解读和回答,甚至还能够将涉及到的重点概念做知识图谱,这在诸如日常投资等工作中就能提供很好的帮助。
在多模态方面,无涯·问知也支持图像的检索:
甚至给它“投喂”一个长视频,无涯·问知也能对其做精准的总结。
这两款产品已经发布,感兴趣的小伙伴是可以试一试了~
AI 多媒体处理
对于视频的处理,AI PC也有了不一样的玩法。
例如针对视频慢动作这件事,当虹科技便和英特尔合作在AI PC上推出了新的解决方案,可以在原始2倍慢动作视频中继续插入3倍的慢动作。
不同于以往的基于运动估计和光流的传统生成方式,现在通过AIGC的方式可以插入更多的视频帧,并且还是更加流畅、质量更好的那种。
值得一提的是,这样的工作原先是只能在专业服务器和大型工作站中才能实现,而现在,只需一台AI PC就能够实现了。
AI PC管理
虽然AIGC所带来的应用可以说是“真香”,但随着AI PC的加速化部署,对企业来说定然会带来如何管理这些新设备的问题。
对此,其实已经有很多软件厂商已然发力于此。
例如火绒安全,首次将AI运用到威胁检测中,通过把AI模型运行在NPU并使用OpenVINO进行推理加速,,使得反病毒引擎整体效率得到提升。
再如贝锐向日葵,利用Intel NPU的AI强大处理能力结合OpenVINO+OCR技术,实现了远控图像的识别和实时分析,自动生成远控工作的内容回溯报告。
还有VMware,集成了采用搭载英特尔® 酷睿™ Ultra的英特尔® vPro® 平台的远程管理能力并基于端侧AI算法,提供了操作系统之下的安全风险管理方案,高效便捷。
从种种案例中不难看出,AI PC已经在多种不同的场景中开始大展身手,AI(尤其是大模型)也已经在端侧开始释放强大的处理能力。
那么接下来的一个问题便是:
怎么做到的?
在端侧能让AIGC大展拳脚,定然离不开强大的算力支撑。
整体来看,我们可以将英特尔在AI PC时代的杀手锏归结为:左手“三大AI引擎”,右手“三大法则”。
首先是三大AI引擎,即英特尔® 酷睿™ Ultra所采用的CPU+GPU+NPU这种模式,使得200亿参数大语言模型在本地运行成为可能:
- CPU引擎:英特尔® 酷睿™ Ultra处理器中的中央处理单元(CPU)包含高性能核心和高能效核心,这些核心提供了强大的数据处理能力和高数据吞吐量,从而显著提升了整体性能。
- GPU引擎:英特尔锐炫™ 图形处理单元(GPU)提供了大约两倍的性能提升和性能功耗比的优化,这意味着在进行视频编辑等资源密集型任务时,可以实现更快的处理速度和更高的能效。
- NPU引擎:神经网络处理单元(NPU)是专为AI计算设计的硬件加速器,它基于先进的Intel 4制程工艺和3D高性能混合架构设计,支持持续的AI应用运行,并大幅提升续航能力。
这三大AI引擎的结合,使得AI PC能够在本地高效运行复杂的AI模型,即使在没有网络连接的情况下也能产生高质量的图像和视频内容。
这种本地化的AI处理能力,不仅优化了创意工作的成本和效率,还为商用AI PC提供了强大的支持。
也正如刚才所述,英特尔® vPro® 平台进一步将AI的高性能与商业应用所需的生产力、安全性、可管理性和稳定性相结合,助力企业提升工作效率。
至于三大法则,则是英特尔CEO帕特·基辛格在CES 2024大会中所总结的内容。
首先是经济法则。这一法则强调在本地处理AI数据的重要性,以减少对云服务的依赖和相关成本。通过在设备上直接处理数据,可以降低云服务费用,使得AI服务更加经济高效。
其次是物理法则。物理法则关注于提升数据在云端和本地设备之间的传输速度和效率。通过优化网络连接和硬件性能,确保AI服务能够快速响应,解决数据传输过程中可能出现的瓶颈问题。
最后是数据保密法则。数据保密法则着重于保护用户数据的安全性和隐私性。这要求AI PC在设计和实施过程中采取严格的数据保护措施,防止数据泄露和滥用,确保用户信息的安全。
在英特尔看来,“三大引擎”和“三大法则”之间的双轮驱动,是可以构成AI PC发展的坚实基础,可以有效推动AIGC在各个领域的广泛应用和创新。
AI PC的普及意味着什么?
毋庸置疑的一点是,AI PC的普及定然不会是单点爆破的那种,而是会从多维度引发质变的现象。
最为明显的就是对于个人,无论是像ExtendOffice改变了传统Office“三件套”的玩法,还是与PC交互的模式从亲自下场操作到让AI自己去处理,都变成了一句话就能解决的事情。
由此便会让用户在生产效率上有了大幅的提升。
其次,刚才我们所展示的六大AI应用如果可以视为由点到线,那么英特尔和AI PC们所打造的全栈AI解决方案,对于行业的影响就是由线到面了。
例如在教育领域,AI PC终端上运行的大型语言模型能够显著提高教师的备课效率和质量,有助于解决教师工作与学习的矛盾,同时促进优质教育资源的广泛共享。
再如医疗和医药行业,AI PC上部署的模型能够加速新药靶点的发现,从而提升医生和科研人员在药物研发过程中的工作效率。
在康复和养老领域,AI PC通过动作捕捉技术对老年人的健康状况进行评估,并提供个性化的康复和健身指导,用科技力量提升老年人的健康水平。
……
一言蔽之,AI PC的普及是会加速实现降本增效,推动各行业的数字化转型。
最后,对英特尔自身而言,同样也是一种新机遇。
作为全球老牌芯片巨头,英特尔在PC硬件领域拥有深厚的技术积累和市场份额。曾经一系列经典之作,如8088处理器、Pentium系列处理器、酷睿系列处理器,一步步将英特尔推向PC硬件最巨头的那一个。
而现如今站在AI时代,虽有诸多“后来者”抢占了时代的红利,但英特尔也正以强劲的势头在与AI做着深度融合。
那么AI PC是否会让英特尔great again?一切就交由时间来回答了。
- ChatGPT搜索搞不定勾股定理新证明,但国产AI可以!2024-11-05
- GPT-4o加钱能变快!新功能7秒完成原先23秒的任务2024-11-06
- 无需参数访问!CMU用大模型自动优化视觉语言提示词 | CVPR’242024-11-06
- ControlNet作者新作:AI打光玩得更溜了!细节保留能力远高于SD1.52024-11-06