国产GPU添新玩家,AMD出身,两款业界第一7nm芯片曾由他打造
不止GPU,要打造综合算力平台
金磊 发自 凹非寺
量子位 | 公众号 QbitAI
他在现场只是播放了一张的演讲内容。
竟引得众人不约而同,纷纷高举手机拍照,会场更是掌声不断。
他叫钱军,很多人熟知这个名字,是因为他曾在AMD担任高管一职长达近10年时间。
在此期间,钱军还带领团队设计量产了两个业界第一:
- 第一颗7nm图形处理器
- 第一颗7nm GPGPU架构的AI芯片
而刚才现场之所以会有那般反响,正是因为钱军在2018年所成立的瀚博半导体,搞了一个“大动作”——
预览了国产7nm云端GPU芯片,SG100。
据了解,SG100是集渲染、AI和视频于一体的全功能GPU,在吞吐、延时等性能中具备世界领先水平。
至于它所要发力的领域,正是云游戏、云手机、云桌面、云计算等元宇宙关键性应用场景。
例如在现场,钱军便演示了在SG100加持下视频渲染的效果对比:
不难看出,在色彩、帧率、细节、光照等方面,都是要优于世面主流GPU芯片。
并且随着SG100的预览,也就意味着国产GPU玩家队伍,又正式添加一位新成员。
但纵观整场发布会,“业界领先”、“性能数倍”等标签显得格外醒目。
之前以“拥有18年以上高端芯片设计和量产经验”先声夺人的瀚博半导体,再次来到聚光灯下。
适应多样化计算需求:芯片、计算架构、软件平台
在钱军看来,芯片及其衍生的产品,从来不是“单打独斗”的存在。
相反,他认为芯片性能的强大,应当是源自底层计算架构。
为此,瀚博半导体在现场率先亮出的便是自研的统一计算架构——VUCA(Vastai Unified Compute Architecture)。钱军表示:
我们用了中台的概念。核心的IP就类似中台,然后上层有统一的开发平台。可以根据产品和规划和侧重点,设计和推出更符合市场需求的产品。
而这张全景图,可以说是贯穿了瀚博半导体的多项核心技术。
例如架构的底层整合了多款高性能计算引擎,包括高性能AI引擎、可编程的矢量计算引擎,还有硬件化视频解码、具备渲染能力的显示核心等。
在这些计算引擎之上,拥有一个高效统一的存储管理、一致性的接口和低延迟的链接。
之所以如此设计,是因为芯片及其产品单单有算力是不够的,接口、数据等因素依旧会成为制约算力效能的羁绊。
除此之外,要想让算力资源效能更大化,它还需要被池化、在云端被集中;因此,瀚博半导体的统一计算架构还设置了完整的虚拟化功能。
而配合的统一的底层软件设计、模块化的上层计算算子库和功能模块,则会让芯片及产品在面对不同客户的需求时,变得更加灵活。
整体而言:
瀚博统一架构让计算密集型的AI、视频、渲染任务性能得到最大化硬件加速,同时端到端缩小延时,一体化助力云端实时图形渲染、AI增强处理、视频编解码等需求。
也正是基于这样的统一架构,钱军在现场发布了瀚博半导体的更多新品。
数据中心推理加速卡——载天VA10
载天VA10是一款用于数据中心的高性能AI计算、推理的加速卡。
从性能角度来看,载天VA10所拥有的最大亮点,在于INT8峰值算力达400TOPS!
这一数值便一举刷新业界纪录。
但若是仅凭借算力峰值来判断加速卡的强弱,那还是有一些片面,需要的更多的综合性比较。
比如要考虑“算力密度”,算力密度可以从两个维度来讲。
第一是按芯片单元面积将算力平均下来,比如一平方毫米芯片的算力如何。另外一个,是每单元瓦的算力,也即每瓦功耗能够提供多大的算力。
例如载天VA10的设计功耗为150W,而在同等条件之下:
- 最高吞吐率是主流GPU的2倍以上
- 最高性能延时是主流GPU的6%
不仅如此,在低延时场景(低于4毫秒的YoloV3检测算法场景)下,载天VA10的推理性能,更达到同功耗市场主流GPU的3倍以上。
也正是得益于载天VA10的如此性能,它便非常适合“上岗”一些需要高实时性的云端AI场景,例如直播视频增强、智慧交通管理、实时语义理解等。
以智能ROI优化为例,载天VA10的效果如下:
不难看出,无论是实时处理效率,亦或是色彩增强效果,载天VA10都是肉眼可见的更胜一筹。
边缘AI推理加速卡——载天VE1
除了数据中心端,瀚博半导体聚焦在边缘端同样发布了新品,载天VE1。
不同于载天VA10,载天VE1更侧重的发力点,是在那些大算力的需求场景。
例如车路协同、低速自动驾驶(无人配送车、港口物流园区无人驾驶的车辆)等。
而载天VE1之所以能够“胜任”于这些场景,还是得益于它自身的性能:
- 在 40~65瓦功耗下,INT8峰值算力达100TOPS
- 吞吐率达到主流GPU的2倍,但延时不到主流GPU的5%
软件平台VastStream
但也诚如刚才所言,硬件性能上的“单打独斗”并不能将其功力全程发挥出来。
因此,瀚博半导体对此的破解之道,便是“软硬一体”——VastStream。
据了解,VastStream软件平台,可以加速各类AI应用的部署。
例如计算机视觉、视频处理、自然语言处理、搜索与推荐、算子自定义扩展等。
而其全新软件组件,还提供了系统管理等三大管理工具,方便客户部署。
与此同时,VastStream的基础软件栈功能也变得更加丰富。
主要特性包括统一接口、灵活调度、通用AI计算、多路高效视频转码+AI增强、易编程快迁移、工具链完备等。
至此,不难看出瀚博半导体已经出现一条清晰可见的业务线:
芯片、推理加速卡、一体机的硬件产品,再到软件整合的系统解决方案。
那么对于这位新晋的“GPU玩家”来说,如今也到了回答这个问题的时候:
瀚博要走怎样的一条“GPU之路”?
对于这个问题,钱军其实在现场已经给出了答案:
我们致力于做全球领先的综合算力平台。
而这次预览的GPU,可以说仅是瀚博半导体完整拼图中的重要一块。
这一点,从瀚博半导体的发展路径中便可以了解一二。
钱军在创立瀚博半导体之初,虽然有着数十年深耕GPU的团队,但他们却没有直接切入到造GPU的赛道。
选择的切入点反倒是“AI+视频”,而且这其中的AI更多的是在推理应用侧。
之所以如此,是因为钱军认为视频就像一枚硬币,有着2个维度。
对于已经产生的视频,是一个计算机处理的问题,包括增强、分析等等。
而对于还未出现的视频,那就是一个像素生产的问题,包括渲染等工作。
虽然此前瀚博半导体从未官宣过类似SG100这样的GPU的消息,但与GPU相关的能力其实已经是嵌套在了此前的产品中,只是并未对外宣传。
此举背后的逻辑,就是让产品先用起来,然后再打造一颗独立的高性能GPU。
加之已有的推理卡、软硬件等,便可把“综合算力平台”的拼图拼完整了。
然而把“国产GPU”这条线铺开来看,在瀚博半导体之前,已然是一副势头凶猛的态势。
那么在这样的大环境之下,瀚博半导体正式进入“国产GPU玩家”之列,其所持的杀手锏又将是什么?
对此,钱军表示:
重要的不是只有一个芯片、一个“硬疙瘩”;更重要的是一个软件的生态和合作的生态。
唯有做到高性能、低成本,然后用起来才是硬道理。
One More Thing
瀚博半导体此次正式步入GPU市场,一个非常醒目的标签,便是团队拥有在AMD数年的造芯经验。
而在2020年成立的摩尔线程,其创始人也曾在GPU巨头英伟达任职长达15年。
两个GPU巨头之间长期的“对垒”,已然是人尽皆知的事情。
但现在,从英伟达和AMD出走的人,在国产GPU这条道路上再度“交锋”。
嗯,有点意思。
- ChatGPT搜索搞不定勾股定理新证明,但国产AI可以!2024-11-05
- GPT-4o加钱能变快!新功能7秒完成原先23秒的任务2024-11-06
- 无需参数访问!CMU用大模型自动优化视觉语言提示词 | CVPR’242024-11-06
- ControlNet作者新作:AI打光玩得更溜了!细节保留能力远高于SD1.52024-11-06