MEET2021 | 地平线黄畅:软件2.0时代,数据驱动进化,算力将成为智能化的基石

“车载AI芯片,不仅是智能汽车的数字发动机,也是整个芯片行业的珠穆朗玛峰。”

编辑部 整理自 MEET 2021
量子位 报道 | 公众号 QbitAI

当下,AI芯片将迎来什么样的挑战?

随着软件步入“2.0时代”,数据开始驱动AI进化,算力也逐渐成为智能化的基石。

但除了芯片本身的算力提升,AI算法对芯片的要求,也还会越来越高。

一方面,AI算法的发展日新月异,从人工设计特征,到深度学习神经网络模型,发展速度已经远超AI硬件改进的速度。

另一方面,软件2.0时代,灵活的AI开发、有效的数据闭环,将成为AI系统的新特征,这又会对AI芯片提出更多要求。

前后浪潮,一同夹击。AI芯片,应当如何破圈?

在MEET 2021智能未来大会现场,地平线联合创始人兼技术副总裁黄畅,给我们分享了对于AI芯片行业发展的思考。

在不改变原意的基础上,量子位对黄畅的演讲内容进行了编辑整理。

关于MEET 智能未来大会:MEET大会是由量子位主办的智能科技领域顶级商业峰会,致力于探讨前沿科技技术的落地与行业应用。本次大会现场有李开复等20余位行业顶级大咖分享,500余名行业观众参与,超过150万网友在线收看直播。包括新华社、搜狐科技、澎湃新闻、封面新闻等数十家主流媒体在内纷纷报道,线上总曝光量累计超过2000万。

演讲要点

 

  • AI的核心理念,就是不断地用机器替代人做更多的事情,包括学习本身。
  • “软件2.0”,指的是将整套AI系统的开发、测试、改进、安全评估,放在真实的物理世界中迭代提升,形成一个数据迭代闭环。
  • 如今,图像识别算法的进化速度,甚至已超过半导体行业的摩尔定律。
  • 即使功耗再低、面积再小,芯片也不能没有性能。而芯片的运算能力指标(TOPS),并不能反映最先进的算法带来的性能提升。因此,地平线提出了一个新指标MAPS,来合理地评估计算性能。
  • 只有将最先进的算法、和最先进的处理器架构结合在一起,才能更好地对算法进行优化。
  • 车载AI芯片,不仅是智能汽车的数字发动机,也是整个芯片行业的珠穆朗玛峰。

 

(以下为黄畅演讲分享全文)

飞速演进的AI算法

自上世纪60年代被提出后,AI经历了几个发展阶段。

从早期的符号主义、基于规则的专家系统,到后来的人工设计特征、浅层学习,再到今天的深度学习、超越深度学习的新范式……

每个发展阶段中,AI的核心理念,都是不断地用机器替代人做更多的事情,包括学习本身

但与其他领域不同,AI涉及的问题,难以用分解简化。

以计算机视觉为例。

在我们看来,下图是一只猫;但对于计算机而言,它只是一堆数据。

如何让计算机理解这张图,是一个复杂、高度非线性的问题。

上世纪80~90年代,计算机视觉的先驱,曾提出一种场景理解框架:用计算机提取图片中的物体边缘、构造2D物体,并理解2D物体之间的深度关系(2.5D信息),以获得3D模型。

但这个框架过于理想化。

不仅在框架计算时会引入大量不确定性(错误、噪音),输入图像本身也存在物体尺度变化、流水遮挡、同类物体类内差异等问题。

而且,现实场景下存在大量光源,各种光会从不同角度、位置出发,在空间中发生反射、折射等变换。

但计算机,却无法逆向还原这一过程。

伴随着AI发展进入下一阶段,专家们开始尝试设计一些简单特征(如SIFT、HOG等特征)。

这些特征,通常用于描述边缘、纹理等信息。

然后,计算机会用机器学习中的浅层学习(如SVM、随机森林等)模型来处理特征。

这些模型的参数不多,通常只经过2~3层非线性变化。

十几年前,随着稀疏编码(Sparse Coding)出现,这条路走到了极致。

这种方法基于无监督学习,将特征表达从低维映射到高维,并在高维稀疏空间中,用线性方法进行图像分类。

尽管参数很多,但稀疏编码并非端到端学习模式,仍属于浅层应用框架。因此,它的提升空间非常有限。

2012年,深度学习开始在计算机视觉领域“一飞冲天”。

随着深度学习的发展,各种AI模型的运算效率变得更高。

如果配合上特定的硬件设计,还能很好地扩大模型的容量、提升模型识别精度。

早期的深度学习网络,仍然由专家设计。但后来,研究者们开始让AI自主发现能提取最优关键特征的网络架构、构造神经网络。

这期间,AI模型变得更加多样化,算法也在不断进步,其速度甚至超过了半导体行业的摩尔定律。

过去8~10年里,处理器性能大约每隔18个月翻倍,但在保持精度相同的前提下,算法的计算量每隔10~14个月就能减半。

如今,只需要几百分之一的计算量,AI算法就能达到8年前图像识别的精度。

相比于传统方法(下图黑线)会导致精度饱和,深度学习(下图红线)的优势在于,它能很好地利用大数据、大模型和大计算量,来提升模型精度。

但与AlphaGo不同,基于深度学习的AI系统不能只建立在模拟器中。

以地平线从事的自动驾驶行业为例。

相比于虚拟世界,自动驾驶所应用的真实物理世界(像动植物、自然气候等)在不断发展变化、并持续涌现出新的任务和边角案例(corner case)。

因此,我们不能只在“虚拟世界”(如模拟器)中,训练端到端算法(感知、预测、规划、决策)、再将它们部署到汽车上。

我们必须将整套AI系统的开发、测试、改进、安全评估,放在真实的物理世界中迭代提升,形成一个数据迭代闭环。

这,便是所谓的“软件2.0”。

软件2.0时代,AI芯片新指标

软件2.0开发系统,是目前可行度最高的大规模持续迭代AI系统。

这个AI系统建立于自动化平台上,通过构造一个完整的数据闭环,来快速提取物理世界的数据。

然后,将数据送入后端训练、迭代模型,以提升系统的精度与效率,再通过OTA更新前端模型。

这是一个包含数据和计算系统在内的、非常完整的体系。

那么,这个数据闭环长什么样?

如下图,传统的“数据标注→训练→评测”,只是其中的一个小闭环,里面的数据是“死”的。

真正的大数据闭环,实际上包含这一训练模型,它会通过OTA服务器,将模型部署到机器人端(如自动驾驶车辆)。

然后,再由机器人端采集数据,并通过数据挖掘送到闭环数据系统,进行快速迭代。

这样的“小闭环+大闭环”,构成了整个“软件2.0”的开发系统。

这些年来,我们的软件算法演进速度很快。

但算法的演进速度,是以巧妙的算法设计为代价的。算法越巧妙,对计算架构的要求就更高。

像传统的通用并行计算架构GPU,已经无法满足目前先进AI算法的需求,因为它的整体计算效率,其实相当低下。

举个例子,下面是用运算能力(TOPS)达每秒30万亿次的处理器系统,运行各种算法任务的结果。

理想情况下,系统的算力利用率,应该能达到100%;但实际上,算力利用率普遍只有5%~60%

精度相同时,算法计算量越小,计算效率通常也越低。

因此,处理器的架构设计非常重要。架构设计得越合理,算法运行就越高效。

为了合理地评估计算性能,地平线提出了一个新指标MAPS(Mean Accuracy-guaranteed Processing Speed,在精度有保障范围内的平均处理速度)。

为什么要提出这个新的指标?

事实上,芯片的评估,往往有三个指标(PPA):性能(Performance)、功耗(Power)、面积(Area)。

其中,功耗和面积分别决定了芯片的使用、制造成本,但无论功耗再低、面积再小,芯片都不能没有性能

然而运算能力(TOPS)指标,并不能反映最先进算法带来的性能提升。

因此,我们定义了MAPS,这个指标通过可视化和量化的方式,在合理的精度范围内,以“快”和“准”两个维度,评估芯片对数据的平均处理速度。

例如,在不同芯片上对ImageNet数据集进行图像分类。

首先,选择适合芯片的算法,然后从“快”和“准”两个维度,对芯片的速度和精度进行评估。

上图的三条曲线,就对应了三颗不同芯片的物体识别效果。

这三颗芯片,分别是地平线第三代处理器、第五代处理器和英伟达Xavier芯片。

对比发现,在图像分类中,地平线第三代处理器只需要8%的功耗,就能达到英伟达50%的性能;第五代芯片只需要50%的功耗,就能达到英伟达500%的性能。

在目标检测中,第五代处理器同样用50%的功耗,就达到了英伟达13倍的性能。

如果只沿用通用计算架构,很难为先进算法做出优化。

只有将最先进的算法、和最先进的处理器架构设计结合,才能在功耗和性能上同时达到最优。

在软件2.0时代,算力的重要性不言而喻,尤其是领域相关的算力,而非通用算力。

如果对领域相关的算力进行评估,一个更合理的指标就是MAPS。从这一指标来看,地平线设计芯片的功耗和性能,要比通用设计芯片的优势更大。

在钻研AI芯片技术的过程中,我们也发现一个很有趣的现象。

一方面,我们在不断提高AI技术;另一方面,AI技术也改进了我们的生产制造。以芯片设计为例,普通工程师进行电路连线需要6周,但AI只需要6小时。

事实上,AI技术的出现,给芯片设计带来了巨大挑战。

AI任务要求,芯片除了算力、还必须携带大量计算和存储单元,即对存储带宽提出了更高要求。

反之,AI技术,也在快速推动AI芯片的发展。

车载AI芯片,行业的珠穆朗玛峰

地平线渴望万物智能的时代,在我们看来,汽车终将成为四个轮子上的超级计算机。

而车载AI芯片,不仅是智能汽车的数字发动机,也是整个芯片行业的珠穆朗玛峰,其设计难度和质量要求(车规级)都很高。

地平线的定位是Tier2,为产业赋能。我们既能供应芯片,也能提供完整方案,同时,还可以开放工具链,提供算法、模型样例,进行专业化的培训服务。

今年,地平线开启了前装量产元年。

地平线车规级芯片“征程2”,目前出货量已突破10万,还签下了20多个前装定点项目。

目前,全球仅有三家公司,实现了车规级AI芯片规模化量产,地平线就是其中一家,也是国内唯一一家实现车规级AI芯片大规模量产的企业。

而长安UNI-T和奇瑞蚂蚁,也已经率先采用地平线的芯片,用作智能驾舱和高级别辅助驾驶。

今年3月,“征程2”在长安UNI-T上实现前装量产;9月,奇瑞蚂蚁搭载“征程2”正式上市,实现L2+级自动驾驶。

从自动驾驶到智能座舱,汽车智能化的大潮即将涌来,势不可当。

我们希望通过努力去赋能百业,让我们的客户和用户,都能享受到AI带来的收益。同时,我们也愿意与更多伙伴一起踏上这一征程。

谢谢大家!

版权所有,未经授权不得以任何形式转载及使用,违者必究。