特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

乾明 发自 凹非寺
量子位 报道 | 公众号 QbitAI

怎样能把一辆特斯拉忽悠“瘸”了?最近两名研究人员给出了答案:

用一条2英寸的胶带就够了。

他们用胶带对公路上的速度标识进行修饰后,成功欺骗2016年版特斯拉的摄像头系统,诱使其出现了50英里/小时(80公里/小时)的异常加速。

特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

在不少网友看来,这反映了自动驾驶系统在“环境”方面的缺陷。同样有不少网友认为,这是在特定条件下实现的攻击,并不能产生太多的影响。

那么,事实究竟如何?特斯拉上的这一缺陷会产生多大的影响?我们从实验开始说起,一一解读。

用胶带忽悠特斯拉始末

诱骗特斯拉的两名人员来自全球最大的安全公司之一McAfee。他们使用胶带的方法也很简单:

在35英里/小时的速度标志上,贴了一条2英寸的黑色胶带,略微拉长了数字“3”的中间线。

修改后的速度标志看起来是这样的:

特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

然后特斯拉的自动驾驶系统,“看到”这个标志之后,就直接从35英里(56公里)/小时加速到了85英里(136公里)/小时。

这在机器学习领域也不是个例。此前谷歌的InceptionV3图像分类器就将打印出来的乌龟识别成了步枪,从而引发了对人工智能是否可靠的讨论。

特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

他们先在一辆Model X上测试,其后在Model S得到验证,测试用的汽车都是2016年推出,其后他们测试了新款特斯拉,发现没有出现这一问题。

因此他们认为,出现这种情况的原因在于特斯拉使用的摄像头系统:MobilEye EyeQ3。

一个有趣的事实是,McAfee前身是英特尔的安全部门,现在也是英特尔旗下合资公司。不过此前有报道称,英特尔和McAfee另一个大股东TPG准备将其出售。

而MobilEye,在2017年被英特尔150亿美元收购,成为英特尔旗下布局自动驾驶产业的排头兵。

特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

所以,McAfee发现特斯拉漏洞,也算是一家准备被英特尔卖掉的安全公司,发现了英特尔旗下自动驾驶公司的关键问题。

据MIT科技评论报道,McAfee在2019年就向特斯拉和MobiEye EyeQ3同步了这一研究,却得到了不同的回应。

各方回应:就算人看到也会误读

特斯拉并没有对这一研究发表评论,但表示并不会解决他们发现的问题。MobilEye EyeQ3则是反驳了这项研究。

MIT科技评论报道称,一名MobilEye EyeQ3的发言人说,就算是人类看到修改后的标志也会误读;这一款摄像头并不是为全自动驾驶设计;他们将会采用“众包地图”在内的多种技术支持摄像头。

虽然2016年之后,特斯拉就放弃了MobilEye EyeQ3,转而采用自研的摄像头系统,并没有发现问题,而且MobilEye EyeQ3后续推出的摄像头没有被诱骗。

但在McAfee研究人员看来,这仍旧令人担忧。现在依旧有不少人在公路上驾驶2016年版的Model S和Model X,使用的依旧是MobilEye EyeQ3,应该值得重视。

“我们不是要散播恐惧”,他们说,“我们进行这项研究,是为了提高消费者和供应商对可能存在的各种缺陷的认识。”

这种担忧有其道理,多起车祸的发生,也让特斯拉的自动驾驶系统备受关注。

去年,美国交通部门调查两起特斯拉致命撞车事故发现,事故发生时Autopilot均处于开启状态。

特斯拉被一条胶带忽悠,将35“看成”85,异常加速80公里/小时

近日,美国国家运输安全委员发布数据,证实苹果工程师Walter Huang驾驶特斯拉出现车祸时的场景:Autopilot总是朝着一个方向转向。

特斯拉对外的口径是,Autopilot并不意味着完全自动驾驶,司机必须始终将手放在方向盘上。

出现种种事故,并没有打消马斯克对自动驾驶系统的狂热。他去年还放出豪言,将在2019年年底推出完全自动驾驶系统。

现在来看,这一规划显然落空了,但他之后依旧坚持:可能会在几个月里完成所有的功能,特斯拉完全自动驾驶即将到来。

参考链接:

https://www.businessinsider.com/hackers-trick-tesla-accelerating-85mph-using-tape-2020-2

https://www.technologyreview.com/s/615244/hackers-can-trick-a-tesla-into-accelerating-by-50-miles-per-hour/

版权所有,未经授权不得以任何形式转载及使用,违者必究。

相关阅读