坠毁的波音737 Max:一部人类无法控制的机器

波音公司为节省发动机油耗,隐蔽修改飞机操作系统,而且机器程序还能在飞行员操纵之上,“擅自”给出控制指令,导致最后灾难避无可避。

李根 发自 凹非寺

量子位 报道 | 公众号 QbitAI

美国波音飞机的账,现在正被归到机器上。

事故信息已众所周知。3月10日,埃塞俄比亚航空公司的波音客机,在起飞6分钟后坠毁,机上149名乘客、8名机组成员,全部遇难。其中还包括8名中国公民。

当然,不仅因为空难原本就备受瞩目,而且围绕失事飞机机型,大家还迅速发现:这不是5个月前另一起印尼空难噩梦重演吗?

坠毁的波音737 Max:一部人类无法控制的机器

波音B-737-800MAX,交付使用刚满4个月的机型,成为众矢之的。

并且更关键的问题,被指向该机型新系统的设计:

波音公司为节省发动机油耗,隐蔽修改飞机操作系统,而且机器程序还能在飞行员操纵之上,“擅自”给出控制指令,导致最后灾难避无可避。

坠毁的波音737 Max:一部人类无法控制的机器

且在机器谁对操纵负有决定权的“搏斗”中,波音的设计似乎已倒向机器一方。

于是连美国总统特朗普,也参与到口诛推伐中。

事故完整线

当时上午8时38分,埃塞俄比亚航空这架编号“ET 302”飞机原计划由埃塞俄比亚首都亚的斯亚贝巴,飞往肯尼亚首都内罗毕。

那天天气状况良好,晴空朗日,没有任何值得提前预警的动态。

但就在起飞后6分钟左右,飞机失去联系,后坠毁于出发地约50公里外,俯冲着陆,机毁人亡。

坠毁的波音737 Max:一部人类无法控制的机器

更早之前,据称地面曾接到当事飞机机长问题报告,请求迫降,但旋即失去联系,最终没有避免悲剧发生。

现在,虽然飞机黑匣子已经找到,但具体失事相关原因还无结果,谁也不知道在生死之间,157名乘客经历了什么……

只是事故情况太可疑了。

除了天气状况良好,该航班机组信息也被进一步挖出——履历纪录都非常好啊。

曝光信息称:

失事班机的机师拥有极佳的飞行纪录,飞行时数超过8000小时。

失事飞机在出事之前,刚从南非飞回埃塞俄比亚,地停3小时后执行事故航班,失事前并没有发现技术问题。

而埃塞俄比亚航空,也有良好的飞行安全纪录。

在2018年的全球航空公司安全排名中,名位列第40,也是星空联盟成员。还曾于2013年和2016年荣获最佳非洲航空公司大奖,是非洲航空业的精英,未有过类似重大事故发生。

于是有心人发现,这机型怎么跟2018年10月29日印尼狮航的失事飞机一模一样?

再一查,果然。

不仅机型都是波音737 MAX 8,而且也都是交付不久的新飞机。

更主要的是,失事过程也惊人相似。

当时印尼狮航飞机国内固定航线飞行,在起飞后13分钟,于印尼以北海域坠毁,机上189人全部遇难。

而且事故原因,真与该型号飞机有关。

在黑匣子找到后的调查中,初步分析结果是:涉事飞机其中一个迎角感应器失灵,导致飞行姿态修正系统错误地判定飞机即将失速,从而控制飞机进入俯冲,而飞行员对此系统缺乏认知,最终飞机因未能及时改平而坠毁。

此次埃塞俄比亚飞机也类似。

央视援引Flightradar24数据显示,飞机的飞行数据记录了埃航飞机最后的轨迹,飞机在起飞后,曾经有过突然下降的迹象随后又有拉升,之后消失在追踪画面中。

而在之前印尼狮航的分析中,还披露了一个更具体的问题:

飞机信号系统接收到一个假信号,信号显示飞机“抬头”,所以控制系统持续给出了“低头”的指令。机组与控制系统搏斗很长时间,最终发生事故。

虽然埃航黑匣子调查结果还未公布,但不也发生了不正常的爬升与下降吗?

背后究竟是怎样的系统?

新功能MCAS

马上,就有知名航空网友出来科普。

微博大V@欢乐的云端之上,身份是中国南航机长,介绍了可能让飞机抬头-低头的系统原因所在。

他说大家讨论的系统,指的是波音737MAX的新功能MCAS

全称:The Maneuvering Characteristics Augmentation System.

要点翻译即:机动特性增强系统。

坠毁的波音737 Max:一部人类无法控制的机器

via: The Air Current

波音737MAX设计之初,波音公司为让新发动机更节油,从而安装位置只能更高更靠前,但也带来新问题——产生的抬头力矩有让飞机失速的风险。

坠毁的波音737 Max:一部人类无法控制的机器

于是就设计了MCAS,在系统探测到大迎角时,电脑会自动让飞机低头。

坠毁的波音737 Max:一部人类无法控制的机器

同时也存在隐患:在接收到错误信息时存在自动低头导致失控的隐患。

坠毁的波音737 Max:一部人类无法控制的机器

机长“欢乐的云端之上”猜测,这可能是关键原因。

还有机组人员进一步爆料,更恶劣的是,“MCAS在接收到错误的信号后会自动让飞机低头”的问题,没有被写进手册里,印尼狮航空难时,飞行员就不知道有这个设计。

所以当时的悲剧也与此相关。

在印尼狮航的波音客机出现防失速自动系统误判后,不断压低飞机的机鼻,飞行员则拚了命想将机鼻拉起来,等于出现“人机搏斗”的情况,飞机在11分钟内升降26次,但飞机仍推向无法挽回的飞行姿势,最终坠机。

坠毁的波音737 Max:一部人类无法控制的机器

印尼狮航波音737MAX客机

归结来说,在波音737MAX客机中,人类飞行员面对一个“关键时刻难以控制的机器”。

需要说明的是,印尼狮航事故后,波音公司也意识到了问题。

在2018年11月,波音公司向全球737MAX机型的运营商发布公告,警告该系列飞机的飞行控制系统存在读数输出错误的问题,可能会导致飞机自行大角度俯冲并坠落。

声明称,波音公司已向相关航空公司发出警告:飞机俯冲的问题只会在手动飞行时发生,且错误地输出迎角传感器(AOA),导致飞机倾斜10秒。

更进一步,飞行手册也得到修改,飞行员也被针对性及时培训。

万万没想到,不到5个月,另一起毁灭性空难就在同一机型上再次发生。

那么问题来了:如果说印尼狮航是飞行员不知情,那埃航噩梦重演,是否意味着在MCAS系统中,人类生死攸关的抉择,算法权重是优先于人的?

其实在MCAS系统设计中,是有相关机制考虑的,The Air Current有清楚介绍:

坠毁的波音737 Max:一部人类无法控制的机器

但至少从印尼狮航的事故中,看不出人类确实能“夺回”主动权。

机器决策 or 人类?

所以这样的人机讨论,并非毫无缘由。

外媒大西洋通讯社就直白表示,MCAS作为一个辅助人类的机器系统,却在生死攸关时,不仅人类难以完全接管,而且还有“人机搏斗”,最后飞行员也没能夺回控制权从而避免空难,需要深思。

这跟我们常说的自动驾驶汽车中辅助系统一样,决定权究竟在人还是机器?到底是完全信任机器还是确实有中间态可走?

不过大西洋通讯社可还没觉得MCAS能跟自动驾驶系统相提并论。

他们更倾向于把MCAS类比为汽车中的防抱死制动系统,该系统可以检测到驾驶员在制动器上鼓捣的时间过长,然后进行干预,以防止汽车进入打滑状态。

或者勉强能跟无人车中车道保持的控制模块类似。

但说一千道一万,大西洋通讯社的分析认定:完全把人类命运交给机器程序,是不行的呀。

甚至还举例说,1995年,哥伦比亚发生飞机撞山事件,核心原因是机组太信任飞机自动驾驶功能,以为已经进入自动驾驶系统设定的正确航路,最后导致机毁人亡。

而在已经过调查的印尼狮航分析中,飞行员一直想把机头拉回来,但机器系统不让,还不断推低它,最后还是自动化系统获胜……

所以大西洋通讯社分析师呼吁:让飞行员都熟知自动化系统原理显然是不可能的,那能不能关键时刻直接按掉开关?

就像AlphaGo比赛中,拔掉电源。

坠毁的波音737 Max:一部人类无法控制的机器

然而这似乎也不能解决所有问题,一方面是波音确实有类似设计,但在印尼狮航没起作用。

另外,这违背自动化系统被打造和应用的初衷。

比如有网友就指出:还记得马航370事件吗?或者更遥远一点的911灾难。

如果有一个处心积虑的人类试图控制飞机且做反人类之事,总开关一断,我们何以保证安全?

机器,至少是理性客观的,不会受人类情绪影响。

现在如果有机器导致的问题,那只能说明机器设计的还不够好,人类工程师还需更努力。

总之,信任机器或者相信族群同胞,天平两端都有人站。

特朗普键盘反对机器

不过知名网瘾老年、美国总统特朗普,观点就很明确。

他不认为越来越技术化的飞机是好事。

在埃航讨论中,特朗普连发两推。

坠毁的波音737 Max:一部人类无法控制的机器

首先表示现在太过信任电脑:

飞机现在变得越来越复杂。飞行员都不需要了,只需要MIT(麻省理工学院)的电脑科学家。我看过很多型号的飞机,都是这样。总是寻求不必要的更进一步,而老的和简单的往往更好。

紧接着补充:

有时需要争分夺秒做出决定,这时复杂性就造成了危险……我不知道你们怎么想,但我可不想让爱因斯坦来当我的飞行员。我想要的是伟大的专业飞行员,可以轻松和迅速地控制飞机!

怎么说呢?特朗普两条推特似乎相互矛盾。

因为更多MIT计算机科学家(先不管CMU和斯坦福有没有意见)进入航空领域,正是希望减少飞机操作的繁复性,从而降低对高门槛专业性的依赖啊。

而且特朗普也就键盘说说。

因为埃航事故发生后,全球大部分地区都纷纷宣布暂时停飞所有波音B-737-800MAX型号飞机,特别是中国,第一时间就宣布全部下线,等事故原因和分析结果出炉后再行讨论。

坠毁的波音737 Max:一部人类无法控制的机器

其后英国到澳大利亚,也纷纷宣布暂停波音737MAX机型运营。有的国家甚至不光要求本国航空公司停飞,还禁止相关型号的飞机飞越他们的领空。

然而美国至今不为所动。

美国西南航空(Southwest Airlines)还表示:不暂停该机型,也不会对该机型做免费改签。

坠毁的波音737 Max:一部人类无法控制的机器

一直被全球作为航空安全标准龙头的美国联邦航空管理局(FAA),依然坚持其安全认定,称对于波音B-737-800MAX,“根据现有信息,我们没有任何依据向运营方发布新的指导。”

波音公司则在周二重申:对737 Max的安全性“充满信心”。

然而大家对这家美国飞机制造商还依然“充满信心”吗?

波音737MAX机型遭全球23国禁飞,公司股价两日下跌11%,市值已蒸发266.5亿美元,约合人民币1789.28亿元。

坠毁的波音737 Max:一部人类无法控制的机器

按照波音737MAX官方1.2亿美元架的定价,两天损失了222架飞机。

然而逝去的生命,又如何用数据计算清楚?

世间除了生死,皆为小事。

希望类似悲剧,永远止步于此。

One more thing,也有评论将此次空难中被讨论的系统,跟机器学习、AI直接挂钩。

需要正名的是,这个锅,跟人工智能离太远了……AI,背不了。

版权所有,未经授权不得以任何形式转载及使用,违者必究。