波音737连续坠毁,AI要背锅?
编者按:本文来自微信公众号“AI科技大本营”(ID:rgznai100),作者 若名,36氪经授权发布。
2018 年 10 月 29 日,印尼狮航的波音 737MAX8 客机在起飞 13 分钟后坠海,机上 178 名乘客全部不幸遇难。
2019 年 3 月 10 日,埃塞俄比亚航空公司一架波音 737 MAX8 客机在起飞 6 分钟后坠毁,机上搭乘的 149 名乘客和 8 名机组成员再一次全部遇难,无一幸免。
飞机到底发生了什么?人们面面相觑,想抓出事故背后的罪魁祸首。
时隔 4 个多月,同一系列的飞机坠毁,尽管此次波音 737 MAX8 客机坠毁事故原因还在进一步调查,但人们显然不会轻易认为这是两次完全独立的空难,事故原因是独立的。
基于此前波音 737 MAX 所披露的坠机信息,人们开始将这次坠机的原因聚焦于相似的一点:波音 737 MAX系列飞机在系统设计上的隐患导致空难发生,更准确地说,可能是“自动驾驶”设计出问题了。
风险预警
在第一次波音 737-MAX8 客机出事后,狮航发布的调查报告以及印尼公布的黑匣子数据表明,客机坠毁主要还是因为出现了技术问题,在飞机最后 6 分多钟里,飞机的自动驾驶系统不断自动将机头降低,而飞行员则人工操作不断尝试将机头抬起,但一来一回的人机博弈中,人工操作没能成功纠偏,最终悲剧发生。
其中提到,自动驾驶系统之所以会不断错误地将机头俯冲朝下,很可能是因为迎角传感器的错误信号让 MCAS(机动特性增强系统) 判定飞机有失速危险,于是自动下压机头,而且没有明显提示或者警告机组人员,而且波音公司的培训资料中从未提及此项功能。
图片源自 theaircurrent
在飞机的自动驾驶系统里有一个关键的功能是“AOA 程序”,全称是“AOA 传感器数据错误导致的自动驾驶断开后飞行员手动飞行情况下为了防止飞机失速自动触发的飞机水平尾翼配平子程序”
这句定义很长,如前所述,就是当飞机可能会失速时,AOA 程序会自动下压机头,让飞机保持正常速度飞行。
你可能觉得这是为了安全保障,不是好事吗?
据网易航空等媒体报道,这一步设计是为了弥补一处飞机先天硬件不足:波音 737 机型于 1967 年推出,但当时的起落架高度过低导致发动机离地间隙太小,为了更省油,就要使用更大直径、更大涵道比的 LEAP-1B 发动机,所以波音后来将发动机支架的放在了更靠前的位置,这导致起飞时有较大的抬头力矩,为避免飞机过度抬头而失速,这才引入了 MCAS。“硬件不足,软件凑”,可以理解。
不过更重要的是,隐患出在“自动触发”而且其权限高于人工操作上。自动驾驶也没问题,波音 737-MAX8 在设计时的问题时按理说不会没有意识到机器会基于迎角传感器捕捉到的错误数据做出错误判断,但更可怕的一步是,在飞机做出自动让机头俯冲向下的操作后,系统不但不会告诉飞行员,而且没有人工纠错机制。
自动驾驶汽车都还要配备安全员以备紧急状况发生时人工接手汽车操作——就这样还能撞死人——更不要说,在天上飞的载有上百人的庞然大物了。波音 737-MAX8 客机的系统设计未免太过信任机器了,以至于在给飞行员的培训资料里都没有提到。
悲剧复现
第一次事故发生后,对于技术设计问题的指控,波音公司断然否认,并认为是印尼狮航疏于维护迎角传感器造成了故障,反而控诉狮航的维护和安全记录不佳。
所以对此事感到悲痛、遗憾的人都希望能从空难中吸取教训,最直接的要求是停飞全球范围内所有的波音 737MAX 系列公司,但对波音公司来说,这可是放大血啊。
根据公开数据,截止 2019 年 1 月,波音 737MAX 系列飞机已经交付 350 架,订单数达到 5077 架,单从冷冰冰的经济数字比较,波音公司估计宁愿多为 178 条生命付出巨额赔偿,也不会轻易让飞机停飞。
波音公司后来虽然向全球 737MAX 机型的运营商警告该系列飞机的飞行控制系统存在读数输出错误,可能会导致飞机自行大角度俯冲并坠落的可能性,并称飞机俯冲的问题只会在手动飞行时发生,但它称这只是强调现有的操作程序,并没有承认飞机设计存在问题。另外,美国联邦航空管理局也默认支持了波音公司发布了这一声明。
在这样你来我往的相互指责中,飞机停飞的事自然没有发生,连存在的隐患也没有得到明确解决和答复,反而在推诿扯皮中掩盖了事故缘由。
最终,事故原因可能相同的悲剧再次发生。根据目前各方的报道,埃塞俄比亚的这架交付仅 5 个月波音 737MAX 在坠毁前发生了同样的情况,在飞机起飞后在爬升下降中徘徊,并终于俯冲坠落。
如果两次飞机坠毁的事故原因确实相似,那这完全可以归咎于波音公司的人为系统设计的责任,让“自动驾驶”来背锅是容易的,但那是瞄错靶子了。
AI 背锅?
事故发生后,今日头条上有个叫@何毅的“大 V”发了一篇题为《波音 737 连续坠毁,原来是人工智能在惹祸!》的文章。
这篇关于“波音 737 事件”的文章总计 864 个字,就不谈文本信息质量这些了,属于他自己对飞机坠毁的“独有见解”只有最后一句,“所以,在我们追捧人工智能技术的时候,这场决策主导权的变更,可能为人类带来的负面影响,也正在慢慢体现。”
该文作者不是 AI 领域的业内专家,文中仅有一句的观点就这样无关痛痒。好吧,反正在文章发布 24 小时内,阅读量超过了 10 万,底下有超 170 个网友在争论 AI 与飞机坠毁的关系,还竟然成功引起了真正的 AI 大 V 专家的注意力。
对于将 AI 与飞机坠毁事件联系到一起,清华大学语音和语言技术中心主任、北京得意音通技术有限责任公司董事长郑方在朋友圈评价称:此事不能甩锅人工智能,应该认识到自动驾驶还有诸多问题,它更应该是辅助角色,而不应该主导飞机飞行。
云知声 AI Labs 资深技术专家刘升平也提到,传感器感知到的数据如果有误,自动驾驶决策则可能是灾难。
而南京大学教授周志华则调侃该文可能是硬蹭 AI,他质疑波音737MAX中所谓的人工智能没有用机器学习、知识图谱,也没有用 NLP、CV 技术,最重要的一点是传感器检测结果自动触发俯冲动作,所以传感器的设计有问题,与 AI 何干?
“如果这都能牵连上人工智能,那更应该牵连上区块链了。无需人工干预、触发条件出现就自动完成工作,这是典型的敏捷协议,而敏捷协议倒是区块链技术的要素之一。”
(注:以上三位AI专家观点,均获授权引用)
还有专家在朋友圈转发此文并评论是“......”、“?”
目前来看,对于波音 737 飞机设计中的“自动驾驶”设计是否要打引号都还存有疑问,过于绝对的污名化人工智能或者自动驾驶,或者假装要在此事故中要进行反思 AI 技术的负面效应,这些本身都值得怀疑,或者至少先让子弹飞一会儿。
最后再次需要指出,此次波音 737 事故坠毁的事故原因,以及是否与第一次坠机事故发生原因都还在调查中,客机黑匣子已经找到,但披露事故调查报告估计还需要一段时间。3 月 11 日,中国民航总局官网发布公告称,已停飞中国地区约 97 架波音 737-8MAX (代号737-8)客机。
愿飞行安全保障有所加强,愿逝者安息。
相关推荐
波音737连续坠毁,AI要背锅?
波音737事故反思:该让数据“接管”生命控制权吗?
自动化的难题:没人知道波音737 Max到底有多危险
波音737 Max:上世纪60年代的设计,90年代的计算能力
波音又坠机,这次波音快“凉了”?
波音“遇难”:346人死亡与3万亿订单风险
坠机幕后:波音与空客的龟兔赛跑
737 Max事故的元凶是软件设计问题吗?
波音737MAX复飞渐近,现在可以放心坐了吗?
AI删库,程序员背锅?
网址: 波音737连续坠毁,AI要背锅? http://www.xishuta.com/newsview1326.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 94951
- 2人类唯一的出路:变成人工智能 19220
- 3报告:抖音海外版下载量突破1 18936
- 4移动办公如何高效?谷歌研究了 18463
- 5人类唯一的出路: 变成人工智 18321
- 62023年起,银行存取款迎来 10125
- 7网传比亚迪一员工泄露华为机密 8179
- 8顶风作案?金山WPS被指套娃 7096
- 9大数据杀熟往返套票比单程购买 7045
- 10五一来了,大数据杀熟又想来, 6834