Uber无人车存在致命软件缺陷,撞人致死事故前已发生37起车祸

  新智元报道  来源：reuters编辑：小芹

【新智元导读】美国国家运输安全委员会近日发布长达400页的调查报告，披露2018年3月在亚利桑那州发生致命事故、造成一名女子死亡的Uber自动驾驶测试车存在软件漏洞，且在发生致命事故前的一年半里发生了37起撞车事故。你还信任自动驾驶吗？来新智元 AI 朋友圈说说你的看法。

据外媒报道，美国国家运输安全委员会近日披露，2018年3月在亚利桑那州发生致命事故、造成一名女子死亡的Uber自动驾驶测试车存在软件漏洞，且在发生致命事故前的18个月中发生了37起撞车事故。

这是全球首起造成人员死亡的自动驾驶汽车事故，美国国家运输安全委员会(NTSB)对其进行了长达20个月的调查，发布了长达400页的调查结果报告，提出可能影响整个行业如何解决自动驾驶软件问题的建议，或向监管机构提出如何监管该行业的建议。
2018年3月发生在亚利桑那州坦佩市的全球首起自动驾驶致死事故
该委员会将于11月19日开会，以确定2018年3月发生在亚利桑那州坦佩市那起事故的可能原因。当时，49岁的Elaine Herzberg晚上推着自行车穿过街道时被Uber无人车撞倒，不治身亡。

不过，400页的调查结果报告日前已经向公众公开，报告中，NTSB表示，Uber公司的自动驾驶车未能正确识别到Elaine Herzberg是一位正在过马路的行人。

报告地址：https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978

这起事故引发了人们对新兴的自动驾驶汽车行业安全性的严重担忧，该行业正在努力让无人车投入商用。

事故发生后，Uber暂停了所有自动驾驶路测，直到12月才带着修改过的软件和新的重要限制和安全措施在宾夕法尼亚州恢复路测。

Uber自动驾驶汽车部门的发言人Sarah Abboud表示，公司对Herzberg在车祸中丧生感到遗憾，并指出公司“已经采取关键的程序改进措施，进一步把安全放在首位”。她说：“我们非常重视NTSB对事故的彻底调查，并期待检讨他们的建议。”

NTSB报告称，在那次事故之前，Uber的自动驾驶测试车至少还发生过两起由于无法识别道路危险导致的事故。并且，在2016年9月至2018年3月期间，Uber自动驾驶模式的车辆发生了37起撞车事故，其中33起涉及其他车辆撞到路测中的无人车。

在其中一次事故中，正在路测的无人车撞到了一个歪倒的自行车道立柱，该立柱部分占用了测试车辆的行驶车道。在另一起事故中，一辆快速驶近的车辆进入了无人车的车道，驾驶员为避免撞上该车辆采取了控制措施。结果，驾驶员大幅度转向，撞上了一辆停着的汽车。

NTSB表示，Uber用修改后的软件对亚利桑那州那起车祸的传感器数据进行了仿真，并告诉该机构，新的软件能够在碰撞发生前88米、或4.5秒前检测到行人。无人车的系统在碰撞前4秒就会开始刹车。

致命软件缺陷：提前5.6秒检测到，却没有刹车

而在那起致命车祸中，测试车辆直到碰撞前1.2秒才正确识别出Herzberg推着的自行车是一个即将被撞上的东西。而那时候，Uber的无人车已经来不及刹车了。

NTSB表示：“Uber无人车的系统设计中没有考虑横穿马路的行人。”
报告表明，其中一些错误显然与Uber的内部结构有关，专家们称之为“安全文化”。其中之一就是，Uber的自动驾驶项目没有一个运营安全部门或安全经理。

最明显的错误是与软件相关的。Uber的系统无法识别或处理在人行横道之外行走的行人。Uber的工程师们似乎也非常担心假警报，以至于他们在碰撞检测和采取行动之间设置了1秒钟的自动延迟。
Uber的系统没有识别到在人行横道外的行人

Uber还选择关闭了一个内置的沃尔沃制动系统，这家汽车制造商后来得出结论，该系统可能大幅降低汽车撞上Herzberg的速度，甚至可能完全避免发生碰撞。(专家表示，在Uber的软件完成工作的同时，关闭沃尔沃系统的决定在技术上是有意义的，因为对于汽车来说，拥有两个软件“主人”是不安全的。)

这在很大程度上解释了为什么尽管这辆车发现了Herzberg并有足够的时间刹车，但仍然以43.5英里每小时的速度撞上了她，把她甩出了75英尺。当那辆车在撞击前5.6秒首次检测到她的存在时，系统将她归类为“车辆”了。然后系统改变了主意，将她归类为“其他”，然后又变成“车辆”，又变回了“其他”，再变成“自行车”，再变回“其他”，最后又变回“自行车”。

Uber的系统从来没有想到Herzberg是一名行人，原因很简单，也很令人发指：Uber没有告诉自己的无人车在人行横道外寻找行人。NTSB的报告中写道：“系统设计没有考虑横穿马路的行人。”每次它尝试新的猜测时，它都会重新启动检测系统去检测这个神秘物体——Herzberg——的行进方向。直到碰撞发生前的1.2秒，系统才意识到车辆即将撞上Herzberg，但已经无法绕过了，需要猛踩刹车。

这触发了Uber所谓的“行动抑制”，系统在确认“已检测到危险的性质”的同时停止制动1秒钟，在此期间，作为Uber 最重要的也是最后一道防线，安全操作员本应该控制了汽车并猛踩下刹车。但安全驾驶员Vasquez那一刻并没有在看路，他走神了。

因此，在距离撞击还有0.2秒的时候，汽车拉响了警报，Vasquez抓住了方向盘，脱离了自动驾驶系统。在撞上Herzberg将近一秒钟后，Vasquez才踩下刹车。

在调查期间，NTSB“向Uber通报了在调查过程中发现的几个与安全相关的问题。”

今年3月，亚利桑那州的检察官表示，Uber在这起自动驾驶事故中不承担刑事责任。警方已经调查了没能在紧急情况下做出反应的安全驾驶员是否应该面临刑事指控。

警方表示，那起事故本是“完全可以避免的”，事故发生时，安全驾驶员正在看 “The Voice”电视节目。

NTSB将于11月19日举行一次有关此事故的会议。然后，调查人员将发布有关事故的全面报告，详细说明发生了什么，谁或哪里出了错。研究人员还将向联邦监管机构和Uber等自动驾驶公司提出建议，概述未来如何防止类似事故的发生。