今年 6 月底，特斯拉自动驾驶汽车发生了一起致命意外，一时间无人驾驶的安全性成为关注焦点，一直以来，虽然各个自动驾驶开发企业都在不断地公开自动汽车的道路测试数据，但是自动驾驶的安全性问题一直是业内外争论的关键点，也是自动驾驶汽车能否顺利上路和顺利获得乘客、用户使用的关键。7 日 Uber 更是收购了才成立了 8 个月的明星自动卡车公司 Otto，并且在这几天陆续有 Uber 的自动驾驶汽车上路了。
自动驾驶的安全问题其实可以归结到两大问题，一个是网络安全问题，和所有智慧装置一样，智慧汽车也必然会存在被入侵、然后被操控的风险，并且一旦被入侵控制了，后果远比任何一个目前的智慧设备被入侵了要严重。而另一个完全问题则是智慧化水平是否足够的问题，对道路的规划、定位、目标的识别、判断等智慧化水平是否足够，一旦智慧化水平不够，该辨识的行人辨识错了，该前进的路线规划错了等，后果也是无法设想。
网络安全问题
无人驾驶或者说自动驾驶汽车在网络安全方便的问题可以说无可避免，就像所有的智慧装置，只要装置拥有 IP 地址，透过 IP 可以入侵到汽车，从而控制汽车的引擎和刹车系统。以这辆吉普（Jeep Cherokee）为例，车辆透过 IP 连接到克莱斯勒的网络中心。克莱斯勒在被骇客发现漏洞入侵之前发布了软件更新修补了系统的漏洞。主要的问题是，开发系统的软件工程师大多没有考虑安全性的问题。
还有另外一个真实的例子，克莱斯勒花了巨额把自动汽车返厂修复漏洞。因为一旦其中一辆汽车被入侵了，同样的方法几乎可以入侵所有的汽车，所以，相比起这样的安全危机，花费的巨额也是必须的。
如果是一个智慧电冰箱，那么冰箱被入侵了可能只是食物变质了、冰块融化了，但是如果是汽车被入侵了，就会产生致命的交通事故。在最新一次的国际骇客大会上，有骇客扬言已具备足够能力远程控制装置自动驾驶系统的热门电动车型，让车辆根据骇客自己的意愿进行操作（如转向），以及改变雷达探测距离数值（等探测到都已撞上了）。
不想遇到网络安全问题，最先想到的当然是隔离网络，所以出于安全考虑，汽车的关键系统如引擎和刹车系统都最好与网络隔绝，但是，实际情况中，因为考虑到成本问题，所以一些联网的娱乐系统会和汽车的关键系统会连在同一台分析电脑上，进而导致所有系统都是联网的。
如果实在是要联网的话，为了防止被恶意入侵控制，所以会限制必须透过有线连接才可以对系统做控制修改。
除此之外，为了确保系统的安全性，在网络授权、代码保护和使用第三方技术供应商的审核上都是需要严格把关的。举个例子，一般第三方的技术提供方都会提供对应的测试代码（Sample Code），而这些代码都是没有考虑任何安全问题的情况下使用的，所以，出于安全考虑，尽量不要直接使用测试代码。再比如，不同的系统之间采用不同的网络授权，也是目前常用的提高安全性的做法。
智慧化的错误判断问题
除了网络安全的问题外，最引人注目的无人驾驶的安全性问题，莫过于智慧化判断的准确度问题，今年 6 月底特斯拉自动驾驶汽车发生的致命意外，经过调查后发现，其中一个原因是汽车把前面一个白色的车厢判断为是天空，如图，这个在人工智能领域备受关注的“人工智能安全性”的问题，如何才能得出安全的人工智能，从而避免类似的事故不再发生。
从软件算法层面，目前全球范围内，致力于实现安全的人工高智慧（Safe AI）的组织中，最出名的莫过于 OpenAI，他们致力于让人工智能不要犯致命的错误。
在人类的眼里，可能图像中一些细微的变化不会影响我们去判断一个事物，但是在机器的眼里，可能就会完全看成是两个事物（fooling samples），进而做出不同的应对行为，这种情况特别容易出现在透过深度学习训练目标以及在单眼镜头下的影像数据。
特斯拉的事故不仅暴露了自动驾驶技术目前在软件算法上的弱点，同时也暴露了在硬件技术的不足。
从硬件设备层面，像 Model S 采用的单眼镜头对于立体及大面积平面物体的辨识存在错误、毫米波雷达存在辨识区间限制、以及在极端情况下对于综合情景的取舍及冗余判断等问题。
所以，事故对自动驾驶领域的硬件及算法产生促进，对于双目 / 广角镜头、毫米波雷达、激光雷达的综合采用将可望迎来破冰。特别是对于之前成本较高的激光雷达 + 多镜头方案会带来推动作用。另外，特斯拉的事故如果采取的是多探测器冗余判断模式，完全可以避免。所以，出于安全性考虑，NHTSA（美国高速公路安全管理局）也有可能会在硬件配置及系统要求上，敦促相关部门研拟较高的门槛及规定，这对于行业而言，意味着单车附加值的提升。
虽然，自动驾驶安全隐忧仍然存在着，也不可避免的存在风险问题，但是，有一点可以确定的是，对比起目前 94% 的交通事故是人为原因造成的，自动驾驶的持续研究和发展必然对人类的人身安全有重要的意义。
（本文由 雷锋网 授权转载；首图来源：达志影像）
延伸阅读：
- Uber 收购无人驾驶卡车新创公司 Otto
- 连出车祸，Tesla 改口称 Autopilot 只是辅助驾驶而非自动
- Tesla 车主靠自动驾驶功能救回一命，能否消除自驾车安全疑虑？
- Tesla 自动驾驶模式亚洲首撞，对障碍物视而不见
