人工智能伦理

DEUTCHEBUNDDESPOST

DEUTCHEBUNDDESPOST

图1.170 如果智能车对风险的识别达到一定要求，就能大大地减少交通事故

例1.40 2016年5月7日，在美国佛罗里达州高速公路上，一辆特斯拉Model S以自动驾驶模式行驶，径直撞上前方一辆白色外观的拖挂卡车，这是全球首例自动驾驶车毁人亡的严重事故。随后，美国高速公路安全管理局（NHTSA）开始调查这次“不幸的悲剧”，经过半年多的调查，其结论是“未检测到特斯拉自动紧急制动系统与自动辅助驾驶系统中存在任何设计与表现的缺陷”。

图1.171 特斯拉车屡屡出现交通事故，部分原因来自人们对“自动驾驶”的误解

特斯拉在其网站给出的官方解释是：“在强烈的日照条件下，驾驶员和自动驾驶都未能注意到拖挂车的白色车身，因此未能及时启动刹车系统。”

与此同时，特斯拉特别强调了“自动驾驶”（Autopilot）的含义：“需要指出的是，特斯拉自动驾驶功能在默认状态时是关闭的，而在被开启前，驾驶员都会被要求选择接受这一系统是一项新的技术和处于公开测试阶段，车辆才能开启自动驾驶功能。根据选择页面的说明，自动驾驶‘是一项辅助功能，要求驾驶员双手始终握住方向盘’。此外，每一次自动驾驶启动时，车辆都会提醒驾驶员‘请始终握住方向盘，准备随时接管’。系统还会时刻检查以确保驾驶员双手不离方向盘。如果系统感应到驾驶员双手已离开方向盘，车辆则会显示警示图标或发出声音提醒，并逐步降低车速，直至感应到双手在方向盘上。

我们这么做的目的是为确保每当这一功能在启用时，是在尽可能安全的情形下。随着实际运行里程数的增加，软件逻辑算法会累积在越来越罕见情形下的运行经验，从而不断降低伤亡产生的可能性。自动驾驶功能还在不断的完善过程中，尚未达到完美的境界，并依然要求驾驶员保持注意力的集中。”

特斯拉的使用手册的确严格规范了“自动驾驶”的使用场景，系统对驾驶员双手离开方向盘等危险动作也有警示。所以，从法律角度特斯拉并无过失。

NHTSA认定特斯拉的Autopilot系统属于驾驶辅助系统。当前阶段，特斯拉的“自动驾驶”其实是“辅助驾驶”，如果用户忽略了它的独特含义，有可能要为这个噱头付出沉重的代价（事实上，已有数起因对“自动驾驶”的好奇心引发的严重事故）。从特斯拉近几年发生的自动驾驶交通事故来看，感知层面的低级错误依然占比很高⁽²⁶⁾。

例1.41 智能车上有多个传感器，如激光雷达（lightdetection and ranging, LIDAR ） 、 雷 达 （ radio detectionand ranging,RADAR）、超声波传感器（ultrasonic sensor）、摄像头等，它们都有测距的能力，但适用范围不同。当摄像头没检测到远处的物体，但激光雷达检测到了，便能阻断图像分析的错误传播到决策和控制系统。

图1.172 激光雷达所“看到”的道路，呈现出“点云”（point cloud）的样子

来自不同传感器的数据如何融合以便为决策提供可靠的输入？这是多维度感知要解决的问题。从感知到决策的过程中，任何错误的传播都应被有意识地阻断，而不是凭借运气恰好在决策中没用到它。自动驾驶、机器人的感知类错误依然有着很高的占比，其中，有一些隐性的错误，在测试试验中没有暴露出来。譬如，对周边物体的识别不是自洽的，虽然没有出现事故，但潜在的风险偏高，很难确保以后不会导致严重结果。

传统车辆事故中，超过90%的车祸是由驾驶员的错误造成的，其中有些可以通过技术加以避免。譬如酒驾，倘若车内传感器探测到了驾驶员满嘴酒气，则拒绝发动汽车并自动向设定的亲友发送求助和定位信息。

图1.173 智能车通过表情或行为分析以及气味识别来判断司机是否酒驾

对于自动驾驶来说，驾驶员一部分的控制权被剥夺，移交到计算机系统，因此事故责任应从驾驶员那里部分地转移到这个系统以及汽车制造商。产品制造者必须对产品缺陷造成的伤害负责，包括：

口 制造缺陷（manufacturing defect）：产品在制造过程中形成的缺陷，主要原因是不达标的技术水平、质量管理等。