人工智能伦理

图1.174 制造缺陷：产品质量不合格，设计再好也没辙

设计缺陷（design defect）：原告需要展示合理的替代设计，并证明它可以防止事故的发生。考虑到自动驾驶汽车的复杂性，风险效用检验很难举证设计缺陷是导致某损害的原因。为了有的放矢地补救设计缺陷，应鼓励用户对AI产品进行缺陷举证。例如，用激光笔照射物体，导致物体识别的效果骤降，于是说明识别系统的稳健性堪忧。缺陷举证者不必提出替代设计，只需指出系统失效的一个相对普遍的场景。所谓的“失效”也是系统自己和自己比，即系统在这个场景下的效果明显低于宣传的水平。

图1.175 设计缺陷：产品设计有漏洞，质量再好也没用

警告缺陷（warning defect）：制造商没有通知购买者潜在的危险，或者没有通知消费者如何安全地使用其产品。有时为了赢得市场，厂家有意隐瞒或轻描淡写产品的缺陷，令用户在不知情的状况下遭受损失。

图1.176 警告缺陷：用户应有知情权，事先了解，规避风险

汽车制造商必须为自动驾驶的安全性负主要责任。出于保护消费者的目的，在设计师、程序员、工程师、操作员的各个工作环节，都应该为安全性设定标准和目标。社会也应为在自动驾驶引发的事故中受到伤害的人们提供经济有效、简单快捷的补偿服务。

1.2.2 根因分析

法律专家雅各布·特纳（Jacob Turner）在他的著作《机器人规则：规范人工智能》^[43]中强调，因果关系仍然是判定AI产品损害赔偿责任的依据。AI产品的一些引起严重后果的道德选择（如自动驾驶的碰撞选择），通常需要由法律来裁决⁽²⁷⁾。

一个有缺陷的AI产品，问题的根源来自哪里？是硬件还是软件？需要做因果分析，直至锁定到某些因素。譬如，倘若识别算法导致自动驾驶发生碰撞，则该算法的研发者、测试者就要为此事故负责。人们要求AI技术是可解释的，主要为了对各种缺陷知其然更知其所以然，也使得问责有凭有据、使人信服。

自动驾驶汽车带有事件数据记录器（俗称“黑匣子”，一种记录行驶和性能参数的仪器），为事故原因的分析提供必要的信息。在统一认可的自动驾驶安全检测和评估标准之下，应由第三方对事故原因进行独立分析，而不是由制造商自己说了算。

统计分析≠因果分析

人们习惯用统计分析来揭示因果关系，往往会犯一些意想不到的错误。例如，在数据分析、机器学习的实践中，我们怎么才能知道数据何时该分组？何时该合并？如果没有一个指导原则，就会不知不觉掉入悖论的陷阱，得出荒唐可笑的结果。下面举几个悖论的例子，借此说明因果分析的重要性。

例1.42 1951年，英国统计学家爱德华·辛普森（EdwardSimpson, 1922—2019）发现了一个奇怪的现象：一种药物，对男性和女性都无效，但对人类有效。这种因分组与否引起的矛盾现象被称为辛普森悖论（Simpson paradox）^[44]。

口 对所有人而言，对照组的死亡率大于处理组的死亡率，说明药物对人类有效。

$$
\frac { 1 8 } { 1 8 - 1 4 } > \frac { 1 1 } { 1 1 + 1 0 }
$$

口 对女性而言，对照组的死亡率小于处理组的死亡率，说明药物对女性无效。