人工智能伦理

图7.22 “醉酒驾车”是指司机每百毫升血液中酒精含量超过80毫克，要对司机处以吊销驾照、罚款和拘役。比它程度低的是“饮酒驾车”，要对司机处以罚款和暂扣驾照，甚至拘留

传统测试的做法是手工构建大量的标注数据，一部分用于训练，其他部分用于测试。然而，这种手工方法费时费力，投入产出比经常令人失望。生成对抗网络(GAN)常用来产生以假乱真的模拟数据，然而好的模拟不仅有准确的统计意义，还有合理的语义解释。搞清楚数据产生的机制距离智能决策又前进了一大步，模拟技术在未来人工智能的发展中将起到关键作用——它将是逼近人类智能的终极武器，让反事实推理和想象力成为可能。

ANTIGUAGBAARBUDA

700

图7.23 对人类来说，想象就是在心的世界里模拟。对机器而言，它是什么呢？

例7.2 当前的人机对话系统缺乏意图分析的能力，也不懂得“明辨是非”，像一个小孩子一样教什么就学什么，对禁忌的词语和话题来者不拒（见例1.20）。与人打交道的AI产品不可回避地会遇到伦理问题，如果过不了这一关，它们很难“融入”人类社会。我们不希望人机对话系统成为邪教组织的工具，或者被用来欺骗、洗脑等。所以，必须要有可操作的伦理标准来限制AI产品的“言行”。

例7.3 智能车“看到”绿灯亮起正要启动，此时横向有一辆闯红灯的卡车飞速驶来，或者有位不守交规的行人走到了车前，智能车必须“眼观六路、耳听八方”，及时地识别出风险（包括自己面临的危险和对他人的威胁），进而做出智能决策。

Immerecheigorrenteren

图7.24 自动驾驶需要具备风险评估能力，包括对自己和对他人两个方面

再如，智能车分析周边汽车（或行人）的运动意图，当发现有车试图换线切到前头时，是否会适当地减速礼让？还是不管不顾仿佛没看见一样？还有在城区街道上玩耍的孩子，当智能车探知到他们时，是否应该减速行驶？

O STEFERL

REPULSTERAECHS2

图7.25 儿童缺少危险意识，自动驾驶汽车等AI产品必须要有保护人类的伦理底线

自动驾驶有太多的场景需要伦理标准，它是智能决策的指导，是比决策规则更上一层的规则。如果不把这些场景下的伦理核准搞清楚，很难说没有“伦理意识”的智能车能达到安全性的要求。这里的安全性不仅仅针对车内人员而言，还有车外的生命、财产等。

人工智能伦理有宏观和微观的尺度之分：宏观指的是AI对人类社会的长期影响，微观指的是具体应用中的伦理规范。因此，AI伦理的研究（例如可验证的伦理标准）既要有“自顶向下”，也要有“自底向上”。这是一个涉及广泛、内容丰富的课题，需要所有的AI研究者都投入热情与关注。坦白地讲，人工智能里的人文关怀就是人类对未来的“大爱无疆”。

7.1.2 人机关系

当我们谈及生命权、人权、财产权、隐私权、言论自由权等“权利”时，“权利”的含义是什么？迄今为止，美国法学家威斯利·霍菲尔德（Wesley Hohfeld, 1879—1918）对法律权利概念所做的分析是最清晰、最权威的。

图7.26 美国法学家霍菲尔德

霍菲尔德认为，“对于法律问题的清晰的理解、透彻的陈述以及真正的解决的最大的障碍之一，经常来自或是明确表示或是默而不宣的这种假设，即：所有的法律关系都可以被归结为‘权利’(rights)与‘义务’(duties)，因此这些范畴足以分析即便是最复杂的法律利益，诸如信托、选择权、等待条件完成的契据、‘未来’利益、公司利益，等等。即便这里的困难仅仅在于词汇上的不足与含混，其严重性也值得明确

确认并通过坚持不懈的努力以求改进；因为在任何推理严密的问题中，无论是不是法律的问题，含义多变的词语对清楚的思想与清晰的表达都是一个严重的危险。”（《基本法律概念》^[110]）

为了严格定义“权利”在法律上的语义，霍菲尔德把“权利”分为四个小类：要求权（即最狭义的“权利”）、特权(privilege)、权力(power)、免除权(immunity)。从这四个方面来解释“权利”，大大地消除了歧义。

例7.4 孔乙己对他购买的（无自我意识的）家务机器人R所拥有的权利包括要求权、特权、权力、免除权四个方面，仅针对R而言，

孔乙己对他人不得使用R具有要求权。

孔乙己对他人有使用R的特权。

孔乙己对他人有处置（包括转让、出售、弃用、重装、销毁等）R的权力。

孔乙己对他人具有R不得被他人剥夺的免除权。

接着，霍菲尔德提出了几个诱导出的概念——义务、无权利、责任、无能力，分别与要求权、特权、权力、免除权相关联，其具体含义如下。

口 A对B有一个要求B做或不做某事的权利，当且仅当B对A有一个做或不做该事的义务(duty)。例如，房主A有要求入室强盗B离开房子的权利，即B对A有离开房子的义务。“义务”和“权利”是关联的概念，当“权利”被侵犯时，“义务”也就被破坏了。

口 A对B有一个A做或不做某事的特权，当且仅当B对 于A在A做或不做某事上无权利(no-right)。

口 A对B有改变某个给定的法律关系的权力，当且仅当B对于A在该法律关系上具有责任(liability)。

口 A对B在某个给定的法律关系上具有免除权，当且仅当B对于A在该法律关系上无能力(disability)。简而言之，免除权就是主体与他人之间的法律关系不受他人改变或控制的权利。

要求权–义务、特权–无权利、权力–责任、免除权–无能力是法律的关联项，其关系可以用图7.27所示的“霍菲尔德立方体”(Hohfeld’s cube)来描述。霍菲尔德认为，所有的法律关系和法律性质都可以用这些基本概念清晰地表达。