人工智能伦理

图7.17 在各种极端的场景里，对自动驾驶的感知、规划、决策等模块进行有针对性的测试，找出错误扩散的因果链条

对伦理决策的核准，最重要的一点是它必须是可解释的。此外，基于大量的随机试验，在现实世界或者模拟世界，通过因果推断说明机器的伦理决策没有问题。换言之，伦理核准是一种特殊的性能测试，考题设计是试验的一个关键。

图7.18 制定测试标准，评估智能车对交通规则的理解

可解释性提供了一个可见的从观测到决策的完整过程，中间如何调用知识、如何进行推理等都是一目了然的。它不必是人类习惯采用的，但有助于锁定错误的源头。

例7.1 2018年3月18日傍晚，优步(Uber)自动驾驶测试车撞上了一位推着自行车横穿马路的白人女性，这是第一起自动驾驶汽车撞死行人的案例。在碰撞前6秒，车速是69千米/小时，车载毫米波雷达和激光雷达都检测到了前方有物体。

图7.19 2018年，优步自动驾驶汽车致行人死亡。如果汽车及时制动，本可以避免这次事故

信息来源：《泰晤士报》和维基百科(Death of Elaine Herzberg)

在碰撞前1.3秒，系统才决定进入紧急制动状态，然而却需要1秒执行。当时，罹难者被撞时的车速是63千米/小时。智能车犯了两个致命的错误。

在前4秒之内，自驾系统并未推断出需要紧急制动。

识别系统出现自洽性的问题，识别结果一会儿是“未知物体”，一会儿是“车辆”，一会儿又是“自行车”。

自行车一般不会旁边没有人而直立出现在路上。所以，当识别为“自行车”时，哪怕自洽性有问题，也要紧急制动或者转向。这场悲剧让人们意识到伦理设定在机器决策中的重要性，它必须成为模型可解释性的一部分，保证任何错误都可被溯源。

图7.20 人工智能和自动驾驶给孩子们带来更多的安全

在AI时代，有必要设置由领域专家参与的“技术法庭”审理AI冒犯、伤害人类的事件。考虑到AI犯罪的技术挑战，甚至需要成立专业的反AI犯罪的机构或组织。当AI有能力协助反侦察时，犯罪的风险降低，而侦破的难度加大，AI极有可能成为罪犯的帮凶，不受伦理限制的AI技术被滥用所造成的破坏比我们想象的要大许多。

为了更好地约束AI，我们必须在AI犯罪实施之前清楚地了解AI技术的破坏力，并制定出相应的措施，譬如无人机、机器人的管制。作为学术研究，AI的各种可能不好的应用都需要事先考虑到。学者有责任把AI应用潜在的风险揭示出来，让民众知晓。

在为AI产品提出伦理标准的时候，一定要确保它们是可验证的。例如，在没有交通指示灯的路口，自动驾驶汽车按照先到先行的原则有条不紊地依次通过。但若有行人横穿马路，汽车则应礼让行人。

1982 1un7 7102.7

图7.21 对行人的识别和保护，是自动驾驶系统必须达到的伦理要求

不可验证的标准不是好标准，因为它是无法操作的，只能口头上说说而已。例如，智能搜索引擎的“善解人意”，要通过用户的点击反馈来评估：同一个检索词，不同的用户返回不同的答案，并且排名靠前的答案是用户满意的。

再如，很多智能手表具有监测心率的功能。如果经过一段时间的自适应后，它对主人的心率监测得很准，而对其他人却勉勉强强，我们应当如何评估它的效果呢？是按照私人物品只对主人负责来评估，还是按照公共物品对所有人而言来评估？若是前者，则是千人千面，需要把机器学习模型的自适应能力考虑进去。

随着机器学习方法的日渐丰富，针对具体任务缺乏统一测试标准的弊端逐渐显现了出来。在不同的测试数据上，用不同的测试方法，得到各种无法横向比较的评估结果。有的试验甚至不具备代表性，是“百里挑一”精心选择的结果。这种“公说公有理，婆说婆有理”的乱象在人工智能领域已经存在许久了，学术论文里报告的精度愈来愈高，实际上很多试验无法复现，或者表现平平。

伦理核准的标准也会遇到类似可操作性的问题。譬如，未来智能车必须具备监测驾驶员酒驾的功能，手段可以多种多样，如气味传感器、表情与行为分析、人机多轮对话等。对此，人们一般可采用显著性假设检验（如A/B测试）的方法，通过大量的随机试验来甄别那些不具备此功能的智能车。

AUSTRALLIA 4Ic

boire ou conduire..

COMMUNITY HEALTH