人工智能伦理

图1.165 股票也有“测不准原理”。1929年10月末，美国华尔街股市崩盘，引发了整个世界的经济大萧条。股灾前夕，就连美国著名的经济学家欧文·费舍尔（Irving Fisher, 1867—1947）都乐观地宣称：“股价已经立足于永恒般的高地上”

图1.166 福特

1967年，英国哲学家菲利帕·福特（Philippa Foot, 1920—2010）提出伦理学的思想实验“有轨电车难题”（trolleyproblem）：一辆失控的有轨电车即将撞上既定轨道上的5个人，此时你若扳动操纵杆，则电车将切换到一个岔道并撞上一个无辜者。你有以下两个选择。

扳动操作杆，让电车改变路线碾死1个人。

什么也不做，让电车沿既定路线碾死5个人。

如果岔道上的那一位是决策者的至亲或朋友，而其他五位是陌生人，相

信多数人会有所偏向。为了简化问题，假设对这些人的性别、年龄、社会贡献、财富等一无所知，上述两个选择分别对应下面的两种理念。

口 从功利主义（utilitarianism）的角度，选择相对损失较小的行动。

口 按照康德主义，如果不能杀人是一种道德义务，则改变电车自然状态（即事物发展的趋势）致死无辜者是不道德的，哪怕这样做能拯救再多本该罹难的人。

图1.167 有轨电车难题：是否应该改变电车的运行轨迹，以牺牲1个人的代价换取5个人的生命？

图片来源：维基百科

这两种选择都有一些道理⁽²⁵⁾。但是，如果这个在岔道上的人不是无辜的呢？譬如，一个十恶不赦的坏人。如果牺牲一人能挽救一百万人呢？很多人会权衡得失，从功利主义角度选择小的代价。

将“有轨电车难题”稍作变化：医生应该谋杀一个健康人，用他的器官来拯救更多病人的生命吗？相信多数人都会从康德主义的角度不赞成这种做法。

图1.168 器官捐献必须尊重死者生前的选择或其家人的意愿，医生无权擅自作主

例1.39 自动驾驶面临许多道德选择难题。例如，一个小孩走到路中间，自动驾驶汽车应该撞向小孩，还是转向障碍物？如果一个拦路抢劫的罪犯，或者一个试图碰瓷的无赖窜到车前呢？这类碰撞选择问题可以有众多的情形，如果无论怎么选择都将造成损失，智能车该如何定夺呢？

图1.169 现实中的道路情况非常复杂，智能车如果没有保护行人（特别是儿童）的伦理底线，与“马路杀手”一般无二。安全性永远是自动驾驶不可忽视的首要问题

所有自动驾驶伦理决策的算法，都应该以公开透明的方式接受伦理专家、工程师、律师、政策制定者、普通用户的评估或测试。在明确的场景条件之下，伦理决策必须在功能上具备可解释性。

在机器获得自我意识之前，它像一个心智不健全的孩子，无法理性地控制自己的行为。作为机器行为规范的制定者，人类就要为机器的所有错误（包括识别错误、决策错误、伦理错误等）负责。如同家长是孩子的监护人，孩子犯错家长要承担一定的责任。机器只有满足以下标准，才算具有人格（personality），可以和正常的成人一样具有法人资格。

自我意识：制定自己的目标或生活计划的能力。

复杂的智力活动：学习、想象、交流、互动的能力。

形成社会：通过协作追求互惠互利以及达到群体最优的能力。

目前的人工智能伦理还不能对机器进行法人资格测试、评估它们可以承担的责任，因为机器智能尚未达到这三条人格标准中的任何一条。

1.2.1 安全性

人工智能产品不能危及和伤害人类。在产品设计之初，与安全性相关的各种因素就应提前预想到，并给出风险评估方案，以便在遇到危险之时提醒人类注意或者请求人类介入决策。例如，当感知到大型卡车在附近时，或者前方有警示标记时，自动驾驶系统识别出高风险，及时采取降低风险的行动策略。