人工智能伦理

图7.36 电子人：经过电子改造能力增强的人类

试想有脑机工具能治愈或补偿神经损伤，修改一个人的性格，设定其记忆（例如删除痛苦的回忆），以达到优化之目的。若此人仍有自由意志，他是否应该被视为人类？多数人都不会排斥改良或修缮后的人类，只要人性尚存，他就不是异类。

图7.37 《机械战警》电影海报局部

1987年，保罗·范霍文（Paul Verhoeven, 1938— ）执导的科幻电影《机械战警》(Robocop)的主角警员墨菲在执行任务时牺牲，旋即被改造成一个电子人，他拥有精心设计的人类大脑（例如，记忆遭受清洗，决策系统也被重置）和电子躯体。生物机电一体化的墨菲得益于技术，成为治安明星，同时也冒着受制于技术的风险。在该影片的续集中，出现了反派的电子人，人类抵制犯罪的成本变得更高，这无疑也是技术进步带来的恶果。

电子宠物

电子宠物(digital/virtual/artificial pet)是一种陪伴或娱乐人类且与人类有互动的软件或机器，具备初级的学习、记忆能力。为了让宠物健康地“成长”，人类通常需要对它进行喂养、训练、打扮、安抚等，当然也少不了陪它玩耍。

由于人类的不负责任，宠物在现实世界里常常遭受遗弃。电子宠物对那些渴望有情感寄托但因为各种原因（譬如过敏、搬家等）难以给予宠物一生承诺的人类，是很好的替代品。尤其是具有可爱实体形象的电子狗、电子猫，可以帮助孩子了解如何与动物打交道，或者给孤独的老年人一些心灵抚慰。

电子宠物的陪伴、娱乐、交互功能是最重要的，一般不需要太多的人工智能，因为人类对它们的智能水平并没有太高的期待。电子宠物对主人的呼唤、抚摸、命令等作出反应，背后是有监督学习（譬如语音识别）或者强化学习的模型，与环境之间有简单的互动。经过一段时间的相处（或者训练），电子宠物对主人的行为特点、兴趣偏好有所了解，显得更加默契，似乎有了心灵感应。如果开放电子宠物的可编程功能，开源的电子宠物将更受欢迎。

电子宠物的形态可以多种多样（可爱的实体或者虚拟形象），它们用于作伴、玩赏、减压等目的。电子宠物不会携带疾病、不咬人、不扰民、不污染环境……，弱人工智能就能很好地解决它们与人类的交流问题。有研究表明，宠物有助于人类调节精神状态、血压、心率、内分泌系统，未来将有实用的电子宠物为儿童、老人、残疾人提供陪护、慰藉等服务。

图7.38 电子狗Zoomer能听懂英语的简单指令，如坐下、跟着我、去睡觉、散步去，等等，还有交互的动作（譬如跟着主人撒欢、发出叫声、装死等）

电子宠物、人机对话等带有交互特点的AI系统对自闭症儿童的陪护具有无可比拟的耐心，让他们体验到忠实朋友之间的交往。但学者们也有一丝担忧，这种替代人与人交流的治疗方法，是否会增加他们的社会隔离。

人机相互信任

人类和机器在人机交互中应该如何维护信任关系？当智能机器提供了令人舒适的服务，人类开始过度信任机器，例如各种自动驾驶、手术机器人等。如果瘫痪病人因为信赖外骨骼机器而命令它做一些具有潜在风险的动作，机器必须在伦理规则的指导下拒绝执行。与之相反，如果人类发现了机器的决策错误而接管系统，机器必须绝对服从并解释自己的决策。例如，2003年3月23日，美国爱国者反导自主系统将友军飞机错误地识别为敌机并将其击落。

L 在什么条件下，人类可以信任机器？例如，自动驾驶汽车在遇到复杂情况或极高风险时，早早给出预判，并将决策权转交人类而不是自作主张。倘若机器的决策是基于多视角观察做出的，并且其可解释性经过评估达到了预定的标准（譬如通过了图灵测试），则人类可以信任机器。

图7.39 智能机器应有自知之明，知道什么时候该由人类作主

再如，俗话说“久病床前无孝子”，机器人更适合从事长期耐心的护理服务，它们比人类更可信。

图7.40 护理服务需要爱心、耐心、恒心、责任心，对护理人员是一个挑战

在什么条件下，机器可以信任人类？对于人类的命令，机器先进行风险评估，若风险可控，则予以执行；否则，拒绝执行并给出解释。

利用自动推理技术，实现功利主义或康德主义的伦理决策系统。因果推断是决策规则的最佳选择，它具备可解释性（泛泛地讲，可解释性就是科学里的因果关系），整个推理过程对人类和机器来说都是可检查的、可交流的。总之，我们试图把人工智能的伦理决策发展成为一门严谨的学问。