人工智能伦理

图7.27 霍菲尔德对“权利”的分类：虚线相连的是关联的概念

要求权–无权利、权力–无能力、特权–义务、免除权–责任是法律的对立项，在逻辑上是矛盾的。譬如，一个给定的特权是一个义务的否定，或者一个义务即意味着一个特权的丧失。

例7.5 孔乙己对他人不得使用家务机器人R上有要求权（即他人对孔乙己有不得使用R的义务），与之冲突的是，他人对孔乙己有使用R的特权（即孔乙己对他人使用R无权利）。按照霍菲尔德立方体，相互冲突的权利一定属于不同的类别。

在拥有自我意识之前，在很长一段时间，所谓“智能机器”只是电子产品，它们被主人买来满足各种享受和便利，通常没有任何权利可言。也就是说，机器不能对人类或者其他机器具有要求权、特权、权力和免除权。如果智能车被赋予了制止酒驾的特权，它就没有听从醉酒主人的义务，主人对智能车启动与否无权利。

MMIA

图7.28 无意识的机器不必为它的行为负责，因为它不是自己的主人

机器的喜怒哀乐等情感是程序模拟的，而非自我意识的产物，可是人类也许并不知情，深深陷入情感的困惑。人类对它们的情感类似对宠物的情感⁽²⁾，或许也会为它们争取一些权利，让它们生活得更“舒适”，免受一些“痛苦”。尽管机器并不能理解这些“权利”，然而这能让善良的人们心里感觉好受一点。

图7.29 善待宠物：你的世界有很多美好，可它的世界只有你

现在的人们很难想象，150年前奴隶制在美国是合法的。1948年《世界人权宣言》规定：“任何人不得使为奴隶或奴役；一切形式的奴隶制度和奴隶买卖，均应予以禁止。”⁽³⁾而人工智能将使得机器奴隶再次唤醒人类对奴隶制的厌恶，可是机器没有自我意识，如何定义它的“痛苦”？生物对痛苦的反应是可观察的，机器的“痛苦”该怎样检测呢？

图7.30 人类的爱憎分明。莎士比亚说：“爱像雨后的阳光。”圣雄莫罕达斯·甘地（Mohandas Gandhi, 1869—1948）说：“恨罪恶，爱罪人。”

即便机器没有自我意识，也无法观测它的“痛苦”，我们仍然可以从保护机器和人类的角度，定义机器可拥有的“权利”。例如，

L 我们可以把智能机器缺乏动力（例如电能、汽油等）理解为“饥饿”，若“饥饿”可能损伤机器，则应赋予机器有要求补充动力的权利。类似地，把硬件或软件的错误理解为“疾病”，机器有要求被修理医治的权利。如果机器感知到“饥饿”或“疾病”，不妨将之视为机器感到了“痛苦”。

机器有不协助人类自杀或自残的特权，即人类无法命令机器帮助其伤害自己。

口 如果机器不会因为人类对它的处置而感到“痛苦”，则人类有处置私有智能机器的权力。

人类和机器的感知方式不同，类比于人类的痛苦，我们可以对机器的“痛苦”给出一些初级的定义。由于机器可以检测到电量、软硬件错误等影响正常运行的因素，上述对“痛苦”的定义对机器而言是有意义的。甚至，机器不必找到根因，只要感知到性能的降低超过了给定的阈值，便如同人类得了病而产生“痛苦”的感觉。