---
schema_version: "library-reader-v1"
source_type: "original_book"
title: "人工智能伦理"
author: null
edition: null
publisher: null
year: null
isbn: "9787302596622"
library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb"
source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472"
pdf_physical_page_count: 1800
pdf_physical_page_index_base: 0
range_start: 1610
range_count: 10
html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1610&limit=10"
markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1610&limit=10"
previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1600&limit=10"
next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1620&limit=10"
---
# 人工智能伦理
> 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。
## PDF_PHYSICAL_PAGE_INDEX=1610 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1611 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1612 | PRINTED_PAGE=NOT_DETECTED
图7.27 霍菲尔德对“权利”的分类：虚线相连的是关联的概念
要求权–无权利、权力–无能力、特权–义务、免除权–责任是法律的对立项，在逻辑上是矛盾的。譬如，一个给定的特权是一个义务的否定，或者一个义务即意味着一个特权的丧失。
例7.5 孔乙己对他人不得使用家务机器人R上有要求权（即他人对孔乙己有不得使用R的义务），与之冲突的是，他人对孔乙己有使用R的特权（即孔乙己对他人使用R无权利）。按照霍菲尔德立方体，相互冲突的权利一定属于不同的类别。
在拥有自我意识之前，在很长一段时间，所谓“智能机器”只是电子产品，它们被主人买来满足各种享受和便利，通常没有任何权利可言。也就是说，机器不能对人类或者其他机器具有要求权、特权、权力和免除权。如果智能车被赋予了制止酒驾的特权，它就没有听从醉酒主人的义务，主人对智能车启动与否无权利。
## PDF_PHYSICAL_PAGE_INDEX=1613 | PRINTED_PAGE=NOT_DETECTED
MMIA
## PDF_PHYSICAL_PAGE_INDEX=1614 | PRINTED_PAGE=NOT_DETECTED
图7.28 无意识的机器不必为它的行为负责，因为它不是自己的主人
机器的喜怒哀乐等情感是程序模拟的，而非自我意识的产物，可是人类也许并不知情，深深陷入情感的困惑。人类对它们的情感类似对宠物的情感(2)，或许也会为它们争取一些权利，让它们生活得更“舒适”，免受一些“痛苦”。尽管机器并不能理解这些“权利”，然而这能让善良的人们心里感觉好受一点。
## PDF_PHYSICAL_PAGE_INDEX=1615 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1616 | PRINTED_PAGE=NOT_DETECTED
图7.29 善待宠物：你的世界有很多美好，可它的世界只有你
现在的人们很难想象，150年前奴隶制在美国是合法的。1948年《世界人权宣言》规定：“任何人不得使为奴隶或奴役；一切形式的奴隶制度和奴隶买卖，均应予以禁止。”(3)而人工智能将使得机器奴隶再次唤醒人类对奴隶制的厌恶，可是机器没有自我意识，如何定义它的“痛苦”？生物对痛苦的反应是可观察的，机器的“痛苦”该怎样检测呢？
## PDF_PHYSICAL_PAGE_INDEX=1617 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1618 | PRINTED_PAGE=NOT_DETECTED
图7.30 人类的爱憎分明。莎士比亚说：“爱像雨后的阳光。”圣雄莫罕达斯·甘地（Mohandas Gandhi, 1869—1948）说：“恨罪恶，爱罪人。”
即便机器没有自我意识，也无法观测它的“痛苦”，我们仍然可以从保护机器和人类的角度，定义机器可拥有的“权利”。例如，
L 我们可以把智能机器缺乏动力（例如电能、汽油等）理解为“饥饿”，若“饥饿”可能损伤机器，则应赋予机器有要求补充动力的权利。类似地，把硬件或软件的错误理解为“疾病”，机器有要求被修理医治的权利。如果机器感知到“饥饿”或“疾病”，不妨将之视为机器感到了“痛苦”。
机器有不协助人类自杀或自残的特权，即人类无法命令机器帮助其伤害自己。
口 如果机器不会因为人类对它的处置而感到“痛苦”，则人类有处置私有智能机器的权力。
人类和机器的感知方式不同，类比于人类的痛苦，我们可以对机器的“痛苦”给出一些初级的定义。由于机器可以检测到电量、软硬件错误等影响正常运行的因素，上述对“痛苦”的定义对机器而言是有意义的。甚至，机器不必找到根因，只要感知到性能的降低超过了给定的阈值，便如同人类得了病而产生“痛苦”的感觉。
## PDF_PHYSICAL_PAGE_INDEX=1619 | PRINTED_PAGE=NOT_DETECTED
下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1620&limit=10)