--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 410 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=410&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=410&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=400&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=420&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=410 | PRINTED_PAGE=NOT_DETECTED 图1.165 股票也有“测不准原理”。1929年10月末，美国华尔街股市崩盘，引发了整个世界的经济大萧条。股灾前夕，就连美国著名的经济学家欧文·费舍尔（Irving Fisher, 1867—1947）都乐观地宣称：“股价已经立足于永恒般的高地上” ## PDF_PHYSICAL_PAGE_INDEX=411 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=412 | PRINTED_PAGE=NOT_DETECTED 图1.166 福特 1967年，英国哲学家菲利帕·福特（Philippa Foot, 1920—2010）提出伦理学的思想实验“有轨电车难题”（trolleyproblem）：一辆失控的有轨电车即将撞上既定轨道上的5个人，此时你若扳动操纵杆，则电车将切换到一个岔道并撞上一个无辜者。你有以下两个选择。 扳动操作杆，让电车改变路线碾死1个人。 什么也不做，让电车沿既定路线碾死5个人。 如果岔道上的那一位是决策者的至亲或朋友，而其他五位是陌生人，相 信多数人会有所偏向。为了简化问题，假设对这些人的性别、年龄、社会贡献、财富等一无所知，上述两个选择分别对应下面的两种理念。 口 从功利主义（utilitarianism）的角度，选择相对损失较小的行动。 口 按照康德主义，如果不能杀人是一种道德义务，则改变电车自然状态（即事物发展的趋势）致死无辜者是不道德的，哪怕这样做能拯救再多本该罹难的人。 ## PDF_PHYSICAL_PAGE_INDEX=413 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=414 | PRINTED_PAGE=NOT_DETECTED 图1.167 有轨电车难题：是否应该改变电车的运行轨迹，以牺牲1个人的代价换取5个人的生命？ 图片来源：维基百科 这两种选择都有一些道理(25)。但是，如果这个在岔道上的人不是无辜的呢？譬如，一个十恶不赦的坏人。如果牺牲一人能挽救一百万人呢？很多人会权衡得失，从功利主义角度选择小的代价。 将“有轨电车难题”稍作变化：医生应该谋杀一个健康人，用他的器官来拯救更多病人的生命吗？相信多数人都会从康德主义的角度不赞成这种做法。 ## PDF_PHYSICAL_PAGE_INDEX=415 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=416 | PRINTED_PAGE=NOT_DETECTED 图1.168 器官捐献必须尊重死者生前的选择或其家人的意愿，医生无权擅自作主 例1.39 自动驾驶面临许多道德选择难题。例如，一个小孩走到路中间，自动驾驶汽车应该撞向小孩，还是转向障碍物？如果一个拦路抢劫的罪犯，或者一个试图碰瓷的无赖窜到车前呢？这类碰撞选择问题可以有众多的情形，如果无论怎么选择都将造成损失，智能车该如何定夺呢？ ## PDF_PHYSICAL_PAGE_INDEX=417 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=418 | PRINTED_PAGE=NOT_DETECTED 图1.169 现实中的道路情况非常复杂，智能车如果没有保护行人（特别是儿童）的伦理底线，与“马路杀手”一般无二。安全性永远是自动驾驶不可忽视的首要问题 所有自动驾驶伦理决策的算法，都应该以公开透明的方式接受伦理专家、工程师、律师、政策制定者、普通用户的评估或测试。在明确的场景条件之下，伦理决策必须在功能上具备可解释性。 在机器获得自我意识之前，它像一个心智不健全的孩子，无法理性地控制自己的行为。作为机器行为规范的制定者，人类就要为机器的所有错误（包括识别错误、决策错误、伦理错误等）负责。如同家长是孩子的监护人，孩子犯错家长要承担一定的责任。机器只有满足以下标准，才算具有人格（personality），可以和正常的成人一样具有法人资格。 自我意识：制定自己的目标或生活计划的能力。 复杂的智力活动：学习、想象、交流、互动的能力。 形成社会：通过协作追求互惠互利以及达到群体最优的能力。 目前的人工智能伦理还不能对机器进行法人资格测试、评估它们可以承担的责任，因为机器智能尚未达到这三条人格标准中的任何一条。 1.2.1 安全性 ## PDF_PHYSICAL_PAGE_INDEX=419 | PRINTED_PAGE=NOT_DETECTED 人工智能产品不能危及和伤害人类。在产品设计之初，与安全性相关的各种因素就应提前预想到，并给出风险评估方案，以便在遇到危险之时提醒人类注意或者请求人类介入决策。例如，当感知到大型卡车在附近时，或者前方有警示标记时，自动驾驶系统识别出高风险，及时采取降低风险的行动策略。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=420&limit=10)