--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1600 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1600&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1600&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1590&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1610&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1600 | PRINTED_PAGE=NOT_DETECTED 图7.22 “醉酒驾车”是指司机每百毫升血液中酒精含量超过80毫克，要对司机处以吊销驾照、罚款和拘役。比它程度低的是“饮酒驾车”，要对司机处以罚款和暂扣驾照，甚至拘留 传统测试的做法是手工构建大量的标注数据，一部分用于训练，其他部分用于测试。然而，这种手工方法费时费力，投入产出比经常令人失望。生成对抗网络(GAN)常用来产生以假乱真的模拟数据，然而好的模拟不仅有准确的统计意义，还有合理的语义解释。搞清楚数据产生的机制距离智能决策又前进了一大步，模拟技术在未来人工智能的发展中将起到关键作用——它将是逼近人类智能的终极武器，让反事实推理和想象力成为可能。 ## PDF_PHYSICAL_PAGE_INDEX=1601 | PRINTED_PAGE=NOT_DETECTED ANTIGUAGBAARBUDA 700 ## PDF_PHYSICAL_PAGE_INDEX=1602 | PRINTED_PAGE=NOT_DETECTED 图7.23 对人类来说，想象就是在心的世界里模拟。对机器而言，它是什么呢？ 例7.2 当前的人机对话系统缺乏意图分析的能力，也不懂得“明辨是非”，像一个小孩子一样教什么就学什么，对禁忌的词语和话题来者不拒（见例1.20）。与人打交道的AI产品不可回避地会遇到伦理问题，如果过不了这一关，它们很难“融入”人类社会。我们不希望人机对话系统成为邪教组织的工具，或者被用来欺骗、洗脑等。所以，必须要有可操作的伦理标准来限制AI产品的“言行”。 例7.3 智能车“看到”绿灯亮起正要启动，此时横向有一辆闯红灯的卡车飞速驶来，或者有位不守交规的行人走到了车前，智能车必须“眼观六路、耳听八方”，及时地识别出风险（包括自己面临的危险和对他人的威胁），进而做出智能决策。 ## PDF_PHYSICAL_PAGE_INDEX=1603 | PRINTED_PAGE=NOT_DETECTED Immerecheigorrenteren ## PDF_PHYSICAL_PAGE_INDEX=1604 | PRINTED_PAGE=NOT_DETECTED 图7.24 自动驾驶需要具备风险评估能力，包括对自己和对他人两个方面 再如，智能车分析周边汽车（或行人）的运动意图，当发现有车试图换线切到前头时，是否会适当地减速礼让？还是不管不顾仿佛没看见一样？还有在城区街道上玩耍的孩子，当智能车探知到他们时，是否应该减速行驶？ ## PDF_PHYSICAL_PAGE_INDEX=1605 | PRINTED_PAGE=NOT_DETECTED O STEFERL REPULSTERAECHS2 ## PDF_PHYSICAL_PAGE_INDEX=1606 | PRINTED_PAGE=NOT_DETECTED 图7.25 儿童缺少危险意识，自动驾驶汽车等AI产品必须要有保护人类的伦理底线 自动驾驶有太多的场景需要伦理标准，它是智能决策的指导，是比决策规则更上一层的规则。如果不把这些场景下的伦理核准搞清楚，很难说没有“伦理意识”的智能车能达到安全性的要求。这里的安全性不仅仅针对车内人员而言，还有车外的生命、财产等。 人工智能伦理有宏观和微观的尺度之分：宏观指的是AI对人类社会的长期影响，微观指的是具体应用中的伦理规范。因此，AI伦理的研究（例如可验证的伦理标准）既要有“自顶向下”，也要有“自底向上”。这是一个涉及广泛、内容丰富的课题，需要所有的AI研究者都投入热情与关注。坦白地讲，人工智能里的人文关怀就是人类对未来的“大爱无疆”。 7.1.2 人机关系 当我们谈及生命权、人权、财产权、隐私权、言论自由权等“权利”时，“权利”的含义是什么？迄今为止，美国法学家威斯利·霍菲尔德（Wesley Hohfeld, 1879—1918）对法律权利概念所做的分析是最清晰、最权威的。 ## PDF_PHYSICAL_PAGE_INDEX=1607 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1608 | PRINTED_PAGE=NOT_DETECTED 图7.26 美国法学家霍菲尔德 霍菲尔德认为，“对于法律问题的清晰的理解、透彻的陈述以及真正的解决的最大的障碍之一，经常来自或是明确表示或是默而不宣的这种假设，即：所有的法律关系都可以被归结为‘权利’(rights)与‘义务’(duties)，因此这些范畴足以分析即便是最复杂的法律利益，诸如信托、选择权、等待条件完成的契据、‘未来’利益、公司利益，等等。即便这里的困难仅仅在于词汇上的不足与含混，其严重性也值得明确 确认并通过坚持不懈的努力以求改进；因为在任何推理严密的问题中，无论是不是法律的问题，含义多变的词语对清楚的思想与清晰的表达都是一个严重的危险。”（《基本法律概念》[110]） 为了严格定义“权利”在法律上的语义，霍菲尔德把“权利”分为四个小类：要求权（即最狭义的“权利”）、特权(privilege)、权力(power)、免除权(immunity)。从这四个方面来解释“权利”，大大地消除了歧义。 例7.4 孔乙己对他购买的（无自我意识的）家务机器人R所拥有的权利包括要求权、特权、权力、免除权四个方面，仅针对R而言， 孔乙己对他人不得使用R具有要求权。 孔乙己对他人有使用R的特权。 ## PDF_PHYSICAL_PAGE_INDEX=1609 | PRINTED_PAGE=NOT_DETECTED 孔乙己对他人有处置（包括转让、出售、弃用、重装、销毁等）R的权力。 孔乙己对他人具有R不得被他人剥夺的免除权。 接着，霍菲尔德提出了几个诱导出的概念——义务、无权利、责任、无能力，分别与要求权、特权、权力、免除权相关联，其具体含义如下。 口 A对B有一个要求B做或不做某事的权利，当且仅当B对A有一个做或不做该事的义务(duty)。例如，房主A有要求入室强盗B离开房子的权利，即B对A有离开房子的义务。“义务”和“权利”是关联的概念，当“权利”被侵犯时，“义务”也就被破坏了。 口 A对B有一个A做或不做某事的特权，当且仅当B对 于A在A做或不做某事上无权利(no-right)。 口 A对B有改变某个给定的法律关系的权力，当且仅当B对于A在该法律关系上具有责任(liability)。 口 A对B在某个给定的法律关系上具有免除权，当且仅当B对于A在该法律关系上无能力(disability)。简而言之，免除权就是主体与他人之间的法律关系不受他人改变或控制的权利。 要求权–义务、特权–无权利、权力–责任、免除权–无能力是法律的关联项，其关系可以用图7.27所示的“霍菲尔德立方体”(Hohfeld’s cube)来描述。霍菲尔德认为，所有的法律关系和法律性质都可以用这些基本概念清晰地表达。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1610&limit=10)