--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1040 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1040&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1040&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1030&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1050&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1040 | PRINTED_PAGE=NOT_DETECTED 图4.42 格陵兰地区歌曲的绘画解读 人类和机器之间也需要相互“解读”。通过深度学习找到的一些关键特征，时常面临可解读性差的问题。例如，一个深度神经网络分类器抓住的行人、车辆、指示牌的特征，是否能映射到人类的认知体系中，用人类能理解的语言表达出来？如果机器智能有它自己观察和理解世界的认知体系，它会是什么样子的？例如几何定理的机器证明，对问题的描述如何“翻译”成机器能理解的输入？整个推理过程如何“翻译”成人类能理解的形式？开源系统GeoGebra是一个交互式的几何、代数、微积分、统计工具，有一些自动推理能力。 ## PDF_PHYSICAL_PAGE_INDEX=1041 | PRINTED_PAGE=NOT_DETECTED File Edit View Options Tools Iindow Help ## PDF_PHYSICAL_PAGE_INDEX=1042 | PRINTED_PAGE=NOT_DETECTED 图 4.43 系 统 GeoGebra 所 给 出 的 塞 瓦 定 理 $\frac { A G } { G B } \cdot \frac { B E } { E C } \cdot \frac { C F } { F A } = 1$ 的证明。作为输入，点E,F,G的定义是可解读的 $\underline { { \left[ 7 7 \right] } } .$ 。例如，E是点A,D决G定B的E直C线 $F e ^ { { \cal A } } .$ 与线段 $a { = } B C$ 的交点 人类求解几何问题，无外乎采取以下四种方法。机器证明借鉴了这些方法，模仿人类利用已有知识解决问题的过程。 ## PDF_PHYSICAL_PAGE_INDEX=1043 | PRINTED_PAGE=NOT_DETECTED LUCA PAOU ITALA 750 ## PDF_PHYSICAL_PAGE_INDEX=1044 | PRINTED_PAGE=NOT_DETECTED 图4.44 人类证明几何命题的思维方式可以教给机器 检验：用测量或尝试的方法（即合情推理）大致验证结论的正确性。 搜索：寻找和调用合适的知识点（公理、定义、性质、公式等），尽量推导出利于结论的中间结果。 归约：简化问题，去掉一些不必要的对象。 转换：改变问题的形式。例如，添加辅助线使得推理的链条得以延续。 由于智能的多样性，只要能殊途同归，人类不必强求机器也要有与之相似的认知体系。在一个宽容的态度之下，为了能更好地“相互理解”，我们需要从理论上探讨这两个认知体系的关系。 ## PDF_PHYSICAL_PAGE_INDEX=1045 | PRINTED_PAGE=NOT_DETECTED Frieden 又 Verständiung X 1984 ## PDF_PHYSICAL_PAGE_INDEX=1046 | PRINTED_PAGE=NOT_DETECTED 图4.45 人与机器之间需要相互理解 ## PDF_PHYSICAL_PAGE_INDEX=1047 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1048 | PRINTED_PAGE=NOT_DETECTED 图4.46 康威 并不是所有的数学家都能接受机器证明，可解读性差导致美感的缺失，让机器证明读起来索然无味。另外，机器的解决方案都是老生常谈，毫无新意可言。英国数学家约翰·霍顿·康威（John Horton Conway, 1937—2020）曾说，“我不喜欢它们（计算机证明），因为你感觉不知道究竟发生了什么。你不能从中获得任何新的见地”。就像有些人认为机器包的水饺缺少“灵魂”，机器证明或许没有让人眼前一亮的奇思妙想，但毕竟也是严谨的、无懈可击的（见例4.15）。 可解释性 简而言之，可解读性要回答“是什么”的问题，可解释性要回答“为什么”的问题，它们之间有一些联系。例如，基于主题的信息检索，如果返回的答案不符合用户的某一检索意图，可解释性找到的根因是词库里缺少一些关键词汇（未登录词）导致主题的特征表示天生地有缺陷，将它们补全后就解决了问题。我们也可以认为，在机器的认知里没有那些未登录词所描述的概念，词库、训练语料、知识图谱等资源都没给它提供任何线索，机器不知道如何用已有的信息来定义这个新概念，正确的检索就无从谈起了。 在任何科学里，一个模型为什么要如此构建，在建模之前必须把基本原理交代清楚，这就是模型的可解释性。模型在什么情况下有效，在什么情况下失效是清清楚楚的。例如，牛顿力学在宏观物体低速运动的状态下是近似成立的，在微观世界有量子力学，在接近光速的状态下有狭义相对论。 ## PDF_PHYSICAL_PAGE_INDEX=1049 | PRINTED_PAGE=NOT_DETECTED 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1050&limit=10)