人工智能伦理

图4.42 格陵兰地区歌曲的绘画解读

人类和机器之间也需要相互“解读”。通过深度学习找到的一些关键特征，时常面临可解读性差的问题。例如，一个深度神经网络分类器抓住的行人、车辆、指示牌的特征，是否能映射到人类的认知体系中，用人类能理解的语言表达出来？如果机器智能有它自己观察和理解世界的认知体系，它会是什么样子的？例如几何定理的机器证明，对问题的描述如何“翻译”成机器能理解的输入？整个推理过程如何“翻译”成人类能理解的形式？开源系统GeoGebra是一个交互式的几何、代数、微积分、统计工具，有一些自动推理能力。

File Edit View Options Tools Iindow Help

图 4.43 系 统 GeoGebra 所 给 出 的 塞 瓦 定 理 $\frac { A G } { G B } \cdot \frac { B E } { E C } \cdot \frac { C F } { F A } = 1$ 的证明。作为输入，点E,F,G的定义是可解读的 $\underline { { \left[ 7 7 \right] } } .$ 。例如，E是点A,D决G定B的E直C线 $F e ^ { { \cal A } } .$ 与线段 $a { = } B C$ 的交点

人类求解几何问题，无外乎采取以下四种方法。机器证明借鉴了这些方法，模仿人类利用已有知识解决问题的过程。

LUCA PAOU ITALA 750

图4.44 人类证明几何命题的思维方式可以教给机器

检验：用测量或尝试的方法（即合情推理）大致验证结论的正确性。

搜索：寻找和调用合适的知识点（公理、定义、性质、公式等），尽量推导出利于结论的中间结果。

归约：简化问题，去掉一些不必要的对象。

转换：改变问题的形式。例如，添加辅助线使得推理的链条得以延续。

由于智能的多样性，只要能殊途同归，人类不必强求机器也要有与之相似的认知体系。在一个宽容的态度之下，为了能更好地“相互理解”，我们需要从理论上探讨这两个认知体系的关系。

Frieden 又 Verständiung X 1984

图4.45 人与机器之间需要相互理解

图4.46 康威

并不是所有的数学家都能接受机器证明，可解读性差导致美感的缺失，让机器证明读起来索然无味。另外，机器的解决方案都是老生常谈，毫无新意可言。英国数学家约翰·霍顿·康威（John Horton Conway, 1937—2020）曾说，“我不喜欢它们（计算机证明），因为你感觉不知道究竟发生了什么。你不能从中获得任何新的见地”。就像有些人认为机器包的水饺缺少“灵魂”，机器证明或许没有让人眼前一亮的奇思妙想，但毕竟也是严谨的、无懈可击的（见例4.15）。

可解释性

简而言之，可解读性要回答“是什么”的问题，可解释性要回答“为什么”的问题，它们之间有一些联系。例如，基于主题的信息检索，如果返回的答案不符合用户的某一检索意图，可解释性找到的根因是词库里缺少一些关键词汇（未登录词）导致主题的特征表示天生地有缺陷，将它们补全后就解决了问题。我们也可以认为，在机器的认知里没有那些未登录词所描述的概念，词库、训练语料、知识图谱等资源都没给它提供任何线索，机器不知道如何用已有的信息来定义这个新概念，正确的检索就无从谈起了。

在任何科学里，一个模型为什么要如此构建，在建模之前必须把基本原理交代清楚，这就是模型的可解释性。模型在什么情况下有效，在什么情况下失效是清清楚楚的。例如，牛顿力学在宏观物体低速运动的状态下是近似成立的，在微观世界有量子力学，在接近光速的状态下有狭义相对论。