人工智能伦理

图4.29 机器学习还不懂得主动请教，不知道自己欠缺什么

“德之不修，学之不讲，闻义不能徙，不善不能改，是吾忧也。”孔子的担忧之于人工智能和机器学习也是适用的。

目前，所有机器学习的方式尚都无法模仿人类学习数学的过程，虽然机械化数学已部分具备机器证明（例如欧氏几何、微分几何等）的能力，甚至发现从未有过的结果^[40]，但这种能力的获得并不是“机器学习”的功劳。我们希望机器像人类那样主动地学习，它的知识体系可动态地变化（不一定满足相容性），随着知识储备的增多，运用知识的能力也逐步提高。由于缺乏有效的知识表示技术，机器学习的结果（即模型和参数估计值）不能转化为知识，更谈不上积累和传播了。

图4.30 机器学习要解决的根本问题是学习能力，而不是孤立的具体问题

还有一类学习方式常常被人工智能忽略——思想实验，它需要想象力的支撑。例如，奥地利物理学家、量子力学奠基人之一埃尔温·薛定谔（Erwin Schrödinger, 1887—1961）为了从宏观阐述量子叠加原理，并求证观测介入时量子的存在形式，于1935年提出一个著名的思想实验，被称为“薛定谔的猫”：一只可怜的猫被放在密室里，内有致命的氰化物。在打开密室之前，氰化物有50%的机会被释放，猫的状态对观察者来说是未知的，死、活两种本征态的概率都是50%。对观测者而言，猫的状态是未知的，主观上可以认为它的状态是生死各半。

图4.31 思想实验将问题直观化便于讨论，是理论的催生婆。“薛定谔的猫”让人们形象地思考量子叠加原理，以及观测对状态的影响

量子理论认为观测行为和被观测量是一个整体，前者不可避免地会影响后者。即物理性质的客观实在与观测有关。对“薛定谔的猫”有一种解释：在打开密室的瞬间，波函数坍缩到活的状态或者死的状态，如同翻转着的硬币终于落地，只有一个明确的结果。还有一些其他的解释，如平行宇宙（其中没有波函数坍缩）等。至今，没有一个解释得到广泛的共识，微观世界留给我们太多的谜团。

REUTERSWARD

图4.32 玻尔和爱因斯坦多年的量子力学基础之争，是两种哲学的对抗

量子力学奠基者之一、1922年诺贝尔物理学奖得主尼尔斯·玻尔把物理学看作对大自然的描述手段而不是终极真理，他说“没有量子世界，只有抽象量子力学描述。我们不应该以为物理学的工作是发现大自然的本质。物理只涉及我们怎样描述大自然”。他与大物理学家阿尔伯特·爱因斯坦展开多年的学术论战，很多讨论都是基于思想实验。

图4.33 在玻尔眼里，物理学模型仅是我们如何看待大自然，而非大自然的本质

哲学家荀子强调“顺势借力”的学习，“吾尝终日而思矣，不如须臾之所学也……假舆马者，非利足也，而致千里；假舟楫者，非能水也，而绝江河。君子生非异也，善假于物也”（《劝学》）。参考前人的经验进行数学建模或者统计建模，是典型的借力而为，也是当前机器学习缺乏的能力。

4.1.1 衡量标准

机器学习必须有一个衡量标准来告诉机器学得如何。比如聚类，必须事先明确地给出相似度的定义，否则机器不知道怎样“物以类聚”。这个明确表达的衡量标准不仅教会机器“明辨是非”“知道好歹”，还可以用来检验机器的学习效果。

对机器的考试被称为测试（testing），一般有两种方式：用以前教过它的题考它，用它从没做过的题考它，前者是“封闭测试”，后者是“开放测试”。在封闭测试中成绩好的机器，在开放测试中不一定也表现出色。实践中，我们更看重开放测试。