人工智能伦理

图1.180 赖欣巴哈

如何判断因果关系呢？统计学的相关关系不一定是因果关系。例如，小学生的脚越大，识字越多，二者之间是强相关的。但是，脚大不是识字多的原因。德国哲学家、科学哲学（ philosophy of science ） 的 先 驱 汉 斯 · 赖 欣 巴 哈 （ HansReichenbach, 1891—1953）认为，两个非独立的对象之间要么有因果关系，要么有一个共因（common cause）。既然“脚的大小”不是“识字多少”的因，那么就有一个同时影响着“脚的大小 ” 和 “ 识 字 多 少 ” 的 共 因 ， 有 时 也 称 为 混 杂 因 子（confounding factor），即“年龄”变量。如果把“年龄”“脚的大小”和“识字多少”这三个变量的关系用如下的有向图描述，则“脚的大小”和“识字多少”之间的相关性就不言自明了。

图1.181 因果图：U是“年龄”，X是“脚的大小”，Y是“识字多少”

图1.182 费舍尔

吸烟是否是肺癌的因？学者们众说纷纭。酷爱吸烟的统计学大师罗纳德·艾尔默·费舍尔（Ronald Aylmer Fisher, 1890—1962）也卷入了这场学术争论之中。费舍尔认为有一种“吸烟基因”导致人们渴望吸烟，同时也使他们更有可能患上肺癌，即“吸烟基因”是吸烟和肺癌的混杂因子（在图1.181中，令U表示“吸烟基因”，X表示“吸烟”，Y表示“肺癌”）。费舍尔所说的这种可能性是存在的，这是烟草企业乐于接受的说法。

当含有混杂因子时，要判断两个强相关的变量之间是否存在因果关系并非易事。因果论有系统的方法，通过“干预”试验来论证因果关系的存在性^[44][45][46]。然而，“吸烟基因”只是一个假设，我们几乎无法控制（或干预）它。

香烟烟雾被证明含有苯并芘，这是一种已知的致癌物，存在于香烟焦油中。通过实验人们发现，香烟焦油导致老鼠患上了癌症，因果关系“焦油→肺癌”得到证实。这些实验增强了吸烟致癌假说的医学合理性：吸烟者的肺叶上会有焦油沉积，通过焦油沉积的积累，“吸烟”才会导致“肺癌”。因此，我们假设因果关系如图1.183所示，从“吸烟”到“肺癌”没有直接箭头，而是通过一个中间节点“焦油”相连。图1.183比图1.181所示的因果关系更说得通。

图1.183 因果图：U是“吸烟基因”，X是“吸烟”，Y是“肺癌”，Z是“焦油”。U和Z之间没有箭头，表明吸烟基因对焦油没有直接影响。$r _ { Z Y }$ 表示“焦油”导致“肺癌”的因果效应。类似地， $r _ { X \dot { Z } }$ 表示“吸烟”导致“焦油”的因果效应

当吸烟和肺癌之间的因果关系被确定之后，世界卫生组织《烟草控制框架公约》规定，在烟草制品的包装上必须注明“吸烟有害健康”。

图1.184 吸烟导致肺癌已成定论，因果分析功不可没

令人遗憾的是，当前的机器学习和人工智能并没有把因果论列为重中之重。由于历史原因，统计方法、最优化理论仍是它们努力消化的重点。只有当因果论和知识论的形式化方法充分发展以后，人工智能才会有质的飞跃。可以预见，统计学、人工智能将不约而同地认识到因果推断的重要性，因果论的兴起只是个时间的问题。

反事实推理

人类经常会思考这样的“若非”问题——如果当初没做某事而做了另一件事会怎样。例如，曹操（155—220）杀了华佗（145?—208）之后不久，曹冲病重，曹操后悔不已。“太祖叹曰，吾悔杀华佗。”（《三国志》）如果曹操没杀华佗，而让华佗做开颅手术，他的头痛病会不会好？他的爱子曹冲是否有救？

不难看出，“若非”问题给人类一个后悔或反思的机会—以后再遇到类似的情况，可能会有不同的决策。因为时间不可逆，我们无法回到过去改变历史，只有想象那个反事实（counterfactuals）的世界，在那个关键时间点走了另外一条路，会得到怎样的结果——这便是反事实推理（counterfactualreasoning）。它是哲学家、语言学家、心理学家、数学家、计算机科学家共同感兴趣的一个话题。