人工智能时代：破解人机共存密码（套装共10册）

奥玛克的当日最高气温与科廷次日最低气温呈负相关关系，是因为奥玛克位于北半球，科廷位于南半球。考虑到这两个城市位于不同半球，-0.77的相关系数非常令人震惊。

不会思考的数据挖掘程序（所有数据挖掘程序都不会思考）可能会得出结论，这是一次知识发现，为预测科廷的气温找到了有力的工具。而在会思考的人类看来，预测澳大利亚一个小镇次日最低气温的最佳方法居然是根据远在华盛顿的一个小镇的当日最高气温，这简直荒唐可笑。

我在搜集的另一组数据中启动数据挖掘软件，很快发现了更加紧密的相关系数。如图5.4所示，科廷的每日最低气温与第58号随机变量的相关系数为0.81。没错，图中横轴的变量就是我用计算机随机数字生成器得到的、预测股价的那100个变量之一。

这些虚假变量的生成完全与科廷的天气无关，但我还是发现了一个变量（第58号随机变量）恰好与科廷的天气紧密相关。这就像抛硬币和其他随机噪声那样，通常都会得到看似真实但实则毫无意义的模型和相关系数。

我这才试了100个随机变量。有了现代计算机，我还可以轻而易举地尝试数千、数百万个随机变量，直至偶然发现一个与科廷或其他城市的气温存在极其紧密相关关系的系数。

那么，我到底证明了什么？根本什么都证明不了。这就是关于数据挖掘需要记住的第一点，无论是否存在真实情况，只要仔细审查大量数据，就能得到统计学模型。此外，即便被称作人工智能，数据挖掘软件也不足以智能到分辨反映出真实关系和偶然关系的模型有何不同，这唯独人类能做到。

史密斯测试

假设数据挖掘算法发现美国股价与澳大利亚科廷的每日最低气温相关。计算机程序怎么会知道这一统计学关系是真实存在的还是偶然的呢？相反，人类知道何为股价，何为气温，还知道股价高低不由科廷的气温来决定。

计算机能搜索stock的定义，尽管该词有多项词义，如存货、家畜和肉汤等。计算机即便能找出正确的定义，也不知道这个定义中用到的词语是什么含义，虽然它还能继续搜索到定义中每个词语的定义。除了搜索定义外，计算机无法知道股票、股票交易和股价真正代表什么，也不知道为什么股价会时涨时跌。它不明白科廷的最低气温为何物，也不明白为什么这些气温有可能或不可能与美国股价相关。

计算机程序可以搜遍已发表的研究数据库，寻找提及股价与澳大利亚气温的文章。但是对计算机来说，要解释碰巧包含这些词语的研究的相关性，则是难于登天（或是无稽之谈）。此外，评定研究是否有效，对计算机来说也是难上加难。约翰·约安尼季斯曾很有说服力地指出：“大多数已发表的医学研究都有误，包括发表在最负名望的医学杂志上的研究（因为报告结果通常都通过数据挖掘的方法获得）。”我相信，大多数的股市研究也一样。我们会在后面的章节中探讨这些论点背后的推理过程；目前的重点在于，用计算机搜索词语“股价”和“澳大利亚气温”，不可能找出任何被它自己解释为支持或反对其发现的统计学模式的内容。就算确实有所发现，计算机也很难评估其可靠性。

另外，“知识发现”的整套言论都在说，计算机会发现崭新的、从不为人所知的模型和关系。根据这一定义，“知识发现”并非已经发表的事物。那么，没有智慧和常识的计算机又如何能辨别出它的“知识发现”是否合理呢？它做不到，因为计算机确实没有智慧，也没有常识。

我们回到前述的汉语室测试。如果计算机不能真正理解“股价”和“气温”在现实生活中所代表的意思，那么它就不能分辨出其发现的统计学模型是有意义的，抑或只是巧合而已。可以将这种分辨能力称为“理论性知识”“人类本能”“经验”“智慧”“常识”，不过，通过数据发现统计学关系的计算机和无须数据就能预测关系的人类之间，存在根本差别。

我斗胆提出史密斯测试：

搜集100套数据，例如，美国股价、失业率、利率和米价、新西兰蓝色涂料的售价，以及澳大利亚科廷的气温等数据。让计算机自由分析，然后报告它认为可能有助于预测的统计学关系。如果人类专家小组一致认为计算机选择的关系合理，则计算机通过史密斯测试。

有可能存在真正的“知识发现”，即计算机能找到人类忽略的合理关系。但是，如果计算机选择的关系被人类认定为无意义，如美国股价和澳大利亚科廷的气温之间的关系，则其无法通过测试。

第6章

如果你拷问数据的时间足够长

最近，我收到一封推荐自动化研究工具的邮件：

亲爱的史密斯教授：

我们冒昧地向您推荐（我们的）全新研究工具……可以使您基于官方统计时间序列数据库的实证研究自动化。（我们软件的）设计目的是让您能从电脑桌面直接探索和发现激动人心的新经济相关系数。

无须其他软件，不用慢吞吞地手动处理数以千计的数据库。您立马就可以开始运行您的第一个大数据项目。

这封邮件接下来一直吹嘘他们的软件可以计算“数百万统计时间序列的相关系数”“识别无法预计的相互依存关系”，以及“开辟新途径”。

除了有创意的遣词造句，让人沮丧的是，他们认为我真的想要筛选数以万亿计的相关系数，寻找意想不到的模型。但意想不到的模型毫无逻辑基础，对于不合逻辑的模型我向来持怀疑态度。

统计学实验都假定研究人员先在脑子里有定义明确的理论，再搜集相应数据来验证自己的理论。而给我发邮件的这家公司则假定，我非常渴望，也很愿意花一大笔钱另辟蹊径，看看每一个可能出现的相关系数——不在乎它们是否合理，然后找出在统计学上最有说服力的那一个，声称这是自己的发现。

这是时代的信号，但并非振奋人心的信号。

孟德尔的豌豆研究

很多重要的科学理论都始于试图对观察到的模型做出解释。例如在19世纪，大多数生物学家坚信，父母特征的平均值决定了子女的特征，如孩子的身高是父母身高之和的平均值，但这也会在环境影响下有所增减。

然而，格雷戈尔·孟德尔在自己进行的豌豆实验中发现并非如此。1822年，孟德尔出生在奥地利，在自家农场长大。父母希望他能接管农场，但孟德尔是个天资聪颖的学生，后来成为奥古斯丁修道院的僧侣，该修道院以其科学图书馆和研究闻名遐迩。

或许是因为生长于农民之家，孟德尔在修道院的八年时间，利用那里的园子一丝不苟地进行了数万次豌豆种植研究。他观察到几种不同的性状，认为融合理论（blending theory）无法解释其实验结果。在他将黄籽豌豆和绿籽豌豆交叉授粉后，生长出来的豌豆籽要么绿，要么黄，并没有黄绿融合，也没有黄绿各一半。同样，在他将滑皮豌豆和皱皮豌豆交叉授粉后，生长出来的豌豆籽要么滑，要么皱，既不会滑皱融合，也不会滑皱各一半。

为了解释该实验结果，他提出了如今众所周知的“孟德尔遗传定律”。孟德尔认为，基因的存在形式不止一种（现称作“等位基因”），例如黄籽的等位基因或绿籽的等位基因，后代拥有来自每种性状的一对等位基因，每个等位基因都独立遗传自父母一方，其遗传到的等位基因可能相同（纯合的，homozygous），也可能不同（杂合的，heterozygous）。在孟德尔的实验中，控制颜色的等位基因杂合时，豌豆为黄籽，所以黄籽是显性等位基因，绿籽是隐性等位基因。只在两个等位基因均为隐性时豆籽才呈绿色。

孟德尔谨慎构建的理论不仅适用于其数据，也合情合理。即便计算机当时已经出现，也未必能完成得这么好。我们观察不到等位基因，所以计算机也不会产生这种妙想——认为有等位基因存在、父母一方均有两个等位基因、后代从父母各遗传一个等位基因、等位基因有可能是显性或隐性。

现在，我们知道因为由显性等位基因来决定性状，所以有些性状不完全外显。当出现不完全外显的情况时，性状呈现混合状态，例如，开红花和开白花的金鱼草杂合，会长出开粉花的金鱼草。郁金香为共显性，开红花和开白花的郁金香杂合，会繁殖出既开红花又开白花的郁金香。

孟德尔创建了符合所采集数据的理论，以此为现代遗传学奠定了基础。然而，“数据为先，理论靠后”的准则也成为成千上万冒牌理论的来源。你听到过名字以字母D开头的棒球手会比以字母E\~Z开头的棒球手更早逝的说法吗？或者听到过亚洲人更容易在每月4号心脏病发作的说法吗？

得州神枪手谬误

“数据为先，理论靠后”特有的两个问题可以精确地概括为“得州神枪手谬误”。

谬误1：自诩为神枪手的人在整面墙上放满靶子，然后朝墙开枪。他肯定能射中一个，然后很骄傲地显摆自己的枪法，绝口不提其余没射中的靶子。因为他肯定可以击中一个，所以即便做到了也根本说明不了什么。这好比在研究中验证数百个（或数千、数百万个）理论，然后只报告统计学意义上最有说服力的结果，对所有失败的验证都守口如瓶。例如，在超感官知觉研究中，有人可能会给数千个受试者进行数十次验证，却只报告那些支持超感官知觉的测试（或测试的一部分）。这什么都证明不了，因为只要进行足够多的测试，研究人员就一定可以找到支持的证据。

谬误2：倒霉的牛仔把子弹打到了空白墙上。随后，他绕着弹孔画了个靶心。这也证明不了什么，因为总能找到一个弹孔画圈。这就好比在研究中搜遍数据来寻找模型，找到后再编出一个理论。超感官知觉研究中，有人可能报告称，尽管受试者的反应与当时记录的线索不符，但的确与早前记录（“向后移位”）、稍后记录（“向前移位”）或无记录（“负超感官知觉”）的线索吻合。想要寻找模型的人肯定能找到一个。因此，有所发现只能证明有所寻求。

得州神枪手谬误还有很多其他表达方法，包括数据挖掘、数据捞取、摸底调查、采摘樱桃、数据探测和P值篡改。P值篡改这一戏称源于实验结果偶然发生的可能性（P值）若低，则被认为具有统计学意义。“得州神枪手”的研究中低P值的可能性比较高，所以称之为“P值黑客”。

发表研究成果的期刊加剧了这种状况，因为它们更喜欢（或需要）有统计学意义的结果，这就促使研究人员落入得州神枪手谬误，以获取具有统计学意义的结果。

谬误2又称“费曼陷阱”，名称取自诺贝尔奖得主理查德·费曼。费曼让自己在加州理工大学的学生计算，如果他走出教室，在停车场看到的第一辆车的车牌号为8NSR26的概率为多少。学生们假定每个数字和字母出现的概率相同且独立确定，得到的概率结果为小于1 700万分之一。等到学生完成计算后，费曼揭晓正确答案为1，因为他在来教室的路上已经见到了这个车牌号。发生概率微乎其微的事情，如果已经发生，那么它发生的概率就肯定不是微乎其微了。

对上述两种得州神枪手谬误的精辟概述，可参见诺贝尔奖得主罗纳德·科斯的辛辣言辞：“只要拷问数据的时间足够长，它就会屈打成招的。”

我会使用“数据挖掘”这一通用术语来说明得州神枪手谬误和类似的胡闹做法。

数据挖掘者

几十年前，我刚刚进入职场的时候，“数据挖掘者”是种侮辱性叫法，就好比被人指责剽窃一样。如果有人提出从理论上说不通的或好到令人难以置信的结果时（例如，接近完美的相关系数），就会听到强烈不满地反驳：“这是数据挖掘！”

我记得在一场研讨会上听到一名访问教授称，他创造了一种离奇的货币供应测量工具，令其与美国经济高度相关，因此这一测量工具与美国经济之间存在密切的相关关系。这种密切的相关关系证明不了什么，因为是他自己一手创造的。

可能是碍于这位来宾的身份地位，台下的听众都异常克制。不过，一出研讨室的门，很多人都低声吐槽这是“数据挖掘”。这不是什么好话。多年后，我重新审视那名教授的模型，发现尽管他在所选的那段历史时期内，能够捏造出那个愚蠢的货币供应测量工具，得到密切的相关关系，但是在那之后的时期根本就对不上号。我对此并不惊讶，因为他的模型没有理论基础。他那时就是个数据挖掘者，他的模型也毫无价值可言。

如今，人们四处宣扬自己是数据挖掘者，用无法思考的计算机进行机械式的计算，还昧着良心为此收取费用。那封诚邀我在几百万数据中浪里淘沙，寻找意料之外的统计学关系的邮件的主人，也认为我会掏腰包加入他们的行列。

诺贝尔经济学奖得主詹姆斯·托宾挖苦地调侃道，在那个痛苦的旧时代，研究人员不得不进行人工计算，这其实是好事。用今天的话来说，这是特点，不是缺点。计算太难了，所以人们在动手前会深思熟虑。但现在有了以TB（太字节）计算的数据和以闪电速度运行的计算机，太有利于“先计算，后思考”了。这就是缺点，而非特点。在计算前，绞尽脑汁思考会更好。