奎克的藏经阁 · MinerU 解析内容

智慧的疆界 从图灵机到人工智能

456 个 PDF 物理页 · 本页显示文件第 121–130 页

PDF 物理页索引 120

文件中的第 121 页 · 印刷页码:105

对于连接主义学派观点的阐述,笔者准备以该学派中两位关键人物的生平故事为线索来进行。科学总被大众渲染得带有一种严肃、纯粹甚至神圣的光环,它和电影小说怎么看都格格不入,但有些时候,科学里的有些人、有些事却不得不令人感慨人生如戏,这两位人物的故事,不仅是连接主义萌芽发展的缩影,还揭示了学术江湖中斗争的残酷。

4.2 引言:命运

以概率分布的角度来看,大多数科学天才都出生在相对优渥的家庭,这大约是因为除了科学、文化修养的家庭传承之外,要“成才”还有一个很重要的因素就是财富。经济上无后顾之忧,能两耳不闻窗外事一心做学问是很多天才科学家能展示出他们天才一面的先决条件。但凡事皆有例外,比如这个故事的主角—沃尔特·皮茨(Walter Pitts,1923—1969)就是一位不同寻常的异类天才。

皮茨出生在美国底特律的一个极度贫困的家庭。他的父亲是一位锅炉工,没有什么文化,对儿子的教育方式基本上只有拳头,与皮茨同住在贫民区的其他孩子的教育情况也差不多,在绝大多数人的眼里,皮茨都可以说是生活在一个没什么希望出头的环境中。但是皮茨自己从没有因为恶劣环境就放弃求知的想法,靠着自己的聪明才智和城市图书馆里的藏书,他在十岁便自学完成了希腊文、拉丁文、数学、逻辑学等基础学科。

1935 年,12 岁的皮茨在图书馆中发现了罗素的巨著《数学原理》,他阅读时并不知道这部著作是当时科学界各个领域关注的焦点,是科学界“最时尚”的热点话题,但很快就被书中的内容深深吸引住了。经过三天三夜废寝忘食的阅读,他从头到尾看完了这三卷大部头的逻辑书<sup>○一</sup>,甚至还发现了书中的几处错误。皮茨将书中这些错误的细节和他的阅读心得写了一封信寄给作者罗素,罗素收到信后,对这位 12 岁的小读者印象非常深刻,不仅给皮茨回了信,还邀请他去英国剑桥大学当自己的研究生,不过当时皮茨考虑到自己的年龄和家庭的经济条件,并没有接受罗素的邀请。

第 4 章 连接主义学派

105

○一 皮茨这段童年的经历(还有后面关于皮茨的部分经历)记载于科技作家阿曼达·乔夫(Amanda Gefter)撰写的“ The Man Who Tried to Redeem the World with Logic ”一文。需要说明的是,《数学原理》出了名地又长(2000 页)又晦涩难懂,这本数学界的“世界名著”的阅读难度从它至今都未能被翻译成中文版就可见一斑。因此笔者认为这段记述肯定有夸张的成分,如果说一个 22 岁的大学生花三个月把三卷《数学原理》读到可以给罗素提供勘误的程度,那尚可算天才励志的故事,但一个 12 岁的初中生花三天时间读完,笔者就只能理解为小说作家的夸张的修饰写法了。

PDF 物理页索引 121

文件中的第 122 页 · 印刷页码:106

三年之后,15 岁的皮茨初中毕业,他的父亲便不再允许皮茨继续读高中了,执意要求他放弃学业去打工赚钱。皮茨为此与家里人大吵一场之后决定离家出走,从此他就再也没有见过他的家人。可是一个 15 岁的孩子,离家出走后应该去哪里呢?皮茨想到了三年前罗素发出的邀请,还打听到罗素准备从英国来芝加哥大学当访问教授,于是决定只身前往芝加哥大学所在的伊利诺伊州碰碰运气,没想到还真顺利见到了罗素。罗素与这个年仅 15 岁的孩子见面交流后,受到的震撼胜于三年前的书信来往,于是马上就把皮茨推荐给他的好友—同在芝加哥大学任教的哲学教授鲁道夫·卡尔纳普(Rudolf Carnap,1891—1970),卡尔纳普想看看这个孩子到底有多聪明,让皮茨阅读自己的《语言的逻辑句法》一书作为考验。结果还不到一个月时间,皮茨就看完了这本书,并且把写满笔记的原书还给卡尔纳普,卡尔纳普看过读书笔记后,同样对皮茨惊为天人,遂替只有初中文凭的皮茨在芝加哥大学安排了一份打扫卫生的工作,工作的确不高大上,但是起码让皮茨获得了一个安身之所,也让他得以边在学校工作边在课堂中跟随罗素等大师学习。

就这样,时间又过去了两年。1940 年的一天,17 岁的皮茨通过医学院的朋友杰罗姆·莱特文(Jerome Lettvin)介绍,在伊利诺伊大学芝加哥分校校园里认识了一位神经生理学系的教授—42 岁的沃伦·麦卡洛克(WarrenMcCulloch,1898—1969)。麦卡洛克是一位很符合“传统”的科学家,出生于富裕的书香家庭,家人全都是律师、医生、神学家或者工程师,他本人在耶鲁大学、哥伦比亚大学这些名牌大学中修读过哲学、心理学等课程。两人见面时,麦卡洛克完全是一副和蔼长辈的形象,皮茨就是个很腼腆的小伙子,不过过高的发际线表明岁月早早地侵蚀了他,他戴着眼镜,颧骨下凹,脸看起来像鸭子。图 4-1 是皮茨和麦卡洛克的照片。

此时,麦卡洛克已经是一个受人尊敬的科学家,皮茨却只是一个无家可归的孩子。原本这两人认识的可能性是极小的,但命运安排他们相见,即使来自社会经济阶层的两极,他们也注定了一起生活、一起工作,并且一起死亡。不久之后,他们将共同创造出人类历史上第一个可工作的关于精神机械论的理论—这个理论是神经科学的第一种机械计算方法,是人工智能以及现代计算机逻辑设计的支柱。皮茨的故事,便从他与麦卡洛克见面说起吧。

106

第二部分 学派争鸣

PDF 物理页索引 122

文件中的第 123 页 · 印刷页码:107

4.3 大脑模型

麦卡洛克和皮茨见面,本不该有什么共同的话题,两人的年龄、身份和知识构成都差异巨大,麦卡洛克不懂数学,而皮茨又不了解神经生理学,但是这两人居然有一位共同的偶像:戈特弗里德·莱布尼茨(Gottfried Leibniz,1646—1716),即上一章介绍逻辑学时提到的那位生于 17 世纪,尝试设计一种能够表达人类思考过程的通用语言,并尝试构造执行该语言的推理演算工具的数学家和哲学家。莱布尼茨和人工智能三个学派都能扯上联系,下一章我们还会提到他。

对于皮茨这样一个喜爱数学和逻辑的学生来说,无论是因莱布尼茨提出的“机械大脑”的设想,还是因他与牛顿分别创立微积分的数学贡献,成为皮茨的偶像都是合情合理的。而麦卡洛克将莱布尼茨当成偶像,就纯粹是因为机械大脑这个极大胆的设想才符合这位神经心理学教授心中对人类思维的认知(与其他神经学家不一致)。当时距离西格蒙德·弗洛伊德(Sigmund Freud,1856—1939)出版著名的《自我与本我》刚十余年时间,正是此书影响力最旺盛的时候,很多学者都用精神分析学来解释人类的思维活动、知识和记忆,但麦卡洛克深信人类大脑就是一个天然能执行某种思维语言的系统,他认为一定存在某种工作机制,将人类大脑中的大量神经元机械性放电的过程组织起来,由此形成思维、知识和记忆。

第 4 章 连接主义学派

107

○一 图 片 来 源:http://nautil.us/issue/21/information/the-man-who-tried-to-redeem-the-world-with-logic。

PDF 物理页索引 123

文件中的第 124 页 · 印刷页码:108

麦卡洛克向皮茨解释他正在试图应用莱布尼茨机械大脑的设想来建立一个大脑思维模型。20 世纪初的神经科学已经初步了解了大脑神经元细胞的存在<sup>○一</sup>,科学家还知道了只有当神经元细胞的“树突”(Dendrites)受到的外部刺激达到一个阈值之后,才会沿着“轴突”(Axon)方向向其他神经元放电,发射出脉冲信号,刺激“突触”(Synapse)和与其相连接的其他神经元细胞的树突交换神经递质来完成信息传递,如图 4-2 所示。换言之,神经元细胞发送电脉冲的前提是,必须要有足量的邻近神经元细胞通过神经突触向其传递信号。神经元细胞这种要么发射信号,要么不发射信号的构造是离散的、二元性的,麦卡洛克认为神经元的工作方式和最基础的“与”“或”“非”这些逻辑门非常相似。假如把一个神经元信号看作一个命题,那人类大脑的神经元网络似乎就像一个个连接这些命题的逻辑门一般运行,每个神经元所代表的逻辑门可以接收多种信号的输入,并产生一个单独的输出信号。通过变更神经元的放电阈值,神经元可以实现“与”“或”“非”操作。

在希尔伯特计划被哥德尔粉碎之前,科学界是普遍倾向于认可罗素的“逻辑可解释一切科学”的论调的,罗素在《数学原理》中仅使用了与、或、非三种基本逻辑运算,将一个个简单命题连接成越来越复杂的关系网络,进而描述清楚了整个数学体系。麦卡洛克思想的核心问题是:这种构建数学体系的逻辑推理与人类大脑思维有共通之处吗?人类的思维和智慧,也是靠神经元执行这些最基础的逻辑运算,通过神经元之间复杂的连接、堆叠产生的吗?

108

第二部分 学派争鸣

○一 1904 年,西班牙病理学家拉蒙 · 卡哈尔(Ramon Cajal,1852—1934)提出了人类大脑包含大量彼此独立而又互相联系的神经细胞的神经元学说。

PDF 物理页索引 124

文件中的第 125 页 · 印刷页码:109

当麦卡洛克向皮茨解释完他的想法之后,热衷于逻辑学的皮茨立即心领神会,并被这个想法深深地吸引住了。皮茨不仅明白这个大脑思维模型所具有的重大意义,还知道应该运用哪些数学工具和技巧去构建这个思维模型,这点正是之前一直困扰没有高深数学基础的麦卡洛克的重大难题。对皮茨一见如故的麦卡洛克邀请这位青年从芝加哥大学的公寓搬到他在芝加哥郊区欣斯代尔(Hinsdale)的家里,与他和家人一同生活。

麦卡洛克的家庭是一个热闹的、思想自由的波希米亚家庭,芝加哥的知识分子和文学精英经常聚在这里,一起讨论音乐、文学、诗歌和心理学,而当西班牙内战盟歌从留声机中响起时,他们也会探讨一些激进的政治问题。但是每到深夜,当妻子鲁克和三个孩子上床进入甜美的梦乡后,麦卡洛克和皮茨便会各斟一杯威士忌,埋头投入他们的宏伟事业:尝试用神经元网络建立一个以逻辑运算为基础的机械性的大脑思维模型。

在皮茨到来之前,麦卡洛克对神经元网络的研究有一个长期无法突破的逻辑学上的困境:在人类大脑的神经网络结构中,神经元链条连成环状是不可避免的,但如果是这样的话,环中最后一个神经元的输出又会成为第一个神经元的输入,这是一个自己咬自己尾巴的神经元网络。从生物结构的角度看并没有什么问题,与人脑的实际情况符合。但从逻辑结构的角度看,网络中的一个环感觉就像是一个悖论:后发生的结论反而成了先发生的前提,构成一个倒果为因的矛盾。麦卡洛克尝试把神经元链条的每个环节都贴上时间标签,通过文字将这个矛盾表述出来:如果第一个神经元在 T时间被激发,下一个神经元就会在 T+1 时间被激发,依次传递。但是如果网络中有环状结构,那么 T+N时间激发的信号会不可避免地传递到 T时间的前面。

第 4 章 连接主义学派

109

PDF 物理页索引 125

文件中的第 126 页 · 印刷页码:110

皮茨加入之后,很快便解决了这个问题,他向麦卡洛克展示了 T+N时间跳到 T时间之前并不是悖论,因为在他的模型里面不需要时间,时间上的“前”和“后”是没有意义的。他向麦卡洛克解释道:一个人要能产生“看见”的感觉,脑海中就必须要有回溯的过程。譬如看见天空中的闪电,虽然影像是一次性的,但在大脑中形成的脉冲信号肯定不是一次性的,因为你不会见过之后便立即遗忘,而是可以轻易地回溯出闪电发生的整个过程。这样,包含闪电的信息就应该在神经网络中的环状结构里一直流动,永不停歇。这个信息跟闪电发生的时间毫无关联,是一个“挤掉了时间的印象”,或者简单地说,这就是“记忆”<sup>○一</sup>。

在皮茨的帮助下,他们两人共同构造出了一种能够完全通过神经元连接的网络来进行逻辑运算的模型,这个模型展示了人类大脑能够实现任何可能的逻辑运算,从而得出结论:人脑是图灵完备的,即能完成任何图灵机可以完成的计算。基于这种由神经元所构成的网络,他们提出了一种大脑将信息抽象化,并基于逻辑来处理信息的设想。这种设想尝试解释了人类大脑是如何创造出回荡在脑海里的丰富而精巧的具有层级化的信息的,这个创造过程被他们称作“思考”。

麦卡洛克和皮茨将他们的发现记录了下来,形成了一篇研讨性质的论文。文章名字叫作《神经活动中内在思想的逻辑演算》(“ A Logical Calculus ofIdeas Immanent in Nervous Activity”)<sup>○二</sup>,发表在《数学生物物理学通报》(Bulletinof Mathematical Biophysics)上。图 4-3 展示了《神经活动中内在思想的逻辑演算》中关于不同神经元连接方式构成与、或、非逻辑门的记述。

110

第二部分 学派争鸣

○一 21 世纪脑科学发展后,现代医学倾向于认为人类记忆并不单纯是电信号,而是通过刺激后改变了大脑皮层内侧颞叶海马体区的神经元结构来形成的。但现代冯·诺依曼体系计算机中的内存记忆体(包括 RAM、CPU 的寄存器和 Cache 等)则完全是受皮茨的启发,通过循环刷新电信号来形成记忆的。

○二 论 文 下 载 地 址:http://www.cs.cmu.edu/\~epxing/Class/10715/reading/McCulloch.and.Pitts.pdf。

PDF 物理页索引 126

文件中的第 127 页 · 印刷页码:111

麦卡洛克和皮茨提出的这个大脑思维模型是对生物学概念上大脑的极大的乃至过度的简化,却成功地启示人们生物大脑“有可能”是通过物理的、全机械化的逻辑运算来完成信息处理的。他们在文中提出了自己对大脑思考过程的看法,主张“思想”和“智慧”不需要笼罩一层弗洛伊德式的神秘主义、在自我与本我之间挣扎,大脑的思考是可以通过逻辑推理来机械性地解释的。麦卡洛克后来曾在一篇讨论“形而上学主义”的哲学文章《走出形而上学的领域》(“ Through the Den of the Metaphysician ”)<sup>○一</sup>中骄傲地宣告:“我们知道了我们是怎么知道的,这是科学史上的第一次。”此时,两人都相信他们找到了人类智慧的奥秘,至少是找到了一条通向终极智能的正确的康庄大道。

第 4 章 连接主义学派

111

○一 论文下载地址:http://www.vordenker.de/ggphilosophy/mcculloch\_through-the-den.pdf。

PDF 物理页索引 127

文件中的第 128 页 · 印刷页码:112

麦卡洛克和皮茨的《神经活动中内在思想的逻辑演算》一文被认为是连接主义研究的开端,提出了机械式的思维模型,其重要贡献还在于首次提出了“神经网络”(Neural Network)这个概念。神经网络以神经元为最小的信息处理单元,把神经元的工作过程简化为一个非常直接、基础的运算模型,这个模型极为简单,但是对未来的人工智能研究影响深远,后来科学界取了麦卡洛克和皮茨名字的第一个字母,将这个模型称为“M-P 神经元模型”。

在这个模型中,一个神经元会接收多个来自其他神经元的输入信号,不同输入信号的重要性各有差别,这种差别就通过连接上的“权重”(Weight)大小来表示,神经元要将接收到的输入值按照加权值进行求和,并将求和结果与该神经元自身的“阈值”(Threshold)进行比较,根据输入值与阈值比较的结果决定是否要对外输出信号。把多个这样的 M-P 神经元按照一定形式排列好,把它们的输入、输出端连接起来,就构成了一个完整的神经网络。单个 M-P 神经元模型表示如图 4-4 所示。

麦卡洛克和皮茨提出的大脑思维模型和 M-P 神经元模型,为处于一片混沌的连接主义研究及机器模拟人类大脑结构的研究带来了一道曙光。他们的工作几乎没有在大脑科学家群体里激起任何浪花,一部分原因是他们所使用的符号逻辑很难向生物学家、神经学家和心理学家解释清楚,另一部分原因是其朴素甚至过分简化的模型并没有反映出生物学大脑的整体复杂程度。但是,能否得到生物学家的认可对他们而言,尤其是皮茨来说根本是无关紧要的。皮茨从他与麦卡洛克的合作过程中得到了所有他渴求的东西—认同、友谊、志同道合的伙伴,甚至隐隐约约中还抓到了一丝他从未体验过的父爱。皮茨一生中只在欣斯代尔待了不到三年时间,可是这个离家出走的小男孩从此以后都将麦卡洛克的家视作自己的家。麦克洛克对皮茨的感情也是类似的,在皮茨身上他投入了亲人般的感情,他在一封书信里提到他对皮茨的看法:“多么希望他(皮茨)能永远伴随我啊。”

112

第二部分 学派争鸣

PDF 物理页索引 128

文件中的第 129 页 · 印刷页码:113

4.4 崛起的明星

如同命运注定皮茨和麦卡洛克相见那样,命运同样注定了他们不能长期相处在一起。1943 年,当初介绍皮茨与麦卡洛克认识的莱特文仿佛命运使者一般,给了皮茨另外一个选择自己人生道路的机会。

由于皮茨本身的智慧,还有麦卡洛克、罗素等人的帮助,他在科学界已积累了一点声望和成绩,可是芝加哥大学有硬性的规定,连高中文凭都不具备的皮茨是无论如何也不可能获得芝加哥大学的任何学位的,但其他大学则不一定有这个限制,所以莱特文把皮茨带到了麻省理工学院,拜访了 20 世纪的巅峰智慧人物之一、数学家、哲学家及控制论创始人诺伯特·维纳(NorbertWienner,1894—1964)教授。维纳曾在 20 世纪 30 年代到清华大学工作,图 4-5 是当时拍摄的照片。

根据莱特文的回忆,皮茨和维纳初次见面时,维纳并没有自我介绍,也没有给皮茨自我介绍的机会,甚至一句话都没有与皮茨说。他绕开皮茨走到了一个黑板前面,在黑板上继续他正在进行的数学证明工作。当维纳思考时,皮茨不时地插入一些问题或一些建议。在他们一起进行到第二块黑板的时候,很明显维纳就已经确定了皮茨就是他要找的左膀右臂。一向待人严苛的维纳后来确实对皮茨的数学素养给出了极高的评价:

第 4 章 连接主义学派

113

PDF 物理页索引 129

文件中的第 130 页 · 印刷页码:114

“毫无疑问他(皮茨)是我见过的全世界范围内最厉害、最杰出的科学家,如果他不能成为他这一代最重要的两三个科学家之一的话,我反而会感到很惊讶。”

维纳对皮茨展现出来的数学能力的印象如此深刻,以至于当场就承诺了会给予皮茨麻省理工学院数学博士学位,尽管当一个“扫地僧”式的隐士听起来很浪漫,但与终身在芝加哥大学当一个清洁工的惨淡前途相比,年仅 20 岁的皮茨无法拒绝这个诱惑。

1943 年秋天,皮茨从芝加哥麦卡洛克的家搬到了麻省理工学院的公寓里,从此开始了他在麻省理工学院的生活和研究,与维纳的团队一起进一步改进他和麦卡洛克提出的大脑思维模型。更具体一些,他的工作是将简单的几个、几十个神经元组成人类能手工编排的神经网络逐步向实际的生物大脑结构逼近—人脑的神经网络是由 1000 亿个神经元互相连接组成的异常庞大而又极为精致的系统。

皮茨认为人脑的神经网络结构虽然具有由生物遗传学决定的因素,但是人类的基因肯定不可能完全决定大脑中数量如此庞大的神经元之间是如何连接的。道理很简单,人类基因的存储容量<sup>○一</sup>是无法支持精确描述这个网络所需要的庞大的信息量的—该信息量甚至超过了人类所有图书容量的总和。皮茨猜测真实的情况很可能是人类出生时的大脑相当于一个基础的随机连接的神经网络结构,这个状态的人脑神经网络中基本没有存储什么有效的信息,随着各种外界输入信息长时间对网络连接结构的调整和神经元阈值的刺激,大脑神经网络的混沌性和随机性会渐渐降低,结构也变得有序起来,这样大脑中才开始呈现出有效的信息来。他尝试用统计学来给这个过程建模。维纳本身就是统计和概率方面的世界级大师,给予了皮茨很多建议和支持。维纳对皮茨的工作抱以很高的期望,他断言如果这样一个模型能够被建立起来,并且植入一台计算机的话,这台机器将能够与人类一样开始“学习”。

114

第二部分 学派争鸣