智慧的疆界 从图灵机到人工智能

故事为主线，介绍了继深度学习之后由生成式人工智能所引领的人工智能的高潮盛况与隐忧。

第四部分（第 9 章） 人机共生

几十年来，人工智能无时无刻不伴随着争论和分歧，人工智能这个人类最复杂精密的创造物与人类本身的关系确实必须仔细思考、慎重对待，这一部分将探讨人类和机器在追寻智能过程中取得的一些成果和产生的一些争论。

第 9 章 用十几个人工智能的实际案例来尝试回答几个问题：经过 60 多年的发展，当下的人工智能到底发展到什么程度了？现在距离我们设想的目标还有多遥远？人工智能会对我们产生什么影响？现在以及未来应该如何与人工智能相处？

联系作者

在本书交稿后，笔者并没有想象中那样兴奋或放松，写作之时那种“战战兢兢、如履薄冰”的感觉依然萦绕在心头。在每一章、每一节落笔之时，笔者都在考虑如何才能把各个知识点更有条理地讲述出来，都在担心会不会由于自己的理解有偏差而误导了大家。囿于笔者的写作水平和写作时间，书中难免存在不妥之处，所以特地开辟了一个读者邮箱（icyfenix@gmail.com），大家有任何意见或建议都欢迎与笔者联系。相信写书与做学问、写程序一样，每个作品一定都是不完美的，正因为不完美，我们才有不断追求完美的动力。

IX

·Contents ·
目录
前言
第一部分 以智慧创造智慧
第 1 章 洪荒年代 / 2
1.1 概述 / 2
1.2 引言：信息革命 / 3
1.3 图灵机：计算的基石 / 5
1.4 人工智能的萌芽 / 11
1.5 图灵测试：何谓智能 / 13
1.6 智能与人类的界限 / 16
1.7 机器能思考吗 / 18
1.8 机器拟人心 / 22
1.9 机器拟人脑 / 24
1.10 机器拟人身 / 28
1.11 本章小结 / 29
第 2 章 迈向人工智能 / 30
2.1 概述 / 30
2.2 引言：不经意间改变世界 / 31
2.3 达特茅斯会议 / 34
2.4 有学术就有江湖 / 41
2.5 有江湖就有传奇 / 47
2.6 人工智能早期成果 / 53
2.6.1 完全信息的对抗 / 54
2.6.2 模式识别 / 57
2.6.3 自然语言处理 / 59
2.7 本章小结 / 62
第二部分 学派争鸣
第 3 章 符号主义学派 / 66
3.1 概述 / 66
3.2 引言：五分钟逻辑学 / 67
3.3 描述已知，推理未知 / 72
3.3.1 常识编程 / 77
3.3.2 物理符号系统 / 82
3.4 知识！知识！知识！ / 86
3.4.1 知识表示 / 87
3.4.2 知识工程 / 91
3.4.3 知识系统 / 93
3.5 从演绎到归纳 / 96
3.6 符号主义的现状和未来 / 101
3.7 本章小结 / 103
第 4 章 连接主义学派 / 104
4.1 概述 / 104
4.2 引言：命运 / 105
4.3 大脑模型 / 107
4.4 崛起的明星 / 113
4.5 陨落的流星 / 116
4.6 感知机 / 120
4.7 凛冬将至 / 127
4.8 人工智能的繁荣与寒冬 / 135
4.9 本章小结 / 139
第 5 章 行为主义学派 / 140
5.1 概述 / 140
5.2 引言：昔日神童 / 141
5.3 自动机对抗自动机 / 143
5.4 从控制论说起 / 147
5.5 机械因果观和行为主义 / 150
5.6 自复制机和进化主义 / 154
5.7 机器人学 / 158
5.8 本章小结 / 167
第三部分 第三波高潮
第 6 章 机器学习概览 / 170
6.1 概述 / 170
6.2 什么是机器学习 / 172
6.3 机器学习的意义 / 175
6.4 机器学习的分类 / 177
6.5 机器学习解决的问题 / 179
6.6 进行机器学习：实战模型训练 / 183
6.6.1 机器学习的一般过程 / 184
6.6.2 样本和样本空间 / 186
6.6.3 任务类型 / 188
6.6.4 数据预处理 / 190
6.6.5 损失函数 / 195
6.6.6 模型选择 / 201
6.6.7 泛化、误差及拟合 / 205
6.6.8 正则化 / 210
6.6.9 优化算法 / 219
6.6.10 终极算法 / 226
6.7 评估验证 / 228
6.7.1 性能度量 / 228
6.7.2 交叉验证 / 233
6.8 本章小结 / 236
第 7 章 深度学习时代 / 238
7.1 概述 / 238
7.2 引言：教父 / 239
7.3 逆反之心 / 241
7.4 复兴之路 / 243
7.4.1 生存危机 / 243
7.4.2 从感知机到神经网络 / 246
7.4.3 误差反向传播算法 / 250
7.5 深度学习 / 256
7.5.1 这是什么 / 258
7.5.2 从浅层学习到深度学习 / 262
7.5.3 序幕开启 / 264
7.5.4 锋芒毕露 / 273
7.5.5 越深度越强大吗 / 275
7.5.6 越深度越困难吗 / 277
7.6 深度神经网络 / 283
7.6.1 卷积神经网络 / 292
7.6.2 循环神经网络 / 294
7.7 从实验室到企业 / 297
7.8 挑战与反思 / 305
7.9 本章小结 / 310
第 8 章 从学习到创造 / 312
8.1 概述 / 312
8.2 引言：“技术宅”改变世界 / 313
8.3 生成式对抗网络 / 315
8.4 学者与荣耀 / 320
8.5 语言奇点 / 324
8.5.1 序列到序列模型 / 324
8.5.2 注意力机制与Transformer架构 / 329
8.6 OpenAI与GPT模型 / 332
8.7 现实与理想 / 342
8.8 本章小结 / 349
第四部分 人机共生
第 9 章 与机器共生 / 352
9.1 概述 / 352
9.2 引言：“白痴”与“天才” / 354
9.3 与机器竞技 / 356
9.3.1 信息识别 / 356
9.3.2 信息理解 / 361
9.3.3 信息决策 / 366
9.3.4 艺术创作 / 370
9.3.5 自动驾驶 / 375
9.3.6 游戏竞技 / 380
9.4 与机器共舞 / 385
9.4.1 人工智能的威胁 / 385
9.4.2 人工智能的机遇 / 390
9.5 本章小结 / 393
附录 人工智能历史大事记 / 394

XI

XII

XIII

XIV

· Part 1 ·

第一部分

以智慧创造智慧

·Chapter ·第 1 章

洪荒年代

We can only see a short distance ahead, but we can see plenty there that needs to be done.

目光所及之处，只是不远的前方，即使如此，依然可以看到那里有许多值得去完成的工作在等待我们。

—阿兰·图灵（Alan Turing），《计算机器和智能》，1950 年

1.1 概述

“人工智能”作为一个专业名词，是在 1956 年首次出现的，但是人类对人造机械智能的想象与思考却源远流长。在古代神话中，技艺高超的工匠可以制作人造人，并为其赋予智能或意识，如希腊神话中出现了赫淮斯托斯的黄金机器人和皮格马利翁的伽拉忒亚这样的机械人和人造人；列子辑注的《列子·汤问》记载，中国西周时期也已经出现了偃师造人的故事。

人类对人工智能的凭空幻想阶段一直持续到了 20 世纪 40 年代。由于第二次世界大战（以下简称二战）交战各国对计算能力、通信能力的迫切需求，这些领域的研究成为人类科学的主要发展方向。信息科学的出现和电子计算机的发明，让一批学者得以真正开始严肃地探讨构造人造机械智能的可能性。

1.2 引言：信息革命

从 1939 年到 1945 年，美国的国内生产总值（GDP）就增长了 1.5 倍，这是人类经济历史上有 GDP 记录以来的最高增速，并且这种惊人的速度发生在一个基础规模已经极为庞大的经济体上，是连最疯狂的经济学家都不敢设想的奇迹。

美国作为二战中唯一本土不被战火直接波及的世界性大国，通过军事援助与战争贷款将各国的经济命脉与自身相连，从而迅速取代欧洲和亚洲，成为世界“经济的心脏”。稳定的社会环境、经济飞跃式的发展为军事和科技的发展注入了强大的驱动力，战争中大量受到纳粹迫害的各种领域的顶尖人才多以美国为避风港，天然地促使美国汇聚了全球顶尖的人才与技术，令美国成为“世界的大脑”。在这种单一国家内几乎集中了全球经济资源和智慧力量的时代背景下，在二战这场几乎波及全人类的庞大战争的压力推动下，以美、英两国学术界为首的人类精英学者们展现出了无与伦比的智慧和创造力。新军事技术对计算与通信的需求，更具体的表现是当时新出现的导弹和精确火炮等远程武器对计算速度、精确性、系统控制能力的要求，以及雷达和电话电报网络等侦查、通信系统对信息传输安全和效率的要求，直接催生了信息科学和信息技术产业。

二战结束之后仅一年时间（1946 年），世界上第一台通用计算机—电子数值积分计算机（Electronic Numerical Integrator And Computer，ENIAC）“埃尼阿克”在美国宾夕法尼亚大学诞生，并实际应用于陆军火炮弹道和火力计算工作，这标志着通用可编程的计算机技术不仅有了成熟的理论，而且有了初步的工业化成果。

在两年之后（1948 年），诺伯特·维纳（Norbert Wiener，1896—1964）和克劳德·香农（Claude Shannon，1916—2001）分别发表了极具开创性的著作，创立了“控制论^○一”和“信息论^○二”，再结合之前路德维希·冯·贝塔朗菲（Ludwig Von Bertalanffy，1901—1972）在 1945 年发表的对“系统论^○一”的总结性著作，整个信息科学仿佛被上帝的手推动着，后人称为“信息学三论”的三门支柱性理论几乎于同一时刻问世，短短几年时间就完成了过去需要几十年才可能完成的发展突破。信息科学的研究，不论是理论上还是工程上，都从之前各个学者、机构零散研究、摸索的状态变成系统、有序的状态。

第 1 章 洪荒年代

3

○一 著作名称为 Cybernetics，发表于 1948 年。

○二 著作名称为 A Mathematical Theory of Communication，发表于 1948 年。

信息科学这门学科自 20 世纪 40 年代诞生后，很快就取得了一系列令人瞩目的成就，这让从政府官员、科学家等精英到社会普通群众都受到鼓舞，大家似乎预见到了蒸汽机械代替人类体力劳作的工业革命后，下一场由智能机械代替人类脑力劳作的信息革命的到来。从大半个世纪后的今天回望，我们确实在蒸汽动力革命、电力革命之后，见证了信息革命的来临，不过，即使有互联网这样超出了所有前人想象的技术出现，但在当时大家“看见”的目标蓝图里，信息革命的最重要成果并不仅仅是大家现在能接触的电脑和网络。今天计算机可以根据人类预设的指令和程序，快速地传递、计算和处理人类无法想象的海量数据，而当时人们所期望的信息时代的新型机械，不仅能够完成计算和信息传输，甚至还将是一种能够和人类一样可看、可听、可写、可说、可动、可思考、可以复制自身甚至可以有意识的机械。笔者所描绘的这个场景，不是来自凭空想象的科幻小说，而是引述了当年刊登在《纽约时报》^○二上，美国海军对“感知机 Mark-1”（这台机器可以说是连接主义在工程实践上的开端，在后面章节中还要提到它）的期望和评价：

这段 60 多年前的报道，现在听起来是不是还有一点莫名的熟悉感和科幻感？在互联网上大家对人工智能的期盼、想象，甚至恐惧的观点与此类似；我们今天在电影和小说中见到的各种机器人，与那时候人们对信息革命所设想的目标，也没有太大差别。

4

第一部分 以智慧创造智慧

○一 著作名称为 General System Theory，发表于 1945 年。

○二 原文为“Electronic‘Brain ’Teaches Itself”，发表于 1958 年。