PDF 物理页索引 450
文件中的第 451 页 · 印刷页码：未识别
26 S. Byford,“DeepMind Founder Demis Hassabis on How AI Will Shape the Future”, Verge , March 10, 2016.
28 D. Silver et al.,“A General Reinforcement Learning Algorithm That Masters Chess, Shogi, and Go Through Self-Play”, Science 362, no. 6419 (2018): 1140-1144.
10 游戏只是手段<sub>，</sub>通用人工智能才是目标
2 E. David,“DeepMind's AlphaGo Mastered Chess in Its Spare Time”, Silicon Angle, Dec. 6, 2017.
PDF 物理页索引 451
文件中的第 452 页 · 印刷页码：未识别
3 还有一个示例，也是在游戏领域：DeepMind在2018年发表了一篇论述强化学习系统的论文，他们声称该系统在不同的雅达利游戏上表现出了某种程度的迁移能力 。 L. Espeholt et al.,“Impala: ScalableDistributed Deep-RL with Importance Weighted Actor-Learner Architectures”, in Proceedings of theInternational Conference on Machine Learning(2018), 1407-1416。
PDF 物理页索引 452
文件中的第 453 页 · 印刷页码：未识别
8 Marcus,“Innateness, AlphaZero, and Artificial Intelligence ”.
9 G. Marcus,“Deep Learning: A Critical Appraisal”, arXiv: 1801.00631 (2018).
10 K. Kansky et al.,“Schema Networks: Zero-Shot Transfer with a Generative Causal Model of Intuitive Physics”, in Proceedings of the International Conference on Machine Learning (2017), 1809-1818.
11 A. A. Rusu et al.,“Progressive Neural Networks”, arXiv: 1606.04671 (2016).
12 Marcus,“Deep Learning”.
13 N. Sonnad and D. Gershgorn,“Q&A: Douglas Hofstadter on Why AI Is Far from Intelligent”, Quartz , Oct. 10, 2017.
14 实际上，一些机器人研发团队已经在开发洗碗机装载机器人了，尽管没有一个团队运用强化学习或任何其他机器学习方法来训练它们。关于这些机器人，有一些令人印象深刻的视频，例如，“Robotic Dog Does Dishes,Plays Fetch”, NBC New York, June 23, 2016。很明显这些机器人仍然有很大的局限性，并且还无法解决我们家每天晚上关于谁来洗碗的争论。
PDF 物理页索引 453
文件中的第 454 页 · 印刷页码：未识别
15 A. Karpathy,“AlphaGo, in Context”, Medium , May 31, 2017.
11 词语<sub>，</sub>以及与它一同出现的词
1 《餐厅际遇》这个故事的灵感来源于罗杰·尚克（Roger Schank）和他的同事在自然语言理解方面的工作中创造的类似的小故事（Schank, R. C. and Riesbeck,C. K., 2013, Inside Computer Understanding: FivePrograms Plus Miniatures . Psychology Press），以及约翰·瑟尔的《思想、大脑和程序》［Searle, J. R.,1980, Minds, Brains, and Programs, Behavioral andBrain Sciences , 3(3), 417-424］。
2 G. Hinton, et al. (2012). Deep neural networks for acoustic modeling in speech recognition: The shared views of four research groups. IEEE Signal Processing Magazine , 29 (6), 82-97.
3 J. Dean,“Large Scale Deep Learning”, slides from keynote lecture, Conference on Information and Knowledge Management (CIKM), Nov. 2014, accessed Dec. 7, 2018.
PDF 物理页索引 454
文件中的第 455 页 · 印刷页码：未识别
4 S. Levy,“The iBrain Is Here, and It's Already in Your Phone”, Wired , Aug. 24, 2016.
在语音识别相关文献中，最常用的度量指标是在大型短音频片段集合上的“单词错误率”。尽管当下最先进的语音识别系统应用在这种集合上的单词错误率比人类要低，但当使用现实的语音进行测试时，例如，嘈杂的或带口音的讲话、带有歧义的语言，机器语音识别的表现仍然显著不如人类。在A. Hannun,“Speech Recognition IsNot Solved”, accessed Dec. 7, 2018一文中给出了对于其中一些争论的概述。
6 Hansen, J. H. & Hasan, T. (2015).“Speaker recognition by machines and humans: A tutorial review”. IEEE Signal Processing Magazine , 32, no. 6 (2015), 74-99对现代语音识别算法的工作原理给出了一 个很好的技术概述。
7 这些评论来自亚马逊网站，我只是稍微编辑了一下。
8 在撰写本文时，人们还在为一家名为“剑桥分析”（Cambridge Analytica）的数据分析公司利用数千万个Facebook账户的数据帮助投放政治广告而感到震惊，他们很可能使用了情绪分类等技术。
PDF 物理页索引 455
文件中的第 456 页 · 印刷页码：未识别
9 回顾第02章，在一个神经网络中，每个单元需要将其输入乘以权重并求和，只有当输入为数字时，才能执行这种计算。
10 J. Firth, (1957).“A synopsis of linguistic theory 1930-1955”, in Studies in Linguistic Analysis , (Oxford: Philological Society, 1957), 1-32.
11 A. Lenci, (2008).“Distributional semantics in linguistic and cognitive research”. Italian Journal of Linguistics 20, no. 1 (2008): 1- 31.
12 在物理学中，“向量”这一术语通常被定义为：具有大小和方向的量。这个定义也适用于我在本文中提到的词向量：任何词向量都可以用代表单词的点的坐标来唯一地描述，它的大小是从原点到该点的线段长度，方向是这条线段与坐标轴的夹角。
13 T. Mikolov, et al. (2013).“Efficient Estimation of Word Representations in Vector Space”, in Proceedings of the International Conference on Learning Representations (2013).
14 Word2vec, Google Code Archive,code.google.com/archive/p/word2vec/.词向量的另一种英文表述为“word embeddings”。
PDF 物理页索引 456
文件中的第 457 页 · 印刷页码：未识别
15 此处，我举例说明了“跳字模型”（skip-gram ） 方 法 的 一 个 版 本 ， 它 是 Mikolov et al.,“Efficient Estimation of Word Representations inVector Space”一文中提出的两种方法之一。
16 同上。
17 我 使 用 了 http://bionlp-www.utu.fi/wv\_demo上 的 word2vec 原 型 ， 并 通 过 “English Google NewsNegative300”模型来获得这些结果。
18 即在向量算术问题 man - woman = king - x 中对 x 求解。两个向量坐标的加减运算法则是：将它们对应的坐标进行加减运算，例如，（3，2，4）-（1，1，1）=（2，1，3）。
19 bionlp-www.utu.fi/wv\_demo/.
20 R. Kiros et al.,“Skip-Thought Vectors”, in Advances in Neural Information Processing Systems 28 (2015), 3294-3302.
21 H. Devlin,“Google a Step Closer to Developing Machines with Human-Like Intelligence”, Guardian , May 21, 2015.
PDF 物理页索引 457
文件中的第 458 页 · 印刷页码：未识别
22 Y. LeCun,“What's Wrong with Deep Learning?”, lecture slides, p. 77, accessed Dec. 14, 2018.
23 T. Bolukbasi et al.,“Man Is to Computer Programmer as Woman Is to Homemaker? Debiasing Word Embeddings”, in Advances in Neural Information Processing Systems 29 (2016), 4349-4357.
24 J. Zhao et al.,“Learning Gender-Neutral Word Embeddings”, in Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing (2018), 4847-53, and A. Sutton, T. Lansdall-Welfare, and N. Cristianini,“Biased Embeddings from Wild Data: Measuring, Understanding, and Removing”, in Proceedings of the International Symposium on Intelligent Data Analysis (2018), 328-339.
12 机器翻译<sub>，</sub>仍然不能从人类理解的角度来理解图像与文字
1 Q. V. Le and M. Schuster,“A Neural Network for Machine Translation, at Production Scale”, AI Blog , Google, Sept. 27, 2016.
PDF 物理页索引 458
文件中的第 459 页 · 印刷页码：未识别
2 Weaver, W. (1955). Translation. In W. N. Locke and A. D. Booth (eds.) Machine Translation of Languages . ed. W. N. Locke and A. D. Booth (New York: Technology Press and John Wiley & Sons, 1955), 15-23.
3 这是谷歌翻译在大多数语言上使用的方法。在撰写本书时，对于某些很少见的语言，谷歌翻译还没有将其翻译方式转换为神经网络翻译。
5 在谷歌的神经机器翻译系统中，对词向量的学习是整个网络训练过程的一部分。
6 更具体地说，解码器网络的输出是网络词汇表中（此处是法语）每个可能单词出现的概率。更多细节见Wu,Y. et al. (2016). Google's Neural MachineTranslation System。
7 在撰写本书时，谷歌翻译和其他翻译系统是逐句进行翻译的。下文介绍了一个超越逐句翻译的研究实例。Werlen, L. M., and Popescu-Belis, A. (2017).“Usingcoreference links to improve Spanish-to-English
PDF 物理页索引 459
文件中的第 460 页 · 印刷页码：未识别
10 同上。
14 A. Packer,“Understanding the Language of Facebook”, EmTech Digital video lecture, May 23, 2016.