人工智能时代：破解人机共存密码（套装共10册）

从思考中学习

每当你发现自己不得不思考某件事时，那是因为你还不知道答案。当有人问你的新手机号码时，你可能不知道。你暗想：“好吧，我不知道，那我怎样才能找到它呢？”你不是手机的奴隶，你不知道如何找到号码。你暗想：“我如何想出找到它的方法？”对此你有一个通用的答案：“也许界面设计师把它放在了用户容易找到的地方。”（当然，你可能是错的。）显眼的地方应该在主屏幕的顶部（并不在那里），在“手机”程序中，或者在该程序的设置中。你尝试点击“设置”，然后点“手机”，找到了，就在这里。

下次有人问你要手机号码时，你要么记得手机号码，要么知道怎么找到它。你记得这个步骤，不仅是在这个场合的这部手机中，而且是在所有场合的所有类似的手机中，也就是说，你存储并重复使用了问题的通用解决方案。这种泛化是合理的，因为你知道这部特定的手机和这一特定场合的细节是不相关的。如果这种方法只在星期二对尾号为17的手机号码有效，你会感到无比震惊。

围棋为同类型的学习提供了一个完美的例子。在图25中，我们看到了一个常见的情况。黑棋威胁要包围并吃掉白棋的棋子。白棋试图延长原来的棋子并逃跑，但黑棋继续封堵逃跑路线。白棋尝试向另一个方向逃跑。最后双方按图25（e）中数字所示的次序继续落子。这种走棋方式形成了“征子”，仿佛一条斜穿过棋盘的梯子，最终一直延伸到棋盘边缘，白棋再无处可逃。黑棋完成致命一击，白棋被完全包围，死掉了。如果你是白棋，你可能不会再犯同样的错误：你意识到征子总是会导致棋子最终被吃掉，无论你是白棋还是黑棋，无论初始位置和方向如何，在棋局的任何阶段都是如此。唯一可能的例外是征子撞上了逃跑一方的接应棋子。征子的通用性直接遵循围棋规则。

忘记手机号码的情况和围棋中征子的情况说明了从一个例子中学习有效的通用规则的可能性，这与深度学习需要数百万个样例的情况相去甚远。在人工智能中，这种学习被称为基于解释的学习：看到例子后，智能体可以自己解释为什么会出现这种情况，并可以通过了解哪些因素对解释至关重要，来提取通用原理。

严格地讲，这个过程本身不会增加新的知识。例如，白棋本可以根据围棋规则推导出通用征子模式的存在和结果，而不需要看到一个例子。^[12]然而，如果白棋没有看到征子的例子，它可能永远也不会发现征子的概念。因此，我们可以将基于解释的学习理解为一种以通用的方式保存计算结果的有效方法，从而避免将来不得不重复同样的推理过程（或者在不完美的推理过程中犯同样的错误）。

认知科学的研究强调了这种类型的学习在人类认知中的重要性。它以“知识块”之名，形成了艾伦·纽厄尔（Allen Newell）极具影响力的认知理论的核心支柱。^[13]（纽厄尔是1956年达特茅斯会议的参与者之一，并与赫伯特·西蒙共同获得1975年图灵奖。）“知识块”解释了人类如何通过练习而变得更熟练地处理认知任务，因为原本需要思考的各种子任务都变成了自动完成的任务。如果没有它，人类的对话将局限于一两个字的回答，数学家仍将依靠他们的手指计数。

[1] “劫”是围棋术语，是指黑白双方都把对方的棋子围住，这种局面下，如果轮白棋下，白棋可以吃掉一个黑子；如果轮黑棋下，黑棋同样可以吃掉一个白子。如此往复就会形成循环无解，所以围棋禁止“同形重复”。——译者注

[2] 关于归纳推理的基础讨论：David Hume, Philosophical Essays Concerning Human Understanding (A. Millar, 1748)。

[3] Leslie Valiant, “A theory of the learnable,” Communications of theACM 27 (1984):1134–42 。 另 请 参 见 ： Vladimir Vapnik, Statistical LearningTheory (Wiley, 1998) 。 瓦 伦 特 （ Valiant ） 的 方 法 侧 重 于 计 算 复 杂 性 ， 万 普 尼 克（Vapnik）的方法侧重于对各种假设的学习能力进行统计分析，但两者都有一个共同的理论核心，即连接数据和预测准确性。

[4] 例如，为了了解“situational superko”（禁止全局同形在同一方出现）和“natural situational superko”（禁止走一着棋后使全局同形在同一方出现）规则之间的区别，学习算法必须尝试停一手棋不走子来重复其先前的局面。在不同的国家，判定结果会有所不同。

[5] 有关ImageNet竞赛的介绍，请参见：Olga Russakovsky et al., “Image Net large scale visual recognition challenge,” International Journal of Computer Vision 115(2015): 211–52。

[6] 用于机器视觉的深度网络的首次演示：Alex Krizhevsky, Ilya Sutskever, and Geoffrey Hinton, “ImageNet classification with deep convolutional neural networks,” in Advances in Neural Information Processing Systems 25, ed. Fernando Pereira et al. (2012)。

[7] 区分100多种狗的难点：Andrej Karpathy, “What I learned from competing against a ConvNet on ImageNet,” Andrej Karpathy Blog, September 2, 2014。

[8] 发 表 于 谷 歌 的 关 于 inceptionism 研 究 的 博 文 ： Alexander Mordvintsev,Christopher Olah, and Mike Tyka, “Inceptionism: Going deeper into neuralnetworks,” Google AI Blog, June 17, 2015 。 这 个 想 法 起 源 于 J. P. Lewis,“Creation by refinement: A creativity paradigm for gradient descent

致谢

很多人在这本书的创作中给予了帮助。包括我在维京出版社和企鹅出版社的优秀编辑保罗·斯洛瓦克（Paul Slovak）和劳拉·斯蒂克尼（Laura Stickney），我的图书代理人、一直在鼓励我写作的约翰·布罗克曼（John Brockman），提供了大量有用反馈的吉尔·里奥维（Jill Leovy）和罗布·里德（Rob Reid），以及早期书稿的其他读者，特别是齐亚德·马拉尔（Ziyad Marar）、尼克·海伊（NickHay ） 、 托 比 · 奥 德 （ Toby Ord ） 、 戴 维 · 杜 文 诺 （ DavidDuvenaud）、迈克斯·泰格马克和格蕾丝·凯西（Grace Cassy）。卡罗琳·詹梅尔（Caroline Jeanmaire）在整理早期读者提出的无数改进建议方面提供了极大的帮助，马丁·福井（Martin Fukui）负责搜集了图片的许可。

书中的主要技术思想是与加州大学伯克利分校人类兼容人工智能中心的成员合作发展而来的，特别是汤姆·格里菲斯（TomGriffiths ） ， 安 卡 · 德 拉 甘 （ Anca Dragan ） ， 安 德 鲁 · 克 里 奇（Andrew Critch），迪伦·哈德菲尔德·梅内尔（Dylan HadfieldMenell ） ， 罗 欣 · 沙 阿 （ Rohin Shah ） 和 史 密 沙 · 米 利 （ SmithaMilli）。该中心由执行董事马克·尼茨伯格（Mark Nitzberg）和助理董事罗西·坎贝尔（Rosie Campbell）领导，并得到了开放慈善基金会的慷慨资助。

雷蒙娜·阿尔瓦雷斯（Ramona Alvarez）和卡琳·韦尔多（Carine Verdeau）让整个过程得以顺利进行，我优秀的妻子洛伊和我们的孩子戈登、露西、乔治和艾萨克在我的创作过程中给予了无穷无尽且又必不可少的爱、忍耐和鼓励，以上排名不分先后。

图片版权

图 2 (b) © The Sun / News Licensing; (c) Courtesy of Smithsonian Institution Archives.

图 4 © SRI International. creativecommons.org/licenses/by/3.0/legalcode.

图5 (left) © Berkeley AI Research Lab; (right) © Boston Dynamics.

图 6 © The Saul Steinberg Foundation / Artists Rights Society (ARS), New York.

图7 (left) © Noam Eshel, Defense Update; (right) © Future of Life Institute / Stuart Russell.

图10 (left) © AFP; (right) Courtesy of Henrik Sorensen.

图11 El_ys ium © 2013 MRC II Distribution Company L.P. All Rights Reserved.Courtesy of Columbia Pictures.

图 14 © OpenStreetMap contributors.OpenStreetMap.org. creativecommons.org/licenses/by/2.0/legalcode.

图19 Terrain photo: Digital Globe via Getty Images.

图20 (right) Courtesy of the Tempe Police Department.

图 © Jessica Mullen Deep Dreamscope.creativecommons.org/licenses/by/2.0/legalcode.

图书在版编目（CIP）数据

AI新生：破解人机共存密码：人类最后一个大问题/（美）斯图尔特·罗素著；张羿译. -- 北京：中信出版社，2020.9

书名原文：Human Compatible: Artificial Intelligence and the Problem of Control

ISBN 978-7-5217-1951-2

Ⅰ. ① A… Ⅱ . ①斯… ②张… Ⅲ . ①人工智能 Ⅳ.① TP18

中国版本图书馆CIP数据核字（2020）第101830号

Human Compatible: Artificial Intelligence and the Problem of Control by Stuart Russell
Copyright © 2019 by Stuart Russell
Simplified Chinese translation copyright © 2020 by CITIC Press Corporation
All Rights Reserved.

AI新生：破解人机共存密码——人类最后一个大问题

著者：［美］斯图尔特·罗素

译者：张羿

出版发行：中信出版集团股份有限公司

（北京市朝阳区惠新东街甲4号富盛大厦2座 邮编100029）

字数：301千字

版次：2020年9月第1版

京权图字：01–2020–1078

版权所有·侵权必究

书号：ISBN 978–7–5217–1951–2

Al Thinking

恩维

AI思维

从数据中创造价值的炼金术

丁磊著

“数据科学50人”之一/PayPal全球消费者数据科学部创办人

深度分析机器学习的内在逻辑洞见大数据与人工智能如何赋能商业

知道趋势，更需要知道怎么做

中信出版集团

AI思维

——从数据中创造价值的炼金术

丁磊 著

中信出版集团