人工智能时代：破解人机共存密码（套装共10册）

约书亚·本吉奥（Yoshua Bengio）

2019年图灵奖得主，《深度学习》作者

这本关于人工智能未来风险和解决方案的书值得一读，作者罗素很棒！

埃隆·马斯克（Elon Musk）

特斯拉创始人兼CEO

人工智能到底发展到了哪一步，未来会怎么发展，这本书代表主流专家意见，能让你迅速获得“当前科学理解”。作者是研究人工智能的教授，但书中并不过度讨论技术，他关心更大的问题：人的偏好可以“算法化”吗？人工智能是人类的威胁吗？人能限制人工智能吗？当前的答案并不乐观。到最后，你会发现人工智能的问题首先是“人”的问题：我们其实并不了解我们自己。

万维钢

科学作家，“得到”App《精英日课》专栏作者

这是一本引人入胜的巨作，无论一般读者还是人工智能专家都将从中获得启发。罗素教授对于超级智能这个人工智能的重大问题做出了深刻明确的分析。更重要的是，他提出了一个新颖的人机关系处理方案，为解决超级智能这个重要问题开辟了一个崭新的研究方向。

姚期智

中国科学院院士，2000年图灵奖得主

当人们为人工智能技术的突飞猛进而欢呼雀跃，并期盼着超级人工智能到来时，我们不能忘了人类正面临着一个非常关键的挑战：如何确保人工智能的发展以人为本，基于人类的共同价值造福人类？这本书为我们带来了罗素教授多年潜心的研究成果和深刻洞见，读起来令人赏心悦目。

张宏江

智源研究院理事长，源码资本投资合伙人

人类可能在不久的将来制造出超越自己的强人工智能，我很高兴人工智能知名学者斯图尔特·罗素教授不仅仔细推敲了这种可能性，还提出了一种巧妙的应对之策。

黄铁军

智源研究院院长，北京大学教授

创造出达到或超越人类水平的人工智能会怎么样？超级人工智能的成功为什么可能是人类历史上的最后一个事件？人类是否还有希望？人工智能经典教科书作者斯图尔特·罗素的这本书值得每位关心人工智能的人士阅读。

周志华

南京大学人工智能学院院长欧洲科学院外籍院士

自我们这一代人开始，科学地理解、探索、协同和管控超级智能机器，将变成一个越来越不能回避的严肃课题。如果说罗素的经典教科书在过去帮助很多学者进入了人工智能研究领域，他的这本新书则将让更多人思考如何创造更好的人机协同的未来。

周伯文

京东集团副总裁

书中倡议的构建“尽可能安全且对人类有益的人工智能”应成为全球人工智能研究与实践者的共同愿景。罗素论述的人工智能安全风险与人类自身的隐忧无疑将“确保人工智能的安全有益”这个重要挑战长期置于未来人工智能研究的核心。

中国科学院自动化研究所研究员，类脑智能研究中心副主任智源研究院人工智能伦理与可持续发展研究中心主任

曾毅

前言

为什么读这本书，为什么现在读？

这本书讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为人工智能正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。世界上的各个大国正在意识到这一事实，各家大公司也早就知道这一点。我们无法准确预测这项技术将如何发展，也不知道这项技术发展的时间线。然而，我们必须为现实世界中“机器的决策能力远远超过人类”这种可能性做好准备。

文明所提供的一切都是我们智能的产物，掌控比我们强大得多的智能将是人类历史上最大的事件。这本书的目的是解释为什么这可能是人类历史上的最后一件事，以及如何确保这不会成为现实。

全书概述

本书分为三个部分。第一部分（第1章到第3章）探讨了人类和机器中智能的概念。阅读这部分不需要技术背景，但对于感兴趣的人，书后补充了4个附录，解释了当今人工智能系统的一些核心概念。第二部分（第4章到第6章）讨论了给机器赋予智能所产生的一些问题。我特别关注控制问题：对于比我们更强大的机器，我们要保持绝对的控制权。第三部分（第7章到第10章）提出了一种思考人工智能的新方法，并确保机器永远对人类有益。虽然这本书是面向普通读者的，但我希望它也能说服人工智能专家重新思考他们的基本假设。

很久以前，我父母住在英国伯明翰大学附近。后来他们决定搬出这座城市，并把房子卖给了英语文学教授戴维·洛奇（DavidLodge）。那时候，洛奇已经是一位著名小说家了。我从未见过他，但我决定读读他的书：《换位》和《小世界》。书中的主要人物都是学者，他们从伯明翰搬到了加州伯克利。而我正是刚刚从伯明翰搬到伯克利的学者，这一系列的巧合似乎在提醒我要多多注意。

《小世界》中有一个特别的场景令我印象深刻。主人公是一位有抱负的文学理论家，他参加了一个重要的国际会议，并问一群领军人物：“如果所有人都赞同你们的观点，接下来会发生什么？”这个问题引起了恐慌，因为专家组成员更关心的是智力竞赛，而不是弄清真相、获得认同。当时我想到，我们可以对人工智能领域的领军人物提出一个类似的问题：“如果你们成功了会如何？”该领域的目标一直是创造出达到或超越人类水平的人工智能，但人们很少或根本没有考虑过，如果我们创造出了这样的人工智能会发生什么。

几年后，我和彼得·诺维格（Peter Norvig）开始编写一本新的人工智能教科书，书的第一版于1995年出版。^[1]这本《人工智能》的最后一节题为“如果我们成功了会如何”，它指出了出现好结果和坏结果的可能性，但没有得出明确的结论。到2010年第三版出版的时候，许多人终于开始考虑，创造超越人类的人工智能可能不是一件好事，但这些人大多是局外人，而不是主流的人工智能研究人员。到了2013年，我开始相信这个问题不仅是主流的人工智能研究人员应该考虑的问题，而且可能是人类面临的最重要的问题。

2013年11月，我在伦敦南部一座久负盛名的艺术博物馆——杜尔维奇绘画馆演讲。听众大多是退休人员，他们不是科学家，但是普遍对智能问题感兴趣，所以我只好做一次完全非技术性的演讲。这似乎是一个在公共场合验证我的想法的合适场所。在解释了人工智能是什么之后，我提出了5个“人类未来最大事件”的候选选项：

1. 我们灭亡了（因为小行星撞击、气候灾难、流行病等）。

1. 我们都能永生（医学攻克了衰老）。

1. 我们发明了超光速旅行，征服了宇宙。

1. 高级外星文明造访了我们。

1. 我们发明了超级人工智能。

我认为第5个候选选项，即我们发明了超级人工智能，将会胜出，因为如果可能，超级人工智能将帮助我们避免灾难，实现永生和超光速旅行。它将代表我们文明的一次巨大飞跃，或者说一次突变。超级人工智能的到来在许多方面类似于高级外星文明的到来，但前者更有可能发生。也许最重要的是，人工智能不同于外星人，它是我们对其有发言权的东西。

然后，我让听众想象一下，如果我们收到一个来自高级外星文明的通知，说它们将在30到50年后到达地球，会发生什么。“乱作一团”这个词并不能准确地描述这种情景。然而，我们对超级人工智能即将到来的反应却是……“冷淡”。（在后面的演讲中，我用图1所示的电子邮件交流的形式对此进行了说明。）最后，我将超级人工智能的意义解释为：超级人工智能的成功将是人类历史上最重大的事件……或许是人类历史上的最后一个事件。

发件人：高级外星文明<sac12@sirus.canismajor.u>

收件人：人类@UN.org

主题：联络

警告：我们将在30到50年后到达。

发件人：人类@UN.org

收件人：高级外星文明<sac12@sirius.canismajor.u>

主题：不在办公室Re：联络人类现在不在办公室。我们回来后会回复你的信息。

图1 高级外星文明第一次联络人类的电子邮件内容，如有雷同，纯属巧合