被算法操控的生活：重新定义精准广告、大数据和AI

了从英文到中文的翻译质量。

我们尚不清楚利用神经网络来改进算法的潜力到底有多大，但至少最近的研究大大提高了计算机识别物体、声音和句子的能力。这种方法的激动人心之处在于，种种迹象表明我们正在取得更加引人注目的成果。我们是否终于快要发明强人工智能了？

我当然很想回答这个有关强人工智能的大问题，但在这之前，我需要先搞清楚一个小问题。卷积神经网络到底有多出色？亚历克斯·克利泽夫斯基的图像分析论文彻底改变了工业界和学术界，但我想更充分地了解神经网络的局限性。

抛开各种各样的炒作不谈，谷歌已经在自己的研究中找到了很大一部分答案。让我们回过头来看雅达利游戏神经网络。研究人员发现，在测试神经网络的49个游戏中，神经网络能够将其中29个玩得很好，甚至在大多数游戏中打败职业选手。但这意味着在剩下的20个游戏中，人类比神经网络玩得更好，不仅如此，神经网络在一些游戏中的表现跟瞎玩没什么区别。

当我在研究人机游戏竞赛的结果时，其中一款游戏引起了我的注意：《吃豆人女士》(Ms Pac-Man)。在这个简单的迷宫游戏中，吃豆人必须吃掉尽可能多的食物，同时又要避免被妖怪抓住。计算机在这个游戏中表现得非常糟糕，得分只能够达到职业玩家得分的12%。

《吃豆人女士》比《打砖块》和《太空入侵者》更难玩，因为它需要耐心。如果吃豆人女士想要生存下去，那么她就应该小心谨慎，等到某个地方没有妖怪的时候再移动过去。能量丸能让妖怪变蓝后被吃豆人吃掉，但要省着点用。如果吃豆人女士在游戏开始的时候就把能量丸用了，那么她确实能够吃掉妖怪并得到一点分数，但后面的游戏会变得很艰难，因为这些妖怪会复活，然后四对一地追杀她。

卷积神经网络根本无法应对游戏中的这些困难。它们只能对眼前的事物做出反应：射杀外星人、对拳击手拳打脚踢、跳过六边形等。它们没有进行规划的能力，即使这个规划针对的是非常短期的未来。该算法在所有需要提前做出计划的雅达利游戏中都出师不利，哪怕这些游戏只需要一点点这方面的能力。

被算法操控的生活OUTNUMBERED

210

这些网络的结构决定了它们善于识别图片中的物体、将声音组合起来构成单词，以及在射击类游戏中判断接下来要怎么玩。但我们不能期望它们精于其他任务，它们自己也不会有这样的期望。当今最先进的人工智能能够看到事物并立即做出反应，但它无法理解自己看到的是什么，也无法制订计划。

我不是唯一一个注意到《吃豆人女士》的人。微软的研究员哈尔姆·范·赛恩（Harm van Seijen）告诉我，在阅读了谷歌的论文后，这个游戏引起了他的注意。神经网络在这个游戏面前束手无策，这让他很惊讶，他想知道《吃豆人女士》与《太空入侵者》有什么不同。

赛恩和他的同事开发了另一种方法。他们发现，最容易克服这个难关的办法是把“吃豆人”的问题分解成更小的部分。他们将游戏的所有组成部分能量丸、水果和妖怪，都建模成争夺吃豆人注意力的代理，然后训练神经网络来判断这些位于迷宫不同位置的代理对她的牵制程度，这种方法产生了一个非常谨小慎微的吃豆人女士：她过每一关时都需要花费比以前更多的时间，但她从未被妖怪吃掉。他们的算法获得了能够取得的最高分999900分，这个分数意味着吃豆人女士已经通关了。

开发神经网络的研究人员敏锐地意识到了“人对算法干涉过多”的问题。强人工智能项目的长远目标是用尽可能少的人工输入来训练网络。如果我们想让算法展现出动物或人类的智慧的特质，那么这些网络就必须会自学，而不是需要我们告诉它们应该做什么或应该注意什么。

另一方面，这些研究人员热衷于证明其算法可以玩更复杂、更现代的电脑游戏，他们的终极挑战是《星际争霸》(StarCraft)。这是一款复杂的即时战略游戏，也是一项具有激烈对抗性的电子竞技项目。谷歌的

第三部分 人工智越能的未来人类了吗？

211

DeepMind团队与游戏出品方暴雪公司一起创建了一个软件环境，帮助研究人员构建算法来学习《星际争霸Ⅱ》。这个环境提供的是对游戏进行了抽象，呈现出的形式并不是人类玩家在屏幕上看到的影像，这就使程序可以跳过识别屏幕上的物体这一任务。

在不提供其他信息的情况下，让算法从屏幕上的视图的像素学习现代电脑游戏，哈尔姆对这一设想能否成功表示高度怀疑。他对我说：“从零开始学玩《星际争霸》？这是在痴人说梦。”哈尔姆认为，学习《星际争霸》需要程序员提供具体的游戏信息，并使用高度专业化的神经网络。

哈尔姆训练神经网络玩吃豆人的方法介于简单的雅达利游戏的纯神经网络训练方法和《星际争霸》的训练方法之间。与玩《太空入侵者》的神经网络不同，哈尔姆会把吃豆人女士、妖怪和能量丸的位置告诉了他的神经网络。但他不会提前告诉神经网络，能量丸是有益的，妖怪是有害的。反而是神经网络自己学会了如何平衡向妖怪移动的风险和向食物移动的益处，继而学会将这些信息整合在一起。

当我和哈尔姆交谈时，他不断地把话题引回到如何权衡给他的神经网络提供的信息量的多少这个问题上。“我感兴趣的是如何让电脑通过与周边环境互动来进行行为学习，”他告诉我，“我不会向一个代理（比如说吃豆人女士）指定她需要做什么事，我只给她设定她要达到的目标。”对于哈尔姆来说，神经网络研究的根本挑战就在这里，而不是简单地让一台电脑在《吃豆人女士》游戏中获得高分。

阿尔法狗－零：强人工智能离我们只有十年？

搞清楚电脑从零开始能够达到什么样的学习水平对于搞清楚我们离创造出强人工智能还有多远至关重要。在和哈尔姆交谈后，我于2017年10月联系了大卫·西尔弗，他领导的DeepMind团队正在训练神经网络下围棋。

被算法操控的生活OUTNUMBERED

212

大卫的团队创造的阿尔法狗（AlphaGo）算法在2017年5月击败了世界第一围棋选手柯洁。Deepmind团队用世界顶尖棋手的3000万步棋来训练算法，创造出了阿尔法狗。阿尔法狗随后又通过不断与自己的另一个版本对弈来提高自己的棋艺。最终，算法将三方面的能力集于一身：它是一部有关围棋的百科全书；它是一个能够通过下棋来提高棋艺的神经网络；它是一个可以通过计算找到最优下法的强大机器。这是一项令人印象深刻的工程学壮举，但它到底是一个专业性很高的算法，因为它只能下围棋。

大卫也参与了雅达利游戏项目，所以我认为，在如何平衡设计高专一性的（比如下围棋的算法）和训练算法从零开始学习这个问题上，他会有更深刻的见解。我通过邮件问了他一系列相关问题，但他让我耐心等待，因为“几周后的新论文”就能回答我的问题。

事实证明，我的耐心得到了回报。2017年10月19日，大卫和他的团队在《自然》杂志上发表了一篇关于全新一代阿尔法狗-零（AlphaGoZero）的文章，阿尔法狗-零碾压了之前的所有阿尔法狗算法。不仅如此，这个算法是在没有人帮助的情况下自学的。大卫和他的同事设计了一个神经网络，让它“左右互搏”、自我对弈，几天后它就成为了世界上最出色的围棋选手。

阿尔法狗-零留给我的印象远比电脑在国际象棋或扑克比赛中获胜的场面深刻，甚至也比大卫的第一个围棋冠军阿尔法狗-樊留给我的印象更深。因为这一次的阿尔法狗－零没有规则手册，也没有专门的搜索算法。这台机器通过一局又一局的对弈，一路从新手蜕变为大师，最后变得不可战胜。这是一个完全依靠自学来挑战极复杂游戏的神经网络。

大卫告诉我，尽管谷歌还没有尝试让阿尔法狗-零玩《吃豆人女士》，但他认为这个算法没有任何理由玩不了这个游戏。DeepMind的神经网络能够在多大程度上学会从零开始解决不同的问题？对于大卫来说，阿尔法狗-零这位新的围棋冠军已经回答了这个问题。他对他的同事强调，“你只需要告诉它游戏规则，（神经网络）就会在错误及新的尝试中学习。”

第三部分 人智能的未人类了吗？

213

当我问哈尔姆怎么看待新科围棋冠军时，他告诉我这“绝对令人叹为观止，是一个很显著的进步”，但他不认为这个算法是从零开始学习的。

哈尔姆告诉我，“雅达利游戏的规则对算法来说是未知的，因此它必须学会这些规则。”神经网络要“自下而上”地学会下棋，就必须弄清屏幕如何随动作发生变化。而科学家们已经将这些信息提供给计算机，供阿尔法狗使用了。

开发语言处理神经网络的脸书工程师托马斯·米科洛夫并不认为，阿尔法狗的成功代表着我们向强人工智能迈出了重要一步。他对我说，如果一个人长期浸淫在解决高度人工化的问题上，比如电脑游戏、围棋、国际象棋等，那么他就有可能对某些和创造人工智能这一终极目标无关的东西持过度乐观的态度。托马斯认为，只有在解决以语言为基础的任务时，通过与人工智能交流并指导它们，我们才能开发出真正的智能。

我回想起了自己的童年。当我第一次玩《吃豆人女士》和《太空入侵者》时，我前后花了不到几分钟时间就明白了怎么玩这两个游戏。控制电视屏幕上的图形对我来说再自然不过了，我的大脑很快就弄清了手柄的活动和屏幕画面之间的关系，并开始不断刷新游戏的得分记录。当我12岁的儿子第一次在PlayStation4上玩暴雪公司出品的《守望先锋》（Overwatch）时，我也目睹了同样的场景：他立刻就明白了移动的图形都是什么，也明白了应该如何使用手柄，并开始考虑游戏的策略。

当孩子们学玩电脑游戏时，他们使用的策略与我们在神经网络中使用的策略大不相同。当他们开始接触游戏时，他们就已经对物体之间的互动有所了解，不管这些物体是现实生活中的还是游戏中的。纽约大学(New York University）的布兰登·莱克（Brenden Lake）与麻省理工学院（MIT）和哈佛大学（Harvard）的同行们一起，对一款名为“寒霜”

被算法操控的生活OUTNUMBERED

214

（Frostbite）的雅达利游戏进行了更深入的研究。他们注意到孩子们可以比神经网络更快地学会玩这个游戏，因为他们很快就领会了游戏的目标和物体移动的方式。孩子们只要花两分钟的时间观看YouTube上别人玩游戏的视频，然后自己玩上15至20分钟，他们的得分就能达到神经网络的水平。

布兰登也提出了一些有趣的思想实验。他指出，他可以根据游戏的不同特点很自如地调整自己的游戏风格，比如，在游戏中钓到尽可能多的鱼，或者在不死的情况下玩尽可能长的时间。但对于神经网络来说，完成这些任务意味着重新从零开始训练。虽然科学家对大脑已经非常了解，但推动算法模拟人类去自发理解新环境对我们来说仍然难于登天。

谷歌、特斯拉、亚马逊、脸书和微软都在为早日做到这一点赛跑。他们在大部分研究工作上选择互相合作：共享代码库，并在各种会议（比如神经信息处理系统大会）上分享最新的进展，比如神经信息处理系统。这些科技巨头进行良性竞争，不断取得突破。一些工程师和数学家相信我们离实现真正的人工智能只有十年左右的时间，另外一些人则认为我们离真正的人工智能还遥遥无期。

我想知道，面对这种激动人心的局面，科技巨头的老板们会做些什么。

第三部分 人智能的未来人类了吗？

215

第17章|细菌大脑

2016年，脸书首席执行官马克·扎克伯格（Mark Zuckerberg）为自己设置了一个挑战：打造一个自动管家帮助他整理家务。这个自动管家叫作贾维斯(Jarvis)，命名的灵感来自漫画和电影《复仇者联盟》(TheAvengers)中钢铁侠制造的人工智能机器人。虚构作品中的贾维斯有着类似人类的智慧，能读懂钢铁侠的想法，并在情感上与钢铁侠心意相通。贾维斯拥有一个庞大的信息数据库以及理解概念和进行逻辑推理的能力，并且能够将这两者完美结合。马克不需要他的管家助手来帮助他拯救世界，但他确实想看看他能用脸书的算法库创造出一个多么智能的家庭助手。

谷歌的野心则远不只是私人管家。在围棋和《太空入侵者》游戏中获胜的DeepMind团队帮助谷歌提高了服务器的能源使用效率，并为公司的电子个人助理撰写更具真实感的演讲稿。另一个应用领域是DeepMind健康，这是谷歌的伦敦总部的员工在我拜访他们时向我透露的一个项目，自的是分析英国国民保健署是如何收集和管理患者数据的，以便对其工作进行改进和优化。DeepMind的首席执行官戴米斯·哈萨比斯（Demis Hassabis）有一天谈到，他的团队正在撰写一篇“高质量的科学论文，第一作者是人工智能”。他们的最终目标是，有朝一日让智能机器制定来解决方案，解决工程师、医生和科学家们苦苦钻研却久攻不下的难题。

被算法操控的生活OUTNUMBERED

216

从事这些项目的研究人员经常声称，他们正在一点一点地朝着更强的人工智能迈进。他们中的许多人相信，他们正在带领我们踏上一段越来越接近所谓的“奇点”（singularity）的旅程。奇点假说认为，一旦到达奇点，计算机就能设计出其他智能机器并且系统地进行自我改进，我们的社会将由此发生翻天覆地且永不停息的变化。这些机器甚至可能会认为我们人类是多余的。

世界末日与超级电脑

2017年1月，理论物理学家马克斯·泰格马克（MaxTegmark）在马萨诸塞州波士顿一个专注于应对未来风险的公益机构—生命未来研究所(Future of Life Institute）的会议上主持了一场关于强人工智能的座谈会。参会者包括九位在该领域最具影响力的人士，包括企业家、特斯拉首席执行官埃隆·马斯克（Elon Musk）、谷歌技术领域的高管雷·库兹韦尔（RayKurzweil)、DeepMind创始人戴米斯·哈萨比斯和哲学家尼克·博斯特罗姆(Nick Bostrom)。博斯特罗姆为我们勾勒出了实现他眼中的“超级智能”的路线图。

对于达到人类智能水平的机器智能是逐步实现还是在一夜之间突然实现，以及它对人类来说是福还是祸，座谈会成员各持己见。但他们都认为强人工智能或多或少是大势所趋，并且指出，强人工智能的出现已经指日可待，我们需要开始考虑应对之策了。

尽管与会成员确信我们离人工智能越来越近，但看着他们侃侃而谈的样子，我的怀疑非但没有减少，反而增加了。在过去一年里，我仔细研究了这些人的公司所使用的算法。就我看到的情况而言，我难以理解他们口中的这种智能从何而来。从他们开发的算法中，我几乎找不到任何蛛丝马迹表明一个达到人类智能水平的人工智能时代即将来临。

第三部分 人智能的未人类了吗？

217

在我看来，这个由科技行业的名人组成的小组并没有认真对待这个问题。他们很享受自己对人工智能做出的各种推测，但推测不是科学，推测纯属娱乐。

我认为，谈论强人工智能何时到来纯属闲来无事的夸夸其谈，因为我们无法证明强人工智能一定会到来。我有时觉得自己都不应该去想这件事。因为如果我去想这件事，那么我也就和那些中年男人一样，成天唠叨不停，唯恐别人不知道自己的想法。但我似乎又忍不住要表达自己的观点，尤其是在我听到斯蒂芬·霍金（Stephen Hawking）声称人工智能“可能意味着人类末日”的时候。

我曾经试图反驳强人工智能的可能性。2013年，我与哥德堡大学(Gothenburg University）教授奥勒·哈格斯特伦（Olle Häggström）就这个话题进行了网上辩论。奥勒相信这种人工智能出现的可能性相当大，我们人类应该为它的到来未雨绸缪，将人工智能进化为超级智能的可能性降到最低点。

但是对于人工智能，我们现在无需杞人忧天。我的理由很简单：它只不过是人类未来要面对的成干上万种不同风险中的一种。我们仍在努力应对全球变暖；此外，在我们现在生活的时代，核战也可能一触即发。而如果我们展望未来的100年，那么你将发现一颗巨大的流星可能会击中我们的星球，一团硕大无比的太阳耀斑可能会吞噬地球，一场火山爆发可能会让我们从此多年不见天日，一个严峻的冰河时代可能会将我们逼上绝境。这些都是我们实实在在面临的，需要严阵以待去解决的挑战。

技术还可能会带来许多其他威胁。想象一下，如果生物学家通过基因工程偶然（或者蓄意）制造了一种超级病毒或致命的菌株，而这种超级病毒或菌株能够感染并慢慢杀死所有哺乳动物，包括我们人类，那么我们该如何应对？

被算法操控的生活OUTNUMBERED

218

想象一下，如果我们能找到一种方法无限延长人类的寿命，没有人会死亡，那么地球上又是怎样一番景象。很简单，资源将供不应求，冲突将不可避免。想象一下，如果科学家创造了少量灰色的黏性纳米颗粒，而这些颗粒又发展出了自我繁殖并“吃掉”地球上所有的东西，那么这将给人类带来怎样的风险。

如果我们要像科幻小说中所描绘的那样去对待通用人工智能，那么，当詹姆斯·韦伯空间望远镜（James Webb Space Telescope）开始拍摄更加清晰的宇宙照片时，我们就需要考虑应该如何应对可能出现的外星智能生命。如果我们发现恒星正在以一种违反物理定律并且只能用外星智慧来解释的方式运动，我们该怎么办？在电影《黑客帝国》（TheMatrix）中，所有人都生活在电脑模拟中，这一幕在未来可能成真吗？难道我们不应该花更多的时间去研究现实中可能存在的反常现象吗？

如果在强人工智能到来之前，发生了上面所说的任何一件事情，那么它给人类带来的威胁不会比拥有超级智能的电脑带来的威胁更小。具有讽刺意味的是，很多上述这些世界末日的场景都不是我凭空想象出来的，而是奥勒的著述。我是通过我们的讨论以及阅读他的著作次日危机》(Here Be Dragons)才了解到这些的。

然而，我未能说服奥勒。他仍然认为，强人工智能会给人类生存带来重大风险，或者说，至少是一个需要小心控制的风险。

这次，我决定换一种方法，一种不那么带哲学味而且更实用的方法来打消人们的疑虑。我将不遗余力地向读者解释，目前强人工智能的发展正处于什么阶段。在这之后，我将请读者（和奥勒）自己判断人工智能和我们将何去何从。

在与马克斯·泰格马克座谈会类似的另一场讨论中，卷积神经网络的发明者、脸书首席人工智能研究员杨立昆（Yann Le Cun）将其解决图像识别问题的方法比喻成翻山越岭：他们跋山涉水，翻过了一座山，走进了一座山谷，下一座山峰又遥遥在望。杨立昆不清楚还有多少山要爬，但他认为大概还有“50座”。但DeepMind的戴米斯·哈萨比斯则估计还有不到“20座”。在哈萨比斯看来，每座山都包含了一系列尚未解决的问题，这些问题都与我们模拟大脑的不同的已知特性的方式有关。

第三部分 人智能的未类了吗？

219