被算法操控的生活：重新定义精准广告、大数据和AI

翻山越岭这个比喻带来的问题比它回答的问题更多。仅凭眺望，他们怎么知道下一座山峰是能够被征服的？他们既没有这片未知领域的地图也没有一条明确的路线来告诉他们如何登顶。更糟糕的是，他们怎么知道在翻过其中一座山后会遭遇到一座根本无法攀登的险峰？翻过眼下这座山，你就知道该怎么翻过下一座山了吗？

要理解算法最近的发展，很好的一个方法是思考这些算法目前能够完成哪些任务、不能完成哪些任务以及其中的原因。加州大学伯克利分校电气工程和计算机科学助理教授安卡·德拉干（Anca Dragan）比其他参会人员都更加怀疑人工智能的发展情况。在生命未来研究所的座谈会的问答环节，她以一项看似简单却不太可能在短期内攻克的挑战为例，来说明她的怀疑。她说，如果在未来的几年里，机器人仍然无法清空人类码放在洗碗机中的餐具，她不会感到惊讶。

另一位怀疑论者、艾伦人工智能研究所(Allen Institute for ArtificialIntelligence）的首席执行官奥伦·埃齐奥尼（Oren Etzioni）则以语言为例来说明他的看法。他告诉与会人员，电脑“无法可靠地确定它’这个词在一个句子中的意思。对于那些认为(电脑）即将接管世界的人来说，它①无疑是很打击人的。

我们知道，奥伦第二句话中的“它”代指他整个第一句话。即使是最好的语言算法，也无法确定他用“它”指的是一个句子、一台电脑、词语“它”本身，还是句子中的其他意思。

被算法操控的生活OUTNUMBERED

①原文用的是it，在中文语境下就是“这无疑是很打击人”的意思。

220

关于人工智能无法做到什么，我最喜欢的例子来自于足球。在网上你可以找到最近的比赛集锦：两个机器人不停地撞在一起，而球却在它们半米开外的地方纹丝未动；机器人守门员看着球慢悠悠地从它身边滚进球门，却没有做出任何扑球动作；机器人球员一而再、再而三地摔倒在地，因为它们摆腿踢球的动作会使它们摔倒。这些机器人提醒我们，人工智能的发展任重而道远。

2016年的机器人世界杯比赛结束后，我采访了蒂姆·劳厄（TimLaue）和凯蒂·延特（Katie Genter)，他们分别来自标准机器人组冠军队德国不来梅队和亚军队美国得克萨斯州奥斯汀队。他们告诉我，他们专注于编写让机器人识别球场上的线条、门柱、球和球员的算法。每一种算法都是针对特定任务的：有的算法侦测球的位置和运动，有的算法执行踢球的动作。这种“自上而下”的方法离用“自下而上”的方法创造出来的人工智能还相去甚远，但机器人要想打败人类对手，我们就必须用“自下而上”的方法创造出的人工智能，因为现在这些“自上而下”的机器人实际上只是在执行一系列识别任务，而不是学习如何踢球。我们距离拥有一个人工智能足球运动员还有很长的一段路要走。

人工智能 PK 微生物智慧

如果人工智能还不能胜任人类智慧层面的任务，或许它可以做到和动物不相上下？我们能否先不那么雄心勃勃，试着从创造出一个和狗一样聪明的算法开始呢？

一些人（包括许多本应该更懂行的科学家）在谈及动物时，竟然只是简单地从刺激-反应的角度出发。一个典型的例子是巴甫洛夫实验中的狗：当建立起条件反射后，狗听到铃声就会流口水。任何一个养狗的人都会告诉你，巴甫洛夫的观点太过肤浅了。我也这样认为，一个正常的狗主人会视其宠物为家人和朋友，这不仅仅是一种饱含情感，认为宠物有人性的观点，而且它与当代大多数行为生物学家对家畜的看法不谋而合——家畜有着许多与我们相同的复杂行为。南安普敦大学(Universityof Southampton）的犬类认知研究项目负责人朱利安娜·凯明斯基（JulianeKaminski）发现，狗可以像小孩子一样学习，在决定是否叼走东西时会看主人的脸色行事，并且会通过我们的身体动作来理解我们的意图。

第三部分 人智能的未人类了吗？

221

理解不同情境和学会如何学习是人工智能研究领域中仍然有待解决的问题。除非我们在人工智能模拟人类这一方面取得比现在更重大的进展，否则我们无法模拟狗、猫或其他家畜。

让人工智能模拟狗，这个目标可能定得太高了，所以我们将难度降低几个层次，直接跳到昆虫，具体谈谈模拟蜜蜂吧。伦敦玛丽女王大学的拉尔斯·奇特卡（Lars Chittka）最近的研究增加了我们对蜜蜂认识能力的理解，他的研究发现蜜蜂有着惊人的智力。在绕着蜂巢飞几圈后，新出生的蜜蜂就能够对它们所处的世界形成一个比较完整的概念，不久之后，它们就开始采集食物。工蜂会学习辨识最好的花的气味和颜色，解决“旅行推销员问题”(Traveling Sales Man problem），在最短时间内找到可获取的食物来源。它们能记住自己在哪里遇到过危险，但有时它们对感知到的危险做出反应之后，却发现是虚惊一场。找到大量食物的蜜蜂变得“乐观起来，开始低估遭到捕食者攻击的风险。控制这一切行为的神经网络就隐藏在蜜蜂的脑中，但这个网络的结构与人工卷积神经网络或递归神经网络的结构却截然不同。蜜蜂看起来只需要4个输入神经元就能识别物体间的差异，而且似乎缺乏任何内部的图像表征能力。其他更简单的刺激-反应任务可以用少量的逻辑门来建模，但这些任务会影响到脑中大片的区域。

最让人拍案叫绝的是，蜜蜂能学会怎么踢足球！好吧，不是真正的足球，但很像足球。拉尔斯的研究小组曾训练蜜蜂把球顶入一个球门。蜜蜂可以通过各种不同的方式来学习并完成这项任务，包括观察一只塑料模型蜜蜂如何顶球，或者旁观其他真正的蜜蜂如何完成这项任务。它们不需要大量练习就能完成这项任务。滚球并不是蜜蜂生活中经常遇到的事情，所以这项研究表明蜜蜂可以快速学习新的行为，无需反复用试错法来学习。而人工神经网络迄今未能做到这一点。此外，蜜蜂还可以将它们的技能推广到其他领域，以解决像顶球这样的新问题。

被算法操控的生活TNUMBERED

222

我们需要记住一点，那就是强人工智能的问题不在于计算机是否比人类更擅长处理特定的任务。我们已经看到，电脑比人类更会玩国际象棋、围棋和扑克牌，所以我认为机器在这些游戏中打败蜜蜂不会有什么问题。但真正的问题在于，我们能否让电脑具备在很多动物身上观察到的那种“自下而上”的学习能力。到目前为止，蜜蜂能电脑之所不能，它们可以举一反三、触类旁通。

秀丽隐杆线虫（C. elegans）是现存最简单的动物之一。一个完全发育成熟的成年线虫有959个细胞，其中大约300个细胞是神经元。相比之下，人体内有372000亿个细胞，这其中860亿个细胞是神经元。尽管相对简单，但线虫与我们仍有许多共同的特征，包括行为、社会互动和学习，因此很多科学家将它们作为研究对象。

芝加哥大学的莫妮卡·肖尔茨（Monika Scholz）最近创建了一个模型，用于描述线虫如何使用概率性的推理来决定何时移动。这个模型类似于第8章中的内特·希尔弗在民意调查中使用的模型。线虫会对它所处的局部环境进行“调查”，以摸清有多少食物可供食用，然后“判断”自己是留在原地，还是开始寻找新的资源更好。类似的研究揭示了线虫做出决策的细节，但它们还无法对整个线虫进行建模。另一个名为OpenWorm的项目试图彻底弄清楚线虫运动机制的各种特征，但要将这些模型组合在一起并表现出线虫的全部行为，我们还有很多工作要做。目前，我们还不完全了解这959个细胞是如何协作的，因此也就无法准确地模拟一种地球上最简单的动物的行为。

第三部分 人工智能的未类了吗？

223

因此，让我们暂时别异想天开，先不谈怎样创造出狗、蜜蜂或者线虫水平的智能，更别谈创造出一个足球运动员水平的智能。变形虫的智能怎么样？我们能模拟微生物的智慧吗？多头绒泡菌(Physarumpolycephulum）是一种变形虫状的微生物，它通过构建微小的管道网络在身体不同部位之间运输营养物质。法国图卢兹大学（Toulouse University）的奥德丽·杜苏图尔（AudreyDussutour）通过研究发现，多头绒泡菌通常会尽量避开咖啡因，但如果它们被暴露在富含咖啡因的环境中，它们又会适应这种物质。但是如果环境能够让它们选择不接触咖啡因，那么多头绒泡菌又会恢复到回避咖啡因的状态。其他项研究表明多头绒泡菌可以预测周期性的事件，选择平衡的摄食方式，绕过陷阱，建立起有效地连接不同食物来源的网络。多头绒泡菌可以被认为是一种进行分布式计算的计算机，它会接收来自身体不同部位的信号，并根据之前的经验做出决定。它是在没有脑或神经系统的情况下做到这一切的！

在不久的将来，我们也许有可能建立一个多绒泡菌的全面的数学模型，但毫无疑问，我们目前还做不到这一点。多绒泡菌的“记忆”和学习可以用一种称为“忆阻器”的电子元件来模拟。忆阻器由电容和电阻组成，可以提供一种灵活的记忆。但我们目前仍不清楚如何将多个忆阻器连接起来，从而模拟出多头绒泡菌应对问题的方式。

从生物复杂性来看，比多头绒泡菌更简单的就是细菌了。大肠杆菌是生活在我们肠道中的一类细菌。虽然大多数大肠杆菌菌株对人体是无害甚至是有益的，但也有少数菌株会导致食物中毒。大肠杆菌和其他细菌游走于我们的体内，它们吸收糖分，“决定”如何生长和何时分裂，且适应能力很强。当你喝牛奶时，大肠杆菌内负责乳糖吸收的基因就会被激活，但是如果你接着吃了一块巧克力，那么负责处理葡萄糖的基因就会抑制负责吸收乳糖的基因，因为大肠杆菌“更喜欢”葡萄糖。大肠杆菌的移动方式是在直行和急转弯间不停地切换，它们会沿着一个方向移动，然后“选择”突然转向并持续移动。它们会根据自己所处环境的情况来调整转弯的频率。大肠杆菌的每一个不同“目标”—获取资源、移动和分裂—都是通过开启一部分基因并关闭另一些基因来实现的。

被算法操控的生活OUTNUMBERED

224

大肠杆菌为了获取资源而权衡不同目标是否听起来似曾相识？当然是。吃豆人女士其实就是一种细菌。这两种东西，一种是真实的，一种是人工的，但要完成的任务却如出一辙。为了适应环境，它们都必须对各种不同来源的输入信号做出反应：大肠杆菌要控制资源的摄入，对危险做出反应，并绕过障碍物；吃豆人女士的神经元要对妖怪、能量丸和迷宫的结构做出反应。细菌的宿主并不完全相同，就像吃豆人的迷宫各不相同一样，但它们使用的算法足够灵活，能够应对各种环境的挑战。

我终于找到了与目前最高水平的人工智能的智力最为接近的生物—大肠杆菌，一种胃肠道中的细菌。

我将细菌和脑进行的类比遭到了一些反对，其中一种观点认为我们无法模拟线虫和多绒泡菌的原因是我们不知道这些生物的行为目标是什么。与我交谈过的一些神经网络研究人员辩称，我们目前并不知道线虫的目标函数是什么。在训练一个神经网络时，我们需要告诉它应该产生什么样的模式，这种模式就是目标函数。而且从理论上说，如果我们知道这个模式，我们就应该能够复制出这个模式。这种说法不无道理生物学家目前不管是对线虫还是对多头绒泡菌都没有一个完整的认识，因此我们的人工智能还无法模拟它们。

然而，“我们不知道目标函数”的借口本质上回避了真正的问题。生物学家在智能方面的实验工作更多揭示的是大脑是如何工作的，也就是不同神经元之间的连接以及大脑不同区域的功能，但并没有揭示出一种模式，以解释大脑中为什么会形成特定目标。如果神经科学家要与人工智能专家合作来创造智能机器，那么这种合作不能仅仅依赖于生物学家去发现动物的目标函数，然后将其告诉机器学习专家。人工智能的发展需要人们对大脑有一个深刻的认识，需要生物学家和计算机科学家共同努力。

第三部分 人工智能的未人类了吗？

225

胃肠道细菌的“智能”为何让聪明人如临大敌？

在我看来，对人工智能的测试应该以阿兰·图灵（Alan Turing）在他著名的“模仿游戏”（imitationgame）中首次提出的测试为基础。如果电脑能通过一系列的问答，让人认为它实际上就是人，那么它就通过了图灵测试（即模仿游戏)。这是一个难度很大的测试，而且我们距离这个目标的实现还很遥远，但是我们可以从图灵测试退一步，先完成一系列简单测试。

图灵在1950年发表了一篇文章，其中一节很少被人提及。在这一节中，图灵提出，算法在模拟成人之前应该先模拟儿童：当我们相信电脑是一个孩子的时候，我们就可以认为自己创造的人工智能“通过”了一个迷你版的图灵测试。而我的看法是，我们应该充分利用地球上种类多样的生物来进行一系列难度各异的测试。我们能在计算机模型中重现多头绒泡菌、蠕虫和蜜蜂的智能吗？如果我们能够模拟出它们在环境中移动时的行为以及它们与同类间的互动，那么我们就可以宣称创造出了与它们具有同等智力水平的模型。可是在我们创造出这些模型之前，我们的言论应该保持谨慎，不能言过其实。基于目前的证据，我们正在模拟的人工智能的智力水平与单个细菌并无二致。

等等，人工智能的智力水平甚至可能还不如单个细菌的水平。在解释他的吃豆人女士算法时，哈尔姆·范·赛恩用词一直非常谨慎，在他看来，他的算法并非从零开始构建的。他帮助了算法，告诉它要留意妖怪和能量丸。相比之下，细菌对环境中的有利及有害因素的认识则是“自下而上”通过进化建立起来的。

被算法操控的生活OUTNUMBERED

226

哈尔姆告诉我：“很多人在谈论人工智能时都过于乐观了，他们低估了构建系统的难度。”根据他开发吃豆人女士算法和其他机器学习系统的经验，他觉得我们的能力还远不足以创造通用形式的人工智能。

即使我们能创造出细菌水平的人工智能，哈尔姆仍然怀疑我们还能往前走多远。他说：“人类非常善于利用我们在做一项任务时所学到的知识来完成另一项相关的任务，而目前我们最先进的算法在这方面却表现得一塌糊涂。”

微软的哈尔姆和脸书的托马斯·米卡洛夫也都认为，赋予神经网络过多溢美之词并不是件好事。

哈尔姆目前所在公司的创始人似乎也与他所见略同。2017年9月，比尔·盖茨在接受《华尔街日报》采访时表示，我们不必过分恐慌人工智能。他说他不同意埃隆·马斯克的说法，后者认为人工智能的潜在问题已迫在眉睫。

如果我们目前模拟的人工“智能”与一个胃肠道中的细菌相差无几，那么为什么埃隆·马斯克在面对人工智能时如临大敌？为什么斯蒂芬·霍金对他的语音软件的预测能力如此忧心忡忡？是什么让马克斯·泰格马克和他的伙伴们坐成一排，异口同声地宣称他们相信超级智能很快就会到来？他们都是聪明人，是什么蒙蔽了他们的判断？

我认为这里面存在多重因素。其中一个因素是商业性的。对人工智能稍作包装，进行一点炒作，不会给DeepMind带来多少损失。当谷歌收购DeepMind 时，戴米斯·哈萨比斯曾强调 DeepMind 应该“解决关于智能的问题”，不过如今他已经在有意淡化这一点了。在最近的一些采访中，他更多地是在强调他的公司更注重解决数学优化问题。关于阿尔法狗的研究表明，DeepMind在新药研发和电网能源优化等方面处于领先地位，这些问题需要大量计算才能从许多可行的备选方案中找到最佳方案。如果没有一点早期的炒作，DeepMind可能无法获得解决其中某些重要问题的资源。

第三部分 人工智的未类了吗？

227

埃隆·马斯克却还在继续他的高谈阔论。他似乎在费尽心机地在不断吹捧人工智能，以帮助自己推动许多雄心勃勃的项目，包括自动驾驶汽车。只有当“购买最新款特斯拉汽车是迈向美好未来的一步”这个想法被消费者接受之后，马斯克的那些长期项目才有可能取得成功。很多时候，正是这些看似不着边际的遥远梦想推动着我们去探索未知的世界，开启美好的未来。

激励DeepMind和特斯拉员工的不是金钱，因为人工智能这项工作本身就能够让研究人员喜不自禁。在世纪之交时，强人工智能的概念几乎已经销声匿迹，无人提起。直到2012年神经网络解决了图像分类问题时，强人工智能才又回到了人们的视野之中。形势至此才开始峰回路转。

如今，算法背后的真相往往比“人工智能”这个词的含义要简单得多，也平淡无奇得多。当我观察那些试图将我们进行分类的算法时，我发现它们或多或少是我们对自己已了解之事的统计学表征；当我研究那些试图影响我们的算法时，我发现它们只是在利用我们行为中某些非常肤浅的层面来决定向我们展示什么样的搜索信息，以及向我们推销什么样的产品。神经网络已经能够玩一些游戏了，但我们还没找到通往下一座山峰的路。当亚历克斯和我创造了我们自己的语言机器人后，它虽然可以生成几句不错的句子骗到我们，但很快它就将自己的假智能暴露无遗。

打造管家贾维斯的挑战长达一年。一年后，马克·扎克伯格在脸书上发布了一段视频，展示他的成果。在你看这段视频之前，我不得不警告你，贾维斯从头到尾都在奉承扎克伯格。我们首先看到扎克伯格穿着他标志性的灰色T恤在卧室里醒来，贾维斯告知他当天都有哪些会议要开，并且汇报说，自从扎克伯格一岁的女儿醒来后，自己就一直在给她上汉语课。马克下楼去厨房的时候，贾维斯已经打开烤面包机，因为他已经预料到扎克伯格每天这个时候都要吃几片面包。这时，前门的门铃响了，这是由于面部识别软件在扎克伯格的父母靠近时辨认出了他们的脸。一天结束的时候，扎克伯格和他的妻子通过一个语音系统向贾维斯发出了指令，命令他播放一些带有浪漫风格的音乐。

被算法操控的生活OUTNUMEERED

228

在一篇博客文章中，扎克伯格对贾维斯能做什么和不能做什么直言不讳。事实上，他编写私人管家程序时遇到的挑战与我在分析目前的算法时所面临的挑战相似。他的最终产品是一个大师级的实际应用程序，集我们在本书中所见方法之精华：卷积神经网络进行语音和图像识别；回归模型预测他什么时候想吃几片烤面包或他女儿什么时候想学普通话；“大家也喜欢”算法选择全家想听的音乐等。脸书开发了一个程序库帮助其员工（本例中为马克·扎克伯格）将这些算法转化为应用程序。

当我不再执着于他视频中的老生常谈，更深入地研究他的博客文章时，我意识到扎克伯格是个绝顶聪明的人（我知道我太后知后觉了)。他是一位数据炼金术士。当他的硅谷同行们参加由理论物理学家主持的研讨会，试图显示自己的丰富知识时，马克却开始研究程序接口，以及如何充分利用公司已经开发出的工具。他得出的结论很有道理：“人工智能很快就能够胜任超出大部分人预料的工作开车、治病、发现行星、阅读新闻。这些都将对世界产生重大影响，但我们仍然没有搞明白真正的智能是什么。”

使用我们在本书中介绍过的算法能够开发出无限可能的产品和服务。这些算法将继续改变我们的家庭、工作和我们的旅行方式，但它们距离强人工智能还有很长一段路。这些技术让我们的烤面包机、家用音响、办公室和汽车拥有了一种类似细菌的智能。这些算法可能将减少和分担我们不得不做的粗活，但它们一点都不像人。

凯瑟琳·理查森（Kathleen Richardson）是莱斯特的德蒙特福特大学（De Montfort University）的机器人与人工智能伦理及文化教授。她将算法近年来的进展称为“广告智能”，而非大家口中的“人工智能”。她在接受 BBC 国际服务频道（BBC World Service）的采访时说，过去

第三部分

人工智能的未来算法越来越像人类了吗？

229