被算法操控的生活：重新定义精准广告、大数据和AI

虚假信息和假新闻的存在已经成为所有选举的突出特点。在2017年法国总统大选的前两天，一场在网上的虚假信息传播运动以“#马克龙泄密”(#MacronLeaks)拉开序幕。电脑黑客侵入了伊曼纽尔·马克龙(EmmanuelMacron）竞选团队的电子邮件账户，并将通信内容公布到了网上。在推特上，“#马克龙泄密”旨在确保人们知道此次黑客攻击，并让人们尽情发挥想象去猜测和讨论泄密内容。当时，马克龙和另类右翼候选人马丽娜·勒庞(Marine Le Pen）的竞选投票已经到了短兵相接的关键时候，“#马克龙泄密”的参与者想要在选民心中造成尽可能多的不确定性。

“#马克龙泄密”活动的主角是机器人，即通过运行计算机脚本进行大规模信息分享的虚假账户。机器人天生擅长传播假新闻，因为它们可以轻而易举地编造出很多不实消息，而且你要它们怎么说，它们就怎么说。它们是蚂蚁“骗子”，它们告诉谷歌、推特和脸书，一些新鲜有趣的东西已经出现在互联网上。这些机器人的创造者希望网络对这个标签产生足够的兴趣，把它顶到推特首页，如此一来所有的推特用户都可以看到这个标签并点击它。

来自南加州大学的埃米利奥·费拉拉（EmilioFerrara）决定追踪这些机器人，并弄清楚它们在做什么。首先，他判断了针对法国大选进行发帖的推特账户的“人格”。他采用我们在第5章中看到的回归方法，自动对人类用户和机器人用户进行分类。他告诉我，上传了大量帖子、拥有众多关注者且推文被其他人收藏的用户，更有可能是人类。人气不高、互动更少的推特账户很可能是机器人。当在随意选择的两个用户(一个是机器人，一个是人）中间做出判断时，他的模型非常准确，他可以在89%的情况下准确识别出机器人。

被算法操控的生活UTN4EE

160

“#马克龙泄密”的推特机器人军团确实造成了一定影响。在选举前的两天里，大约10%与选举有关的推文都是讲泄密的。正好法国在这个时候实行了选举新闻管制，在此期间，报纸和电视都不得报道政治，投票结束后管制才解除。于是，“#马克龙泄密”标签成功地跻身推特的热门列表，这意味着真实的用户在他们的屏幕上看到了这个标签，并点击它去了解更多信息。机器人军团在最佳时机采取了行动。

然而，这些机器人的创造者遇到了一个意料之外的问题，因为它们推文的受众是一群非常特定的人。大多数关于“#马克龙泄密”的信息都是用英语而不是法语发送的。在这些推文中，最常见的两个词是“特朗普”和特朗普的竞选口号缩写“MAGA”（“让美国再次伟大”，Make AmericaGreat Again)。绝大多数与机器人分享和互动的人类用户都是美国的另类右翼支持者，而不是那些与法国大选相关的人（或者说有投票权的人）。

埃米利奥的另一个重要发现是，这些关于“#马克龙泄密”的推文所使用的词汇量非常有限。它们一遍又一遍地重复着同样的信息，却没有扩展讨论的广度和深度。它们常常带有能够跳转到美国另类右翼网站的链接，比如网关专家（The Gateway Pundit）和布莱特巴特，以及在美国大选期间传播假新闻的盈利网站。

最后，机器人账户对法国选民只产生了非常微弱的影响，马克龙以66%的得票率赢得了选举。

第二部分 算想控制我我们的情绪和行为吗？

161

虚假报道本身就写于气泡之中

埃米利奥的调查发现与亨特·奥尔科特和马修·根茨科对2016年美国总统大选中假新闻的研究结果类似。亨特和马修在他们的研究中发现只有8%的人相信假新闻，而且那些相信这些新闻的人所带有的政治倾向往往已经与假新闻的观点相同。共和党的支持者倾向于相信“希拉里基金会购买了1.37亿美元的非法武器”，而民主党人则倾向于相信“爱尔兰（将）接受因特朗普当选总统而向它寻求政治庇护的美国公民”。这些结果得到了早期研究结果的进一步支持。早期研究表明，共和党人更有可能相信巴拉克·奥巴马出生在美国本土之外，而民主党人更有可能相信小布什在“9·11”恐怖袭击事件发生之前就已经知道了这件事。最不可能相信虚假新闻或阴谋论的人是那些尚未决定支持谁的选民，而正是这些人将决定选举的结果。

许多报纸和新闻杂志从2017年的年头到年尾都不亦乐乎地报道过滤气泡和假新闻。这是一种类似“曼德拉效应”的现象，颇具讽刺意味，因为这些报道本身就写于气泡中。它们利用人们的恐惧，消费唐纳德·特朗普和剑桥分析公司，抨击脸书，妖魔化谷歌。

我的孩子们观看的YouTube视频的账户经常讨论如何用“元对话(meta - conversations)① 来增加视频观看次数。像丹与菲尔(Dan & Phil)这样的视频博客主（Vloggers）把它提升了三四个层次：他们会自嘲沉迷于让他们走红的名声和财富，然后分析他们是如何自嘲的。同样可笑的现象也发生在有关过滤气泡和假新闻的报道上，不同的是，这些报道的作者大多没有意识到这里面极具讽刺意味。有关过滤气泡的危险性的文章一路蹿升到谷歌搜索的顶部，里面尽是像“将特朗普赶出推特”或“特朗普支持者深陷过滤气泡”这类用语。但是，这些文章中几乎没有几篇去深入研究网络交流到底如何运作。假新闻不断地被传播、扩散，产生自己的“链接果汁”，却没有任何人去认真地分析数据。

被算法操控的生活OUTNUMBEREL

①元对话指的是这样一种对话：对话本身的主题就是对话，讨论对话的风格、对话的参与者、对话的背景以及这一对话与其他对话之间的关系。

162

没有确切的证据表明，假新闻的传播改变了选举的进程，或者推特机器人的增加对人们讨论政治的方式产生了负面影响。我们没有生活在后真相时代。鲍勃·哈克费尔特关于政治讨论的研究表明，我们的爱好和兴趣可以让其他人的观点渗透到我们的气泡中。埃米利奥·费拉拉的研究表明，至少就目前而言，这些推特机器人的影响极其有限，只是在和其他机器人以及一小群想要看到那些假新闻的另类右翼美国人交流而已。亨特和马修已经证明，关注和分享假新闻的只是少数人，而不是多数人。而且无论如何，没有人能一字不漏地想起这些假新闻。拉达·阿达米克的研究表明，脸书上的保守主义者通过他们朋友的分享和脸书新闻推送所看到的内容，只比他们随机翻看新闻的时候少看到一点带有自由主义倾向的新闻而已。

如果有人说社交媒体气泡阻碍了美国自由主义者认清2016年总统选举时美国社会所经历的事，那么他的证据更加站不住脚。在拉达的博客圈和脸书研究中，自由主义者的观点没有保守主义者多元，不过这种影响很小，甚至我本人也没有完全公正地批评一些“分析社交媒体对用户的数据进行分析”的自由主义新闻媒体。许多新闻记者继续追究谷歌和脸书的责任，逼迫他们进一步改进。自由主义者比保守主义者可能更容易受回声室的影响，但这可能是因为他们对互联网的使用比保守主义者更频繁。

我觉得自己兜了一圈。当我刚开始研究影响我们在线行为的算法时，我对PredicitIt所创造的集体智慧如痴如醉。但后来我发现，“大家也喜欢”算法主导了我们的在线互动，并导致反馈失控的出现，还产生了另一个世界。在商业利益的驱使下，黑帽试图把流量引导到他们与亚马逊连接的联盟网站。因此产生的大量无用信息甚至让谷歌的算法不堪重负。也就是在那个时候，我对谷歌不再抱有幻想。而在解决不停过滤信息这个

第二部分 算法想控制我我们的情绪和行为吗？

163

问题上，脸书也没有什么作为。

为什么到了政治这里，情况会不一样呢？为什么假新闻的黑帽起不到和闭路电视摄像头的黑帽一样的作用呢？

首要原因是两者所涉及的利益存在天壤之别。散布假新闻的马其顿少年的收入非常有限，他们的大部分广告费都来自特朗普纪念品的广告，而与亚马逊上其他产品相比，特朗普纪念品的市场份额很小。最成功的假新闻制造者的收入（根据马其顿少年自己的说法）每月最多4000美元，而且仅仅是在特朗普当选前的四个月里才能挣这么多。从长远来看，如果你想成为一名黑帽企业家，那么CCTV西蒙的网站是更好的投资。

黑帽未能过多染指政治的第二个原因，是我们对于买哪个牌子的闭路电视摄像头的关心，远远比不上我们对政治的关心。甚至我们对杰克·保罗和“大米口香糖”之间的假牛肉之争的关心程度也比不上我们对政治的关心。

大家可能越来越不相信媒体和政客，但没有证据表明人们在政治事务上的参与度有所降低，无论青年还是老人都是如此。恰恰相反，年轻人利用便利的网络通信，发起了针对特定议题的宣传，比如环保主义、素食主义、同性恋权利、性别歧视和性骚扰等。他们还利用网络来组织线下的示威游行。

虽然很少有人积极地撰写关于闭路电视或宽屏电视的博客，但有很多非常真诚的人在写作政治类文章。英国工党的左翼青年团体“动力”（Momentum）的宣传活动和2016年伯尼·桑德斯的总统竞选活动都是通过网络社区组织起来的。右翼的民族主义者也组织了抗议活动，在网上分享他们的观点。你我可能不同意所有这些观点，也绝不接受推特上的欺凌和辱骂，但大多数网民的帖子都与自己的真情实感密切相关。这些帖子数量众多，所以我们必然会接触到无数截然不同的观点。

当然这并不等于我们可以对潜在的危险坐视不管，比如，一个由政府(例如俄罗斯政府）组织的黑帽运动就有可能动员足够的资源来影响选举。

被算法操控的生活01

164

这种推测并非信口开河。毋庸置疑，一些得到俄罗斯支持的组织在最近的美国总统大选中就想这么做。他们在脸书和推特上耗费了数十万美元。而且，就在我撰写这本书时，美国一名特别检察官正在调查特朗普的竞选团队是否参与了俄罗斯的黑帽行动。

不管特朗普与这件事有没有关系，这些活动都没有吸引到足够的点击流量来造成大的影响。两名候选人用于总统竞选的资金超过了10亿美元，这让俄罗斯的投入相形见绌。虽然从理论上讲，小额投资可以通过“大家也喜欢”和社会感染来实现大的回报，但没有切实证据表明俄罗斯投放的广告收到了这种效果。

尽管谷歌搜索、脸书过滤算法和推特热门推荐都存在各种各样的问题，但我们也要记住，它们同时也是非常出色的工具。在你搜索时，算法偶尔会将错误信息和无礼的内容显示在首页。我们可能不喜欢这种情况，但也必须意识到这不可避免，因为谷歌的运作结合了“大家也喜欢”和过滤算法，这是它的一个内在缺陷。就像蚂蚁具备收集大量食物的惊人能力，而绕圈行进是它们这种能力的副作用一般，谷歌也具有惊人的收集和呈现信息的能力，但它也有自己内在的缺点。

谷歌、脸书和推特目前使用的算法的最大局限性在于，它们无法正确理解我们彼此分享的信息的含义。这就是为什么它们会继续被CCTV西蒙的网站所愚弄的原因。尽管这个网站上的文本是原创文本，而且语法正确，但这些内容其实废话连篇。谷歌等公司希望改进算法，使其能够监控我们的帖子，并通过理解帖子内容的真正含义，自动决定它们是否适合被分享以及应该与谁分享。

这些公司目前都在全力以赴解决的问题是，如何让算法理解我们谈论的内容，以便减少我们对人类管理员的依赖。为了做到这一点，谷歌、微软、脸书希望他们未来的算法会变得越来越像人类自身。

第二部分 算法控制我我们的情绪和行为吗？

165

2 被算法操控的生活

第三部分

人工智能的未来算法越来越像人类了吗？

既没有人类的规则手册，也没有专门的搜索算法，阿尔法狗-零通过无数局自我对弈成为围棋大师。这是否预示着，算法自行发明智能机器并系统性地迭代自身的奇点已经临近？为何埃隆·马斯克等顶级精英都愿意相信，超级人工智能将带来世界末日？

第14章|“学”出来的性别歧视

很少有人真的想成为种族主义者或性别歧视者。然而，在我们的工作场所，不同种族及男女之间都存在明显的不平等。与其他群体相比，白人男性的薪水通常更高，所做的工作也更有趣。为什么像我这样的白人男性的职场生活要比其他群体轻松很多？

不平等的部分原因在于我们做出判断的方式存在偏见。我们喜欢价值观和自己相似的人，而这些人往往也与我们存在共同之处。管理者更倾向于做出有利于同种族、同性别员工的评价。白人员工利用他们的社交网络互相支持，为其他白人朋友或熟人寻找就业机会。在一个向波士顿和芝加哥的雇主发送假简历的实验中，尽管简历内容都差不多，但名叫艾米丽和格雷格的求职者获得面试机会的概率比雷科斯卡和贾马尔高出50%。另一项实验要求科学家们对简历进行评估。这项实验的结果显示，尽管男性求职者和女性求职者资历一样，但是科学家们更青睐男性求职者。

第三部分 人智来人类了吗？

①雷科斯卡和贾马尔都是少数族裔常用的名字。

169