被算法操控的生活：重新定义精准广告、大数据和AI

这项研究淋漓尽致地展示了人们多么愿意让研究人员访问他们自己和朋友的脸书资料，以及那时候研究人员在社交网站上获得数据访问权限是多么的容易。经过这群“机械土耳其人”的许可，研究人员也能获取他们朋友的位置和“赞”的数据。在亚历克斯的研究中，80%的人为了换取1美元而提供了他们的个人资料和朋友的位置数据。这些人平均有353个朋友。在只有857名参与者的情况下，亚历克斯和他的同事获得了总计287739人的数据。这就是社交网络的力量：从一小撮人那里收集数据就能够让研究人员接触到庞大的朋友圈数据。

就是在这个时候，亚历克斯与SCL的代表们展开了谈判。SCL是一家为全球客户提供政治和军事分析的集团公司。最初，SCL感兴趣的是让亚历克斯帮忙设计问卷。但是，当该公司的代表们意识到数据收集在“机械土耳其人”身上展现出来的力量时，双方谈判的焦点转向了访问海量脸书个人数据的可能性。SCL蠢蠢欲动地准备启动政治咨询服务，利用性格预测来帮助客户赢得选举，该服务后来发展成为剑桥分析公司。亚历克斯的数据收集方法正好满足 SCL的需要。

亚历克斯向我承认他还是太单纯了。他在加州大学伯克利分校获得本科学位，在香港大学获得博士学位，目前在剑桥大学做研究，以前从来没有和一家私营公司合作过。他对我说，“我真的不敢恭维生意人的做事方式”。

被算法操控的生活

①“机械土耳其人”是亚马逊的一个众包互联网市场，使个人和企业能够协调人类智能的使用，以执行计算机当前无法完成的任务。

40

他和同事们考虑了与SCL合作的伦理问题和伦理风险，确保不将数据收集与大学研究工作混为一谈。他们意识到从“机械土耳其人”那里收集如此规模的数据缺乏可靠性，而且“机械土耳其人”也没有能力完成这项任务。因此，他们使用了Qualtrics公司¹的在线客户调查服务。亚历克斯告诉我，就像他们之前的研究一样，他们请求对方允许使用受访者的脸书个人资料，并遵守了当时奉行的所有访问规则。

亚历克斯那时没有考虑到其他人听说他收集脸书数据时的感受和看法。他说：“你仔细想想，这是相当讽刺的。我研究的很多东西都跟情感相关，如果我们想过人们是否会质疑甚至反感我们的人格预测，或许我们会做出不同的决定。

《卫报》随后发现，亚历克斯在SCL的资助下建立了一家公司，这家公司收集了20万美国公民的脸书数据以及他们参与的问卷调查结果，而这些仅仅是他们直接调查的人。由于脸书平台当时的运作方式允许人们获知参与此项研究的志愿者的朋友的点赞情况，而且志愿者也同意第三方获取朋友的数据，SCL得以拥有3000多万人的数据。这是一-个巨大的数据集，可能全面描绘了许多美国人的政治人格。

在2016年的康考迪亚峰会（Concordia Summit）上展示公司的研究成果时，剑桥分析公司的首席执行官亚历山大·尼克斯（AlexanderNix）似乎并不特别担心别人“反感”他的公司预测他们的政治人格。剑桥分析公司刚刚帮助特德·克鲁兹（Ted Cruz）从籍籍无名的总统候选人变成共和党党内初选的领先者。他介绍了他的公司如何做到“不依据种族、性别或社会经济背景来寻找目标人群，预测美国每一个成年人的人格”。“第二修正案是一项保险政策”这一信息可能会定向发送给高度神经质和谨小慎微的选民。传统、随和的选民可能会被告知“世代延续携带武器的权利非常重要”。他声称，他可以利用目标受众的“成百上千个个人数据点，来准确地理解哪些信息将吸引哪些受众”，并暗示特朗普的竞选团队正在采用他所介绍的方法。

第一部分 算在监个我数据做了什么？

①Qualtrics是一家私人经营管理公司，总部位于美国犹他州普罗沃和华盛顿州西雅图。

41

剑桥分析公司的起源囊括了现代阴谋论故事的所有要素。它涉及特德·克鲁兹，唐纳德·特朗普、数据安全、人格心理学、脸书、报酬过低的“机械土耳其人”、大数据、剑桥大学学者、右翼民粹主义者和剑桥分析公司董事史蒂夫·班农（Steve Bannon）)、右翼金融家和剑桥分析公司最大投资人之一罗伯特·默瑟（Robert Mercer)、美国前国家安全顾问和剑桥分析公司顾问迈克尔·弗林（MichaelFlynn）以及传闻提到的受俄罗斯资助的网络巨魔①。杰西·艾森伯格（Jesse Eisenberg）就像在一部精彩的电影中扮演心理学家一样，他逐渐揭开了他所供职的剑桥分析公司的真实动机：出于政治目的操纵我们每一种情感。

从这个意义上来说，这是一件让人不寒而栗的事情。但当我把注意力集中在这些预测投票结果的模型的细节时，我觉得其中缺失了一个重要元素：算法。我想自己弄明白尼克斯振振有词地声称的内容是否真的能够站得住脚。

算法告诉共和党，该去星巴克拉选票

我没有权限访问亚历克斯·科岗收集的数据（我将在下文中介绍这些数据后来发生了什么)，但迈克尔·科辛斯基和他的同事做了一个教程包允许心理学学生利用一个由两万名匿名脸书用户的数据构成的数据库来练习回归模型的创建。我下载了这个教程包并把它安装在我的电脑上。在这个数据集所涵盖的19742名美国脸书用户中，只有4744人表达了对民主党或共和党的偏爱，其中31%是共和党人。剑桥分析公司在2007—2012年收集数据期间，脸书上民主党人士的数量呈压倒性优势。我输入了50维的脸书数据以拟合一个回归模型，这个模型输出的结果是某个人身为共和党人士的概率。

被算法操控的生活

①网络巨魔指在网络上发表煽动性言论，以期搅动大众情绪和民意，从而达到自己目的的人。

42

在利用数据进行了模型拟合后，下一步就是测试模型的表现。测试一个回归模型准确性的好方法是随机挑选两个人：一位共和党人和一位民主党人，然后要求模型根据他们的脸书个人资料预测两人其中谁是共和党人。这是测试准确性的直接方法。想象一下，你遇到了这两个人，他们容许你询问他们的品味和爱好，之后你必须判断哪个人支持哪个政党，那么你觉得你每次都猜对的可能性有多大？

基于脸书数据创建的回归模型拥有很高的准确度。在九次测试中，回归模型有八次准确地判别出脸书用户的政治观点。可以判断一个人是民主党的主要点赞内容是奥巴马和米歇尔·奥巴马（Barack andMichelle Obama)、国家公共广播电台（National Public Radio)、TED演讲（TED Talks）、哈利·波特（Harry Potter）、网站“我太热爱科学了”(I Fucking Love Science)，以及类似《科尔伯特报道》(The ColbertReport）和《每日秀》(The Daily Show)这样的自由主义时事节目。共和党人则喜欢乔治·W.布什、《圣经》、乡村和西方音乐，以及露营。

民主党人喜欢奥巴马和《科尔伯特报道》，共和党人喜欢乔治·W.布什和《圣经》，这并不令人惊讶。于是我从模型中拿掉一些显而易见是民主党人标记的“赞”，然后做了一个新的回归模型，想测试一下它现在的准确性。令我惊讶的是，这个模型的表现与前面一个的差距并不大，准确率仍然达到了85%。现在，它使用了“赞”的组合来确定政治立场。例如，一个喜欢Lady Gaga、星巴克和乡村音乐的人更有可能是共和党人，但一个也喜欢艾丽西亚·凯斯（Alicia Keys）和哈利·波特的LadyGaga粉丝则更有可能是民主党人。使用大量“赞”所获得的多维理解产

第一部分 算在监视我数据做了什么？

43

生了意想不到的有用结果。

这种类型的信息对一个政党来说可能大有用处：民主党不应该把注意力集中在传统的自由媒体上，而应把精力集中在获取哈利·波特迷们的投票上；共和党人则可以把目标锁定在喝星巴克咖啡的人和去野营的人身上。至于LadyGaga的粉丝，双方都应该小心翼翼地对待。但基于脸书的回归模型的准确性似乎超越了传统方法，虽然它们很难进行直接比较。例如，在上文提到的对1987年英国大选的研究中，研究人员发现，一个认为通货膨胀率处于低位的65岁中产阶级男性选民，倾向于支持保守党而非工党的概率是79%。所以一个认为这些典型的工党支持者（Tories）会拥护保守党的模型，其出错率至少是21%。

到目前为止，对亚历山大·尼克斯和剑桥分析公司来说，一切都还算顺利。但在我们继续下一步之前，我们需要更仔细地审视回归模型的一些局限。

首先，所有的回归模型都有一个最根本的局限性。请记住，算法输出的不是非此即彼的结果。正如我们在图5.i中所看到的，它也不能完美地呈现数据。我们不能指望一个模型能百分之百准确地揭示你的政治观点。不管剑桥分析公司还是其他任何一个人，都不可能通过查看你的脸书数据，得出万无一失的结论。除非你碰巧就是巴拉克·奥巴马或特雷莎·梅（TheresaMay）本人。换言之，分析师能做的最多就是用回归模型，对你持有某一个特定观点的可能性给出一个概率。

虽然回归模型能够比较精准地对铁杆民主党人和共和党人做出判断—正如我之前所述，准确性大约是85%—然而关于这些选民的预测在政治竞选中用处并不是很大。已知的政党支持者，其选票或多或少是板上钉钉的，因此他们没有必要成为拉票的目标。事实上，在我的回归模型使用的数据中，有76%的人并未登记他们的政治偏向和党派忠诚度，但我用来拟合脸书数据的回归模型并未对此做出反应。虽然数据显示民主党人倾向于喜欢哈利·波特，但这并不一定意味看其他的哈利·波特迷们也喜欢民主党。这是所有统计分析所固有的问题，那就是潜在的因果混淆问题。

被算法操控的生活

44

第二个局限关乎做出预测所需的“赞”的数量。只有一个人已经点了超过50个“赞”的时候，回归模型才能产生效果，而要做出真正可靠的预测，“赞”的数量还需达到几百个。在脸书的数据集里，只有18%的用户在50多个网站上点“赞”。在收集了这些数据之后，脸书增加了用户点“赞”的网站数量，这样它就可以更好地发布定向广告。但仍然有很多人，包括我自己，不怎么在脸书上点赞。具体来说，我一共只在4个网页点了“赞”：我自己的“足球数学”网页、本地的一个自然保护区、我儿子的学校，以及欧盟的研究。不管回归模型如何神奇，只要没有数据，它就是一个摆设。

尼克斯想利用我们的政治人格锁定目标受众，这就是第三个局限性的核心所在：算法真的能够根据点赞情况精准地识别出神经质或富有同情心的人吗？我使用的数据集涵盖了一份五大人格测试结果，我用它来检验回归模型是否能够在随机选择的一对测试样本中确定哪个人更加神经质进行了检验，结果它根本无法完成这项任务。我从数据集随机挑选了两个人，查看他们在人格测试中的情绪神经质程度的评分。比较了它们与基于脸书点赞情况而制作的回归模型后，我发现只有在60%的情况下，人格测试和回归模型对测试对象给出了同样的结果。而如果我将分数设定为随机，只有在50%的情况下回归模型能够得到正确的结果，也就是说这个模型只比随机选择准确一些而已。

但是这个回归模型在对人们的开放性进行分类时表现得更好一些，准确性大约为三分之二。但当我对外倾性、尽责性和亲和性做同样的测试时，我得到了与神经质测试类似的结果：这个模型在10次中对了6次，而如果我们随机选择测试对象的话，10次中我们只会对5次。

也就是从这时候起，我开始与剑桥大学心理学家亚历克斯·科岗讨论我的研究结果。他最初曾帮助剑桥分析公司收集数据。起初科岗一直不愿和我交谈，因为他认为《卫报》和一些网络博客对剑桥分析公司的描述有失公允。但就在我告诉他我用脸书数据预测人格能够得到什么结果时，他终于开始畅所欲言了。

第一部分 算宜在时视个我数据做了什么？

45

科岗也得出了和我类似的结论。他不相信剑桥分析公司，或者其他任何人，能够编写出一种将人类人格进行有效分类的算法。他正在研究如何结合计算机模拟和从推特获取的数据，来证明尽管我们可以通过网上足迹对人格的某些方面做出判断，但这种数据还没有强大到可以对我们做出可靠的预测。说起亚历山大·尼克斯，科岗毫不客气地说：“尼克斯竭力推广人格算法，因为他有很强的经济动机去宣传剑桥分析公司拥有秘密武器。

虽然科学研究发现某一组特定的脸书点赞情况与人格测试的结果相关，但这和根据这一发现设计可靠算法、创建方程式准确预测你是哪种类型的人，存在很大区别。科学发现或许是正确而有趣的，但是除非这种关系非常强烈（在人格预测中往往并非如此)，否则它无法让我们对一个人的行为做出特别可靠的预测。

脸书很了解你，但它未必能预测你的行为

科研成果和算法的应用之间的界限日渐模糊，其中一个原因在于媒体对此类科研成果的大肆渲染。2015年1月，《连线》（Wired）杂志刊登了一篇名为“脸书如何比你的朋友更了解你”的文章，英国的《每日电讯》（The Telegraph）更加夸张，发布了“脸书比你的家人还更了解你”的头条。结果《纽约时报》（NewYork Times）用“脸书比任何人都更了解你”这个标题从一众媒体中脱颖而出，吸引到最多关注。

所有这些头条新闻都是对同一篇研究论文做出的报道。这项研究是由吴悠悠（WuYouyou）、迈克尔·科辛斯基和大卫·史迪威主导的。他们此前要解决的问题是脸书点赞情况对人格测试结果的预测能够准确到何种程度，但这次他们在科研中将基于点赞情况做出的回归模型与一份问卷调查结果进行比较。这份问卷列出的是有关脸书用户的10个问题，上面的内容由用户的同事、朋友、亲人及伴侣填写。研究结果显示，他们的统计模型与人格测试的相关性要比朋友和家人给出的10个答案更高，于是各大报纸试图在五花八门的头条里竭力渲染的科研发现就这样出来了。

被算法操控的生活OUTNUMBEREI

46

更好的相关性意味着更好的预测，但这是否意味着脸书比任何人都更了解你呢？当然不是。布赖恩·康奈利（BrianConnelly）是多伦多大学土嘉堡分校（University of Toronto, Scarborough）管理系副教授，从事工作场所人格的研究。我问他对这项研究的看法，他说：“迈克尔·科辛斯基的研究很有趣，也很鼓舞人心，但我认为媒体在报道这些研究发现时夸大其词了。而一个恰如其分的标题至少应该这样拟：初步调查结果表明，脸书对你们其中一些人的了解就如同你们的熟人一样（但脸书是否能预测你的行为还有待我们验证)。”一言以蔽之，布赖恩想说的是科学很有趣，但是目前尚没有证据证明脸书可以确定你的政治人格并利用这一成果发送定向广告。

剑桥分析公司的故事促使我深入阅读博客和隐私维权人士的网站。通过这些链接，我发现了一段YouTube视频。在视频中，一位工作于剑桥分析公司的年轻数据科学家正在讲解他实习时所做的一个研究项目，并以电影《她》（Her）引出后面的演示。在这部电影中，电脑对华金·菲尼克斯（Joaquin Phoenix）饰演的主角西奥多（Theodore）的人格形成了深刻的理解，于是男主角与他的操作系统（OS）谈起了恋爱，人类和操作系统双双坠入爱河。年轻的数据科学家用这个故事引出了五分钟演讲的主题：电脑能比我们自己更了解我们吗？

这位数据科学家认为可以，并且向我们一步步讲解他对在线活动和人格的研究：描述五大人格特征；概述如何用脸书的个人资料来取代调查；

第一部分 算在监视我数据做了什么？

47

解释他的回归模型如何揭示我们的责任心和情绪波动水平；阐述如何针对个人性格发送定向的政治信息。最后他宣称，“我的模型如果掌握了你脸书的点赞情况以及你的年龄和性别，就可以预测你和你的配偶到底有多般配。”他说，有一天，我们可能会爱上一台比我们的伴侣更了解我们的电脑。

我开始怀疑视频中的这位数据科学家是否真的相信他自己所说的话。我甚至都不确定他有没有指望过他的听众能够被他说服。他所谓的研究是一项为期8周、由ASI数据科学公司（ASIData Science）为志向远大的数据科学家提供的项目，所以他不太可能像自己所描述的那样实施了所有步骤。而开展和他一样的项目时，迈克尔·科辛斯基、大卫·史迪威和他们的众多同事是花费了数年时间才完成的。即使这个科学家所做的只是一个演讲练习，我也对这一幕深感不安。这是一个经历过最高水平科学训练的年轻人：剑桥大学的理论物理学博士。因此我很难相信他没有产生过和我一样的怀疑。我想问问他“你的研究基于哪些数据？”“你是否测试并验证了你的模型？”“通过点赞来识别神经质的人只比随机瞎蒙稍准一点，你怎么看待这个事实？”

看来是ASI公司的奖学金引诱他在演示研究项目时把这些疑虑统统抛在一边。这样做的结果是剑桥分析公司给他提供了工作机会，而他也欣然接受。

我不认识这个年轻人，但我认识很多像他这样的人。他们作为我的博士生、研究生或本科生接受我的训练并与我共事。当我观看这段视频时我产生了一种深深的挫败感。剑桥分析等公司在要求大学为他们培养这样一群野心勃勃的年轻人：既能做研究又能将研究成果以简单易懂的方式呈现出来的人。

我们生活在一个振奋人心的时代。在这个时代里，我们可以利用数据帮助我们做出更好的决策，并让人们了解对他们来说重要的问题。但伴随着这种能力而来的是仔细解释我们能做什么和不能做什么的责任。当我和同事们培训研究人员时，我们会让他们认识到他们所拥有的力量，但我们常常忘记提醒他们要明白自己所背负的责任。似乎我们已经把这项重要的工作交给了行业顾问，但他们正忙于指导数据科学家调整科研方向以实现最大的商业效果。

被算法操控的生活UAFRED

48

视频中的年轻人要么是无法认识到他所演示的方法有何局限性，从而被相关公司蒙骗了；要么就是他故意忽视这些限制，并试图蒙骗观众。一位严谨的科学家不会声称“我的算法就像你的伴侣一样了解你”，而会说“对于经常使用脸书的人而言，迈克尔·科辛斯基及其同事们所做的一项研究表明，这些人点的“赞”可以被用来预测人格特征的分数，但目前还不清楚这项发现对以人格为基础所进行的市场营销具有什么样的意义。”不幸的是，就像布赖恩·康奈利所拟的新闻标题那样，后面一种表态同样没有噱头可言，况且这也不是我们年轻科学家的未来雇主希望他在短短5分钟的方法演示中呈现的要点。严谨的科学无法成功销售政治咨询服务。

在特朗普就任总统几个月后，剑桥分析公司从他们的网页中删除了“五大人格模型”的信息。有可靠消息说，脸书曾告诉剑桥分析公司，在开始参与特朗普的竞选活动之前，要删除他们已经收集到的所有用户的“赞”的数据。剑桥分析公司声称他们已经按照脸书的要求行事，因此他们甚至不太会为特朗普的竞选锁定目标受众，而这却与亚历山大·尼克斯在康科迪亚峰会上所说的完全不同。自那以后，剑桥分析公司表示，它没有使用从亚历克斯·科岗那里得到的任何脸书数据为特朗普的竞选活动提供服务，也没有在竞选活动中广泛地使用人格定向广告。

2017年1月，纽约帕森设计学院（Parsons School of Design）副教授大卫·卡罗尔（DavidCarroll）向剑桥分析公司提交了数据保护申请。剑桥分析公司回复了卡罗尔，并展示了他们所掌握的有关他的个人信息，包括他的年龄、性别和居住地。剑桥分析公司有一个电子表格，显示了卡罗尔曾经在哪些选区投过票，其中一栏表明他曾经在民主党总统候选人初选中投过票。剑桥分析公司利用这些数据来评估他们所认为的卡罗尔对各种问题重要性的排序，比如环境、医疗保健和国家债务。他们的分析结果认为卡罗尔“很可能不是一个共和党人”，而且在选举中进行投票的倾向“非常高”。在极尽夸大其词之能事后，剑桥分析公司却使用了基于年龄和居住地的传统回归方法来预测大卫的投票。他们所采用的数据和方法与亚历山大·尼克斯之前吹嘘的人格定向政治广告相差十万八千里。

第一部分 算在监我据做了什么？

49