--- schema_version: "library-reader-v1" source_type: "original_book" title: "被算法操控的生活：重新定义精准广告、大数据和AI" author: null edition: null publisher: null year: null isbn: "9787571003012" library_document_id: "094ce2a7-d7e6-4de6-a84c-9994a96a3c4a" source_sha256: "f73745c23a4ed31f8601d9aadc814b093307fc01ae8680d379c67000605e8d36" pdf_physical_page_count: 257 pdf_physical_page_index_base: 0 range_start: 150 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/094ce2a7-d7e6-4de6-a84c-9994a96a3c4a?start=150&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/094ce2a7-d7e6-4de6-a84c-9994a96a3c4a.md?start=150&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/094ce2a7-d7e6-4de6-a84c-9994a96a3c4a.md?start=140&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/094ce2a7-d7e6-4de6-a84c-9994a96a3c4a.md?start=160&limit=10" --- # 被算法操控的生活：重新定义精准广告、大数据和AI > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=150 | PRINTED_PAGE=130 过滤算法描述起来寥寥几句，可能不够透彻，但我们可以通过数学来理解它的原理。脸书根据以下等式来决定一个最近分享的报纸文章在你动态消息上出现的可能性： 你见到该文章的可能性=你对该报纸的兴趣×你和分享该文章的朋友的亲密度 当你和朋友交流你分享的帖子时，你同时提高了这个等式中的两个量：你对《每日电讯报》的兴趣增加了，这导致脸书增加了你和这位朋友间的亲密度。因此，我们可以认为见到某篇文章的可能性是随参与度的平方变化的。在上面的那个等式中，你对一份报纸的兴趣体现的就是你与这份报纸间的参与度；你与分享该文章的朋友的亲密度体现的就是你们之间的参与度。如此一来，《每白电讯报》以后的文章在你页面的曝光度就会增加，而增加的曝光度使你将来更有可能点击这些链接，从而进一步提高脸书算法对《每日电讯报》做出的排序，给它带来更多的曝光。 下一步是设计一个数学模型，使其既能体现出算法的行为，又能体现出用户与算法的交互情况。我现在把它称为“过滤器”模型。就像我的“大家也喜欢”的亚马逊模型一样，“过滤器”模型简化了脸书算法的实际操作。脸书过滤我们的消息流、推特过滤我们的时间轴、谷歌过滤我们的搜索结果，而这些行为的最核心特点都被我的“过滤器”模型抓住了：我们越点击某事或某人，这些网站就越经常将相关内容推送给我们，而我们也越有可能继续点击他们。 被算法操控的生活OUTNUMBERED 130 ## PDF_PHYSICAL_PAGE_INDEX=151 | PRINTED_PAGE=131 “过滤器”模型需要大量的互动才能工作。在每次互动中，用户会看到来自两个信息源的帖子。沿袭我之前的例子，我们把这两个信息源叫作《卫报》和《每日电讯报》。假设这两份报纸推送给你的可能性是由上面提到的等式决定的，并且用户是根据一份报纸的可见性来点击它的，我们就可以模拟出这两家报纸在你屏幕上的相对可见度随时间变化的曲线。 图11.2显示了算法把《卫报》和《每日电讯报》文章曝光给5个不同模拟用户的可能性的变化情况，这两份报纸对所有用户的初始可见性均为50%。在与脸书进行了200次互动之后，《卫报》出现在两名模拟 图11.2五个不同的“无偏见”用户在“过滤器”模型中的模拟情况。在每一轮的模拟中，用户需要选择是与《卫报》的帖子还是《每日电讯报》的帖子互动。如果他们选择了《卫报》，那么《卫报》的文章在用户屏幕上出现的可能性就会增加，下一轮实验中他们再次选择《卫报》的可能性也会增加。这一反馈效应将最终使一份报纸相对另一份报纸出现在用户页面上的可能性增加 第二部分 算想控制我我们的情绪和行为吗？ 131 ## PDF_PHYSICAL_PAGE_INDEX=152 | PRINTED_PAGE=132 用户脸书页面上的可能性很高；同样，在另外两名模拟用户的脸书页面上，《每日电讯报》也有很高的曝光率，而在最后一位模拟用户的脸书上，《每日电讯报》的曝光率略高一些。模拟更多的用户之后都会产生类似的结果，经过200轮过滤后，大多数用户被推送的帖子将会来自这两份报纸中的一份。 需要注意的是，最初这些模拟用户对哪份报纸都没有偏好。每一次的点击选择改变了报纸被推送给用户的可能性，并由此形成了用户的偏好。用户已做出的选择和被推送帖子间的这种反馈，决定了他们最终被更多地展示哪份报纸。 正如亚当·莫塞利所说，刚开始玩脸书时，你是白纸一张。但一旦你在这张白纸上写下第一条消息，互动程度与相关内容被继续推送的可能性之间就开始产生反馈效应了。由于被推送的可能性与交互程度的平方成正比，这张白纸很快将被你第一次碰巧表现出兴趣的报纸所填满。“过滤器”算法由此创造了一个气泡，即便是一开始没有偏见的人也无法幸免。 而对本来就有政治倾向、首次使用脸书的那些人来说，这种影响更为突出。“过滤器”算法会捕捉到微小的初始偏好，并将它们放大，直到与其对立的一方完全销声匿迹。用户被禁锢在自我验证的观点和与一小群朋友的互动中。 当然，脸书用来决定向你推送动态消息的算法要比我的“过滤器模型更复杂一些。脸书称，它的算法利用10万多个个性化因素来决定向你推送什么内容（这意味着它已经对你的“赞”做了主成分分析）。因此，虽然我的模型显示脸书可能会制造过滤气泡，但不能证明所有的用户都会被困在气泡中。我需要弄明白简化版的气泡模型能在多大程度上反映现实情况。 被算法操控的生活O TNUMBFRED 132 ## PDF_PHYSICAL_PAGE_INDEX=153 | PRINTED_PAGE=133 为什么阴谋论者比科学家更淡定？ 数学家米凯拉·德尔·维卡里奥（Michela Del Vicario）是意大利卢卡市计算社会科学实验室一个研究小组的成员，她正在检验脸书算法是否如脸书所说的那么神奇。研究人员选定了来自意大利的34个分享科学进展的脸书主页和另外39个分享阴谋论的主页。他们研究了脸书用户如何分享、点赞和评论这些页面上的帖子。诸多证据表明，这两个群体的行为存在严重的反差。在科学帖子上点“赞”并将其转发出去的人很少在阴谋论帖子上点“赞”并将其分享给别人，反之亦然。同时还有证据表明，每个群体内部都有一个“回声室”。大多数阴谋论主要被散布在那些已经给阴谋论的帖子点“赞”和分享它们的人之间，但对整个意大利的影响很小。 当我和米凯拉交谈时，她给我描述了一个恶性循环：“一个人分享的阴谋论文章越多，他们就越有可能分享更多这样的内容，并且更有可能与其他对阴谋论感兴趣的人交流。”这也正是我在“过滤器”模型中描述的现象：阴谋论的转发和这类帖子的曝光度及分享频率的提高之间存在相互反馈的关系。 令人沮丧的是，同样的事情也发生在科学迷身上。一小群意大利科学怪才在彼此之间分享着最近的科学新闻，而普通公众却很少或根本不关注这些新闻。 米凯拉和她的同事也分别分析了阴谋论帖子和科学类帖子的用词。她告诉我：“只有小部分非常活跃的用户在发帖时会使用很正面的词汇。一般情况是用户的活跃度越高，他们使用的负面词汇就越多。” 尽管科学家和阴谋论者都是发帖越多越倾向于使用较为负面的词汇但这种规律在科学家中间更明显。科学家们使用的正面词汇比阴谋论者少，同时他们在脸书上的活跃程度越高，其使用的负面词汇也越多。成为回声室”的忠实一员并不能引领你踏上幸福之路。 第二部分 算法想控制我们我们的情绪和行为吗？ 133 ## PDF_PHYSICAL_PAGE_INDEX=154 | PRINTED_PAGE=134 阴谋论者不仅没有科学家那样爱吐槽，他们分享的帖子也比科学家们分享的科学新闻贴更受欢迎。这尤其令人担忧，因为许多阴谋论都是有关科学的。一个经久不衰的谣言是，疫苗和自闭症之间存在关联。尽管大量严格的科学研究表明两者之间没有联系，但这些谣言仍然在传播、扩散。另一个持续流传的著名阴谋论是所谓的“化学尾迹阴谋论”：政府正在用飞机向云中散播有毒化学物质和传染病。 看着介绍“化学尾迹阴谋论”的视频，我真的很惊讶—很大程度上并不是因为这些视频的内容，而是因为我自己对它们的反应。一个安静的晚上，我下班后独自坐在家里，看着屏幕上的视频，我能感觉到自己慢慢地开始相信我正在看的东西。这段视频在 YouTube上被观看了580 842次。它展示了加州的一次会议，并且把飞行员、医生、工程师和科学家的证词剪辑在了一块。事件场景是地方政府的一场听证会，会议房间里挤满了人，让人感觉正在进行一场重要的调查。头发灰白的男性们走近摄像头，纵论“纳米颗粒无孔不入的特性”“空气污染度的提高”和“昆虫种类的急剧下降”。他们谈及老年痴呆症、自闭症、多动症、生态系统的崩溃和河流的污染。他们所说的一些关于水质和环境问题的内容确实有一点科学道理，我觉得自己开始不由自主地认同他们。这条视频从一个发言者迅速地切换到下一个发言者，镜头还不时地转换到挥舞着双手以示支持的观众。我想问一些问题，但是视频内容切换太快，快得我都来不及听清每个人陈述的内容，我也无法明确指出哪里不对劲。 这就是一部精心制作的科学阴谋论视频的效果。事实和谎言在这个视频中交织在一起，我试图从这堆杂乱的观点中理出头绪却感觉无从下手。我从一个视频跳到下一个视频，最后花了三个小时浏览了这些每个都被观看了数十万次甚至上百万次的视频。我看到一部由“地理工程观察”（GeoengineeringWatch）组织（一个反化学尾迹组织）的成员所做的视频，他在里面严肃地介绍了化学尾迹背后“快速发展的科学”。我还看到普林斯（Prince）①的一段视频，他讲述了化疗和暴力之间的关联是如何激发他的歌曲创作灵感的。在另外一个视频中，一位身为母亲的当事人在平静地解释着重金属和人类健康之间的关系。最后一个视频是一些退休政府官员和一名妇女的自白。据说这名妇女由于勇敢地揭露了政府毒害我们的真相，结果政府将她的孩子一个一个夺走了。看完最后一个视频，我关上笔记本电脑，坐在黑暗里，几分钟之后我的头脑清醒了，我的科学大脑开始运转。 被算法操控的生活OUTNUMBERED 134 ## PDF_PHYSICAL_PAGE_INDEX=155 | PRINTED_PAGE=135 我不认为我有被卷入阴谋论气泡的危险，但观看这些视频可以让我更好地了解那些会有危险的人。我接着浏览了哈佛大学地理工程学教授大卫·凯斯（DavidKeith）的网页，上面罗列了严肃的证据，详细地解释了为什么化学凝结尾阴谋论完全是无稽之谈。我还看了一段由加州大学地球系统科学教授史蒂夫·J.戴维斯（Steve J. Davis）录制的视频摘要。他针对一个类似化学尾迹阴谋出现的可能性，对77名科学家进行了调研。除了一个人之外，所有这些专家都说，这个阴谋论提供的所谓的证据其实可以用其他易于理解的原因来解释。 但是史蒂夫的视频只被观看了1720次，我知道为什么。没错，他的视频实事求是，但缺乏故事性。在视频中，他闲散地坐在办公室里，用一种中立的语调谈论同行意见的重要性。如果没有像“地理工程观察”这类组织的安排，他不认为自己需要宣传这一观点。我能理解他为什么以这样的方式呈现他的研究工作，但通过把他的视频和我之前看过的视频进行比较，我也能明白为什么科学气泡比阴谋论的气泡要小阴谋论的吸引力远胜科学。 在阴谋论的“回声室”里，观点不被挑战，同一群人继续分享同样的内容。温彻斯特大学讲师、博客《阴谋论心理学》(The Psychology ofConspiracy Theories）的作者迈克·伍德（Mike Wood）告诉我，在已经形成的社群中，阴谋论视频往往会隐藏甚至删除含有反对意见的评论。许多YouTube上的阴谋论频道都关闭了评论功能，有些则宣称，那些与他们观点相左的评论者，本身就是阴谋的一部分。按照阴谋论者的说法，你反对阴谋论就说明这个阴谋确有其事。 第二部分 算法能控制我我们的情绪和行为吗？ ①普林斯·罗杰斯·纳尔逊是美国歌手、音乐家。 135 ## PDF_PHYSICAL_PAGE_INDEX=156 | PRINTED_PAGE=136 迈克喜欢在互联网上讨论阴谋论。他的博客上有一个很大的评论区专供大家发表评论。不管这些评论里的问题多么愚蠢或无知，迈克都会认真地回答。尽管迈克总是耐心解答，但这个评论区有时会沦为阴谋论者和反阴谋论启蒙者之间相互辱骂的平台。有关预示性阴谋论①的评论区早已经被两名对话者相互攻击的内容填满，比如“睁着眼说瞎话”，“你居然相信这种扯淡”，“你世界观颠倒错乱，怕是得了妄想症”，甚至包括“你满嘴喷粪，说的都是屁话”这类信息。从此以后，迈克不再发布任何评论。 据米凯拉·德尔·维卡里奥称，激烈的辩论只会助长阴谋论者的气焰。她发现，阴谋论者看到的评论越负面，他们就越有可能继续对这些内容进行分享、评价和反驳。来自外部的激烈反对声只会让他们的气泡更加坚固。 米凯拉和迈克的研究得出了一个共同的结论，为赢得阴谋论反击战提供了一线希望。一旦阴谋论开始往外传播，它们就会遇到更广泛的阻力，这种阻力既来自对科学感兴趣的人也来自普罗大众。在那些观看次数最多的化学凝结尾视频下方的评论中出现了一些简要的科学解释（“这是飞机在放油的视频”）、说明为什么这种阴谋论难以令人信服的理性驳斥（“如果政府真的在毒害你，明明他们可以用你看不见的化学物质来下毒，为什么非要用不透明的汽油”)，也包括了狂热支持者惯用的辱骂语言（“我希望你们这群人不能投票/断子绝孙；蠢货！你们就是一帮白痴”)。 这些评论确保那些在阴谋论气泡之外的公众，可以一眼看出某个脸书帖子或YouTube视频其实充满争议。迈克告诉我：“如果只有一个人持不同意见，这个人的评论经常要么会被忽视，要么最终在和另外一个人进行了来回50次的争论拉锯战后被弃之不顾。但是如果视频获得了外界的一些关注，那么这些展现不同意见的评论就会开始被局外人点“赞”。我自己对阴谋论视频的有限调查印证了他们的研究结果。现在我已经连续四个晚上强迫自己对这些视频进行观察，甚至开始“顶”异见者，“踩”支持者。不过，我接受了米凯拉的建议，拒绝让自己留下嘲讽性的评论。 被算法操控的生活 ①预示性阴谋论指大众传媒中就隐藏有事件的线索，比如阴谋论者宣称“9·11事件”前很久的电影电视里就隐藏有将会在2001年9月11日发生恐怖袭击的线索。 136 ## PDF_PHYSICAL_PAGE_INDEX=157 | PRINTED_PAGE=137 大多数阴谋论都被局限在自己的气泡里，相互支持并强化彼此的观点。如果这个气泡过于膨胀，非阴谋论者就可以戳破它。回声室效应越大，给反对声音提供的空间也越大。 其实，负面信息几乎不会影响你的情绪 有权限获取足够多脸书数据以深度剖析大规模政治辩论的人，只可能是为脸书工作的科学家。拉达·阿达米克在政治博客圈发表了自己的论文后成为计算社会科学（Computational Social Science）领域的领军人物。她曾在密歇根大学担任计算机科学教授，发表过一些极有影响力的计算社会科学论文。2013年她从学校请假到脸书工作一段时间，最终成为脸书的一名数据科学家。 脸书的工作让拉达得以测试与主流政治相关的过滤气泡假说。拉达与另外两名脸书科学家一起研究了脸书上拥有相同政治观点的好友之间的关联。脸书上的好友网络并不像2004年时的政治博客那样，在政治倾向上呈现泾渭分明的特点：现在，自由主义者的好友中有20%是保守主义者，18%是温和主义者，62%是自由主义者。因此，尽管自由主义者和保守主义者都倾向于和志趣相投的人交友，但他们都接触了不少和他们观点相异的人。 接着，脸书的研究人员分析了自由主义者和保守主义者的好友所分享的新闻内容。保守主义者的好友分享了大约34%的自由主义新闻，而脸书上大家分享的自由主义新闻的整体占比为40%。如果我们将这两者进行对比，可以看出保守主义者的好友们对自由主义新闻的偏见很小。在脸书上，好友之间缔造的是带有些许杂音的共识，而非一个充满回响的回声室。自由主义者的好友们更倾向分享反映自由主义观点的新闻，他们分享的保守主义内容仅占23%，而脸书上这类内容被用户分享的比例平均为45%。不过，这一回声虽然清晰可辨，但远远还未淹没一切。 第二部分 算法想控制我们们的情绪和行为吗？ 137 ## PDF_PHYSICAL_PAGE_INDEX=158 | PRINTED_PAGE=138 我们大多数人都知道脸书好友的复杂性和他们分享内容的多样化。那里有很多我们读书时期的同学，但那时我们和其中的许多人并不是真正的朋友。此外，我们有通过工作认识的好友，也有在度假、学习和生活过的地方认识的好友。我去过的地方可能比一般脸书用户多一些，而且我现在就生活在国外，但我在许多方面仍是一个相当典型的英国人。脸书用户平均拥有200位好友，我有191位。他们拥有不同的背景，虽然他们通常更倾向于左派自由主义，但他们的政治观点相当多元。 我们知道，脸书并没有平等地对待我们的好友。推送文章的可见度/亲密度公式（见第10章）意味着那些与我互动次数最多的朋友会被显示在我的时间轴上。我和一些老同学交流不多，脸书的算法知道这一点，于是不在我的时间轴上显示他们。拉达和脸书的其他研究人员想要弄清楚这种过滤如何影响我们看到的政治观点。如果这种“过滤”模型适用于政治新闻分享，那么我们可以预计，脸书动态消息里包含的对立观点将比好友分享的文章所包含的对立观点更少。 他们的研究结果非常明确：过滤的效果可以忽略不计。自由主义者和保守主义者经由过滤器过滤后看到的对立观点，只比脸书在他们动态消息流上随机推送帖子时看到的少一点。在我们的动态消息流上，我们更愿意看到来自亲密好友的文章，但他们阐述的政治观点并不比我们整个朋友圈所表达得更极端。我们在脸书上看到的大部分内容都不符合我们自己的观点。此外，美国的保守主义者是一个经常被指责为思想封闭的群体，不过与自由主义者相比，他们接触到的对立观点还是会稍多一点。 被算法操控的生活OUTNUMBERED 138 ## PDF_PHYSICAL_PAGE_INDEX=159 | PRINTED_PAGE=139 这个过滤气泡实验的论文被发表在了顶级科学杂志《科学》(Science)上。它是脸书在2010—2015年间认真对待科学的一个例子。脸书聘请了顶尖研究人员来找出其产品所带来的影响，而这些研究者在此基础上想得更深、更远。 在2010年国会选举前夕，6000万美国脸书用户在他们的动态消息顶端收到了一条旨在帮助他们找到投票站的信息，它还提供了一个表明用户已完成投票的按钮。另外，这条消息显示了用户的那些已经点击“我已投票”按钮的朋友们的照片。 加州大学教授詹姆斯·福勒（James Fowler）决定评估这条信息的影响。于是他与脸书达成合作，接着与同事创建了一个规模较小（大约包括60万人）的用户群，并给他们看同一条信息，但不显示已投票朋友的头像。詹姆斯·福勒等人假设，信息的社会性将对用户产生影响。通过显示那些已投票朋友的头像，并为我们提供了一个告诉这些朋友我们与他们做了同一件事的机会，脸书的那条置顶信息在鼓励我们出门投票。 这个假设是对的。看到非社交性信息的用户比看到朋友已投票的用户稍稍更不愿意投票。尽管投票与不投票的概率差异仅为0.34%，但即便是投票行为的微小变化，也会对投票的人数产生巨大影响。通过匹配脸书用户和选民登记册，詹姆斯和他的同事们估计，他们创造了至少6万因为直接看到这条信息而投票的新选民。此外，由于这条信息在社会上广泛传播，詹姆斯和他的同事们还创造了另外28万因此前去投票的新选民。一个小小的助推举动大大地改变了参与民主选举的人数。 这项政治研究表明，脸书的信息可能会对我们的日常生活产生影响。脸书的数据科学家亚当·克雷默（AdamKramer）和两位康奈尔大学的研究人员在此基础上进一步开展了一项共同研究，以观察信息对情感的总体影响。他们的课题是，带有积极情绪的帖子被移除后，用户的后续发帖行为会受到何种影响。为此，克雷默等人进行了一次全面的实验，从大约11.5万名用户的动态消息中删除了10%至90%的带有积极情绪的帖子，如此一来用户将看到比平常更多的带有负面情绪的帖子。研究人员在这些用户的动态消息中暂时删除一些记录快乐时光的帖子，如与家人玩乐或逗弄宠物的帖子。然后，研究人员将这些用户的发帖行为与一个正常接收动态消息的对照组进行比较。亚当·克雷默及其合作者的论文一经发表，科学家群体就表达了他们的担忧，广大媒体也对这个实验所涉及的伦理问题提出了强烈抗议。他们之所以反对这个实验，是因为脸书在未经用户同意的情况下操纵用户的消息流并“欺骗”了他们。根据某些监管准则，人们可以认为这种手段不道德。但是，媒体和网络上的讨论并没那么在乎这个实验究竟破坏了哪项伦理道德，他们更关心的是脸书操纵了我们。 第二部分 算想控制我们我们的情绪和行为吗？ 139 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/094ce2a7-d7e6-4de6-a84c-9994a96a3c4a.md?start=160&limit=10)