--- schema_version: "library-reader-v1" source_type: "original_book" title: "算法的陷阱：超级平台、算法垄断与场景欺骗" author: null edition: null publisher: null year: null isbn: "5782509031" library_document_id: "93dd68d8-deb3-4b6e-8e8f-10358bb7e85c" source_sha256: "72c054220dd02025832eeb59adabf3c3beb83f1437c1bf4bef822413f5d3aee1" pdf_physical_page_count: 428 pdf_physical_page_index_base: 0 range_start: 140 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/93dd68d8-deb3-4b6e-8e8f-10358bb7e85c?start=140&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/93dd68d8-deb3-4b6e-8e8f-10358bb7e85c.md?start=140&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/93dd68d8-deb3-4b6e-8e8f-10358bb7e85c.md?start=130&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/93dd68d8-deb3-4b6e-8e8f-10358bb7e85c.md?start=150&limit=10" --- # 算法的陷阱：超级平台、算法垄断与场景欺骗 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=140 | PRINTED_PAGE=NOT_DETECTED 除此以外，行为歧视还会引发对财富分配不公的担忧。诱饵产品的存在会令消费者将非合理定价的普通商品视为价格适中的高档货，或者诱使他们购买那些自己本不需要的商品。长此以往，这会不断掏空消费者的可支配收入，挤占原本用于退休养老和购买日常用品的支出份额。特别是对于收入水平较低的人群来说，这种负面影响会更加深刻，进而加剧了财富分配的不公。 于是，有人可能会从新古典主义经济学的立场出发，强调整体社会经济效应的有限性。如果再把利森和索贝尔提出的实施成本考虑在内，对价格歧视的赞颂就更引人质疑。毕竟，行为歧视的价码不低。把准顾客的消费需求，拉动消费，这可是一笔不小的投资，只消随便提几点：消费者追踪、收集用户行为数据、客户分组、识别需求弹性、降低市场透明度、抬高顾客搜寻成本、防止商品的转卖、限制反追踪技术、制作冗长乏味的隐私声明、遮遮掩掩的默认用户隐私设置、游说政府降低个人隐私保护，等等。可见，往往是那些盈利可观、资金充裕的企业才有机会拿到这场游戏的门票。因此，商家对此的投入应是出于理性的商业考量，并且确认有利可图。更何况，伴随销量的提升，往往是消费者承担起了这些开支，富有“牺牲精神”地为企业利润的丰收贡献了力量。所以，如果说行为歧视还存在积极的净社会经济效应，那么它的社会福利贡献必须是巨大的。当我们将消费者视角、整体社会福利视角与有限的社会福利改善糅合在一起来看待行为歧视时，我们看到了一个有毒的混合物。 不出意外，一定有人不认同这种观点。反对烟草广告禁令的专家声称，烟草广告不是香烟销量提升的始作俑者，消费者具备自己判断的能力（甚至这种决断力要远超于他们那家长式作风的市场监管者的想象）。如果消费者还能为自己拿主意，而行为歧视也无法得到有效的遏制，那么消费者在最理想的情况下应该选择接纳这种新的市场业态，并将行为歧视的结论妥善应用到自己的决策过程中。这样一来，从总体来讲，行为歧视还是可以给每个消费者个体与社会带来积极作用的。 ## PDF_PHYSICAL_PAGE_INDEX=141 | PRINTED_PAGE=NOT_DETECTED 社会的接纳 这场争论的最终目标是理顺什么才是我们的真实所需。有人会欢迎行为歧视吗？如果我们最终会比旁人付出更多金钱，那么还会有人接纳行为歧视吗？考虑到社会接纳度的问题，我们会举几个例子证明，对于行为歧视，人们并非一味排斥。 在我们中间，很多人的孩子正在就读大学或私立高中。每到学费缴费截止日，那种抓耳挠腮的无措感不言而喻。但我们也清楚，每位家长为孩子支付的学费有高有低。可即便如此，我们也没听说有哪位家长咆哮着冲进校长办公室抱怨这种价格歧视。相反，在这种情况下，价格歧视并不被视为有失公平。这是为何？在这里，我们有必要略过新古典主义经济学的利己假设，转投行为经济学的怀抱，透过公平与正义的棱镜看待价格歧视。 首先，如果价格歧视的首要目的是实现社会共同目标（而非利润最大化），那么它就有可取之处。在美国，很多精英学府的学费收入尚无法覆盖学校招收新一届本科生的边际成本。18 同样，如果只依靠学费收入，一些私立高中的日子也不好过，比如菲利普斯埃克赛特中学 （Phillips Exeter Academy）。等于说，每一位学生都享受到一个入校学习的折扣，而额外的费用则由校友捐赠和学校其他收入补足。当价格歧视可以实现更高层次的社会与道德目标时（好比机会均等、社会阶层流动），家长与学生自然会接纳这种行为。对于出身贫寒或是普通中产家庭的孩子，奖学金制度为他们在择校时提供了更广阔的选项，就连一些常青藤名校也不再是可望而不可即。在那里，他们可以开展丰富的社交活动，并且有机会得到收入更高的工作机会19 （令人遗憾的是，很多聪敏但贫困的学生并没有在择校时申请名校。如果这样做了，他们也许反而会负担更少的学费20 ）。 更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan ## PDF_PHYSICAL_PAGE_INDEX=142 | PRINTED_PAGE=NOT_DETECTED 其次，价格歧视还可能因为产品整体品质的提升而被人接纳。设想一下，如果没有奖学金制度，名牌大学与私立高中只能招收那些能够负担得起高昂学费的富家子弟，但人才的不足也掣肘了高校科研项目的发展（长此以往还会损害学校的声誉）。从这个角度来看，价格歧视的存在丰富了产品本身，也就是校园中的教学与学术环境。 最后，一个处在透明公正市场环境中的价格歧视更不易遭人诟病。许多大学都在其官网上提供针对学费的经济援助计算器，供家长和学生综合分析学费的净价。这样做的目的是，除了常规的荣誉奖学金与体育运动奖学金发放以外，学校要确保那些家庭收入状况相似，但没能获得奖学金的孩子也可以享受到金额相近的学费。 如果以上这些条件都不存在，学校仅是出于利润最大化的目的实施价格歧视，并将赚来的钱全部用于提高学校雇员和教授的薪资待遇，信任的纽带一定会被扯断，家长将群起而攻之。 逐利动机的引入改变了分析框架，也令人们开始将价格歧视视作不公平。尤其，当价格歧视开始为人所知，而消费者将自己视作市场操纵的受害者时，这种感受会更加强烈。 公正与平等的缺失 相比前面的内容，以逐利为目的的商家在实施价格歧视时可没那么高尚的动机。价格歧视与行为歧视既不会提高产品和服务的质量，也不会促成更宏伟的社会目标。相反，企业的初衷是攫取消费者的财富。 ## PDF_PHYSICAL_PAGE_INDEX=143 | PRINTED_PAGE=NOT_DETECTED 在这种情况下，价格歧视被想当然地看作一种导致社会公正沦丧的行为。在过去的30年里，行为经济学家抱着怀疑的态度不断审视一个假设：人是贪婪的，自私的，是追求利润最大化的。诚然，有些人确实如此。但是，心理学与实验经济学的数据显示，大多数人看重社会公平，并希望旁人与自己都能得到公平的待遇。21 有些经济学家在价格歧视这个问题上称得上是不可知论者，他们相信，在一些特定的情境中，价格歧视可以带来正面的社会福利效应。但一项针对普通人群的社会调研则得出了不同结论：其中91%的人认为，商家向更加渴望购买某件商品的消费者索取高价的做法是一种冒犯。22 价格歧视的间接后果是商家与消费者之间信任的丧失。据行为经济学实验揭示，消费者对实施价格歧视的商家的信任度较低，并且不愿在此消费。23 即使受访者相较旁人享受到了更实惠的价格，但他们中的很多人仍坚持认为企业的这种做法有失公允。他们既不情愿在此消费，也无意将其推荐给自己的友人。 24 在一系列的调查研究中，消费者往往将商家的价格歧视行为视作“道德上的污点”： ● 76%的受访者认同“如果知道旁人在购买同样的产品时支付了更少的金额，自己会感到恼怒”。 ● 64%的受访者认同“如果知道旁人得到了更划算的折扣，自己会感到恼怒”。 ● 66%的受访者不认同“我不在意自己常去的那家超市正在收集有关我消费习惯的数据”。 ● 87%的受访者不认同“我不在意自己常去的那家电商会在同一时段内针对同样的产品向不同消费者设定不同价格”。 ● 72%的受访者不认同“我不在意自己常去的那家商店因为更 更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan ## PDF_PHYSICAL_PAGE_INDEX=144 | PRINTED_PAGE=NOT_DETECTED 想把我发展为优质顾客而持续向我索取低价”。 25 调查还发现，原来大多数美国成年人都相信“线上商家在每天同一时段内的定价歧视行为”是违法的。26 然而事实却并非如此。 当触及社会公平与正义时，为什么价格歧视犯了众怒？为什么人们认为这种行为一定会触犯法条？其中一个原因是，人们将价格歧视视作赤裸裸的剥削，是对那些没有更多选择空间的人们的利用。实施价格歧视的企业并没有为消费者提供额外的服务，它们不过是在动用自己的市场力量。 当真实的歧视与行为歧视的边界变得模糊 有一种说法，算法摒除了人类偏见的干扰（至少由此生成的程序代码不会反映这种歧视），可以做到客观处理获取到的数据。与人类不同，定价算法不会基于人们的性别、肤色、国籍、年龄、身体状况、性取向和宗教信仰实施歧视。 第10章中曾提到，算法无法在可预见的未来实现准确估算每位消费者在不同情境下的保留价格。取而代之的是，我们被分入了一个个客户分组。如果你住在某个社区、正处在特定的年龄段、读过某所大学或是某个宗教的信徒，那么定价算法可能会将你归入某个特定的分组。换句话说，商家是在基于一个合理假设推断特定人群对待某件商品的消费倾向以及价格敏感度。 在这个过程中，有些人群会被利用。因为，在实现完美行为歧视的路上，计算机算法会根据消费者身上一些不可改变的特质对他们进行分组，好比一个人的肤色。美国白宫曾在一份报告中承认，大数据“可能会加剧针对被保护人群的歧视。当价格不再透明时，差别化定价将有助于实现对那些警惕心较弱的消费者的欺诈”。 27 美国联邦贸易委员会在2014年出具的一份报告中也提到，数据掮客已经在对消费者进行细分。28 “有些分组倒无大碍，”报告中称，“但另外一些分组则是基于人们的种族、收入水平、教育程度进行划分，这不得不令人感到不安。” 29 比如，个别分组中的成员可能生活在“整体收入水平较低的少数族裔社区”，于是这些分组得名为“城市中的艰难生存者”与“流动性强的多种族聚集区”。这里往往住着大批收入勉强糊口的拉美裔和非裔美国人。 30另外一些称得上敏感的分组则强调了消费者的年龄，好比“乡村里的长者”，针对的是乡村中年龄超过66岁的单身男女，他们通常教育水平不高并且过着捉襟见肘的生活；另外还有“已婚精英”，指的是30多岁、没有孩子的上层中产阶级夫妻。31 此外，数据掮客还会根据消费者的健康情况对他们进行分组，好比“即将迎来孩子降生的父母”“糖尿病高发人群”“讲究健康饮食的人们”。32 ## PDF_PHYSICAL_PAGE_INDEX=145 | PRINTED_PAGE=NOT_DETECTED 不论是在美国还是欧盟，商家无权根据一个人的种族、肤色、宗教信仰或者其他一些特定特征做出信用卡授信额度、保费高低或者雇用与否的决定。33 但是，在算法的帮衬下，企业可以绕过这些反歧视约束，实现对特定人群的分组。通过自动化的开发与改进分组的过程，算法将特定种族、婚姻状况、年龄、性取向和宗教信仰的人划分到了一起。 这种依靠算法完成的歧视行为正在发生。据2015年的一份社会调查显示，在亚裔聚集的社区里，《普林斯顿评论》的大学预备课程的线上辅导服务的售价是其他地区的1.8倍。 34 这项调查还发现，即便在收入水平较低的亚裔聚集区，课程的售价依旧显著高于其他地区。像是在纽约市皇后区的法拉盛，一个亚裔人口占地区人口70.5%的地方，虽然这里的家庭收入中位数较低——41,884美元/年，但这里的《普林斯顿评论》预备辅导课程的价格却最高。35 如果访客登陆了有关药物滥用的网站，这是否会影响到他日后在网上看到的广告内容？卡内基梅隆大学的一项研究给出了答案。36 谷歌的行为定向广告正在基于用户的网络浏览历史进行投放。37 同时，谷歌也向用户提供了一项帮助后者限制谷歌及第三方合作网站页面广告显示的工具。38 接下来，研究者将实验参与者分为两组，他们的计算机最初都有一样的谷歌广告设置。其中一组参与者会访问几家有关药物滥用的网站，而相应的控制组则什么也不做。此后，两组人马开始收集谷歌在一家新闻网站上自动推送的广告。 更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan ## PDF_PHYSICAL_PAGE_INDEX=146 | PRINTED_PAGE=NOT_DETECTED 虽然两组实验参与者的谷歌广告设置仍保持一致，但是曾浏览过药物滥用网站的参与者开始收到更多有关康复中心的广告。实验发现，谷歌用户的广告设置与其真实的广告推送结果出现了错配——“用户的浏览历史已被用于广告投放，但谷歌广告设置页面并未对此做出明确说明”。 39 另一个与之相关的实验则发现了性别歧视的征兆。在实验中，两组人分别在谷歌广告设置页面中勾选了不同性别。40 在仅有这一处不同的情况下，男性参与者与女性参与者同时访问各大求职网站。此时，根据性别的不同，广告投放也显示出了不同：男性参与者收到由谷歌投放的某家职业培训机构的广告（内容是承诺为其创造更高收入的工作机会）的频率要大大超过女性参与者。41 虽然实验观测到了这种歧视，但这该归咎于谁却无定论：谷歌还是广告主？还是他们之间错综复杂的关系引发了这种歧视？事实上，即便我们已经做出了判断，锁定了责任人，这种歧视也可能只是“算法在不断优化点击率分析与其他参数的过程中的无意识自发行为”。42 于是，市场透明度不足的问题开始引起人们的关注。在第一个实验中，参与者虽然有着相似的背景，却因为网站浏览历史的不同而接收到了不同的广告。但当他们查看自己的谷歌广告设置时，他们看不到任何有关药物滥用的信息（即便页面上有这些信息，他们也没办法对此做出修正）。由此，人们可以推演出更多。好比健康险企业可以基于人们的网站浏览历史、消费记录（包括作为礼品的香烟和酒水）或者人们在社交网站上公开的信息进行保费的歧视性定价。 ## PDF_PHYSICAL_PAGE_INDEX=147 | PRINTED_PAGE=NOT_DETECTED 假设你在谷歌浏览器上键入“CEO”这个字眼，接着选择照片图库。直到2016年初，有关“CEO”的照片图库仍是白人男性的天下。再来猜想一下又是哪位女性位列搜索结果榜首？既不是通用汽车的玛丽·巴拉（Mary Barra）、IBM的罗睿兰（Virginia Rometty），也不是百事可乐公司的英德拉·努伊（Indra K. Nooyi），答案竟是扮演CEO的芭比娃娃！2013年的一项研究发现了谷歌图片在展示部分职业人群时的性别歧视。研究比对了谷歌照片搜索结果与美国统计局掌握的女性就业比例的差别。这其中，有着明显数据差异的职业包括首席执行官（11%的谷歌图片显示为女性，而美国社会中的女性CEO占比为27%）、作家（25%的图片搜索结果，相比56%的女性作家比例）、电话推销员（64%的图片搜索结果与50%的实际就业比例）。 43 另一项研究仔细检查了拥有百年历史的黑人兄弟会Omega Psi Phi的网站。算法为这个网站自动推送的广告中包括低信用额度信用卡和暗示网络访客曾有逮捕记录的广告。44 现在还说不清的是，为什么一个黑人兄弟会网站会吸引这样的广告，又为什么是男性会收到鼓励他们涨薪的广告，而非女性。其中有一个可能，这是广告主明确要求的广告投放位置。又或者，这是广告算法的预测分析结果：针对特定受众，这些广告会收到更高的点击率。马里兰大学的法学教授弗兰克·帕斯奎尔（Frank Pasquale）就曾在自己的著作《黑箱社会》（The Black Box Society ）中对算法的这种隐秘性和市场透明度不足大加抨击。 45 令人担忧的是，我们甚至都不知道自己已经遭到了歧视。在旧式的竞争环境中，一个人可以明确地感受到歧视的存在，如有些餐厅在入口处摆出的“仅限白人顾客”的牌子。但在当下，作为行为定向广告的接收对象，用户却无法察觉这种微小但在统计上显著的变化。在卡内基梅隆大学的实验中，除了浏览历史以外，所有的假设条件都保持一致，但研究者仍能观察到这一处区别给用户带来的直接影响。回归到我们的日常生活中，太多混杂变量的存在与直观比较标准的缺失都会令人们难以察觉到这种影响。46 若是一位女性在浏览网页，她可能并不知道自己看到的广告会和她的男性同行不同，因为她才不会让对方事无巨细地报告这些事情。即便用户已经察觉到自己成为康复中心的目标客户，他们也说不清为什么自己会受到这种歧视。但事实上，这可能跟他们的网页浏览历史、杂志订阅、邮件内容、种族或者是其他事件都脱不开关系。由此可见，在追求完美行为歧视的路上，企业实施的客户分组和行为定向会酿成对消费者的实质性歧视。 更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan ## PDF_PHYSICAL_PAGE_INDEX=148 | PRINTED_PAGE=NOT_DETECTED 当前的执法工具箱 虽然人们相信线上卖家与实体零售商的价格歧视是违法行为，但法律却没有给出相同的答案。即使这种价格歧视真的触犯了法条，在监管当局看来这也不是它们的当务之急。 在美国，反抗商家价格歧视的“重型武器”——《鲁宾逊-帕特曼法》——甚至都不适用于我们所描述的场景，也就是针对终端客户的行为歧视。47 相反，这项法律侧重于禁止大型企业通过价格歧视的手段排挤同行业内的中小企业和经销商。48 就目前而言，根据美国律师协会的撰文，即便是从保护中小企业的立场出发，《鲁宾逊-帕特曼法》虽然还“活着”，却也“收效甚微”。 49 美国的公立机构当然可以根据该法向实施价格歧视的企业提起刑事诉讼，但这个历史也已有几十年的空白。不仅如此，美国的执法机构也极少通过民事诉讼的方式执行该法。在大多数情况下，往往是个人作为执行主体提起诉讼，但他们也多败下阵来。原来，美国高等法院早已为《鲁宾逊-帕特曼法》的适用范畴设置了条 ## PDF_PHYSICAL_PAGE_INDEX=149 | PRINTED_PAGE=NOT_DETECTED 条框框。 50 在美国联邦法律体系内，线上卖家与实体零售商“没有义务向消费者披露其定价结构；而在没有披露义务的情况下，零售商得以向不同的消费者施行差别定价”。51 在欧盟，打击价格歧视可以依托的法律基础是《欧洲联盟运作条约》（Treaty on the Functioning of the European Union，TFEU）第102（c）条款。该条款规定，企业滥用市场支配地位的表现包括“在与不同交易对手进行相同交易时，设定不同的交易条款，从而使后者处于竞争劣势”。这项条款剑指那些会令交易对手处于竞争劣势的价格歧视行为，而这种损害也常被看作“二线损害”（second line injury），因为上游企业之间的竞争还会波及下游企业。在丹麦邮政诉竞争委员会（Konkurrenceradet）案 52 中，法院澄清了一个事实，“占有市场支配地位的商业主体的定价政策……也许可以被称作‘价格歧视’……本身不能视作排他性滥用市场支配地位的行为”53 此外，其他法律条款可能会在更宽泛的基础上禁止歧视，例如基于种族、年龄的歧视等。英国竞争管理机构表示，“其他一系列立法也可以被应用在这一领域。例如，《2010年伦敦平等法》（Equality Act2010）就禁止（企业）在提供商品、服务或其他设施时基于消费者的“受保护特征”（如年龄、身体状况、性取向、生育情况、种族、宗教信仰等）对后者施行歧视。例如，通过数据分析从而基于涉及种族歧视的算法锁定目标群体。54 再翻翻工具箱，我们还能找到其他一些法律依据，包括：《不正当商业行为指令》（EU Unfair Commercial PracticesDirective） 55 和《欧盟数据保护指令》（EU Data ProtectionDirective）。 56 本章回顾 更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/93dd68d8-deb3-4b6e-8e8f-10358bb7e85c.md?start=150&limit=10)