算法的陷阱：超级平台、算法垄断与场景欺骗

首先，我们留意到了人机交互界面的更替。如果我们的虚拟助手彬彬有礼、分寸得当，甚至还有些许幽默感，这岂不是一个惹人亲近的家伙？渐渐地，我们开始习惯它的存在，并放手让它替我们做出决定。现在，我们好像信赖自己经常使用的搜索引擎。我们放心让脸书给我们推送各类资讯，让亚马逊列出书单，让Siri代为拨打电话、传送简讯以及推荐一家口味、环境俱佳的中餐厅。所以，当有一个热切的（还不收取费用的）私人管家在侧，我们不免会对其产生依赖。起先，我们之间的互动还算温和——查询天气、拨打电话、任务提醒这类琐事。接下来，随着虚拟助手执行的任务越多，我们对其的依赖就会变得越重。在竞争市场中，这种信任也意味着我们情愿被“套牢”——自愿放弃独立考察外部选择的机会。

其次，与虚拟助手的互动越多，我们就越变得疏于使用搜索引擎、比价网站或者翻看旁人给出的产品评价和其他获取资讯的工具。语音激活与沟通的便捷性限制了我们接触外部选择的机会。

现如今，如果一款应用程序作为系统默认设置被预载在手机上，它能与其他应用配合默契地为用户服务，那么极少有用户会去另行下载与之存在市场竞争关系的其他软件产品。欧盟竞争专员玛格丽特·维斯塔格（Margrethe Vestager）曾发出警告，“如果谷歌的各类应用程序已作为手机的出厂设置而存在于我们的手机系统上，那么鲜有人会花时间去寻找这些应用程序的替代品，这令谷歌的竞争对手在获得客户的前沿阵地就失去了先机”。 ⁸ 和大多数人一样，我们习惯于使用手机的默认设置。由此想来，当我们的虚拟助手也成为一项默认设置，该超级平台提供的其他功能和产品岂不也“有福同享”？想象一下，当我们在自己的乡村别墅里品着威士忌时，如果我们一时兴起想造访住在附近的朋友，那么我们所要做的不过就是请虚拟助手估算驱车到对方家中的时间，并传送一则短信。如此一来，我们何须掏出安卓手机，使用MapQuest查询路径和耗时，需要自己一字一句键入传给对方。

如果用户开始不再直接参与搜索与（一部分）决策过程，那么就意味着权力之棒被间接交给了超级平台。虚拟助手可能会在向用户推荐产品和解决方案时自行发挥。

未来世界与传统竞合场景的第三条关键性差异在于，基于海量个人数据的获取与分析，虚拟助手已在与用户的互动过程中成长为一个可靠的私人管家，这也在无形之中抬高了用户的转换成本。在提到谷歌语音助手Assistant时，谷歌CEO将其未来描绘为“用户自己的专属谷歌”。 9考虑到数据规模、校验场景、机器学习技术以及对关键技术（如地图技术）的控制，超级平台所能为用户提供的个性化体验是其他中小型企业所无法媲美的。一旦我们选定了一款虚拟助手，需要从零开始训练它。长此以往，我们恐怕宁愿忍受它的错误，也不愿另起炉灶，另换一种软件。

作为虚拟助手的真正雇主，超级平台所能攫取到的用户数据极为可观。正如前述，超级平台已经投入了巨大的人力、财力、物力用于追踪用户行为数据，并以此充实自己的用户个人信息数据仓库。现如今，通过为用户提供一款虚拟助手软件，超级平台可以获得更多维的用户数据。正如这款应用的开发商所反复强调的，他们希望智能助手能够陪伴我们进行决策，鼓励用户与其进行日常互动，从闲谈到购物，话题无所不包。作为这项技术发展的成果，有关用户需求与生活习惯的数据，将被囊括进超级平台的用户数据库——进而为大数据分析工作效力。

随着超级平台实力的增强，破坏市场竞争秩序的风险等级也再度提高。事实上，虚拟助手还会放大前述三类反竞争场景给消费者带来的伤害。

首先，设想一下行为歧视场景。收集到了更多用户数据的虚拟助手将会更好地对用户的消费能力和偏好做出分析研判。它的目标是将适合我们的产品和服务以适当的价位呈现在我们面前。如此一来，个性化产品与行为歧视的边界将越发模糊。当我们开始逐渐依赖于虚拟助手为我们提供建议，它的确能够较好地完成任务——如为用户列出采购清单，并事先与零售商约定好产品价格。在为我们的孩子提供西班牙语家教这件事上，虚拟助手也可以出力。它也许会向我们推荐一款好评度颇高的学习软件又或者是一位卓有教学经验的西班牙语老师。由于这种个性化辅导是为我们的孩子量身打造的，所以我们无法判断这笔辅导费用究竟是市场公允价格还是恰好契合了我们的支付能力。特别是如果现有数据显示，虚拟助手为我们提供的语言辅导服务的确曾显著提高了其他孩子的西班牙语成绩，并且这些孩子的求学志愿也同为常春藤学府时，那么即便我们起先没有意识到为孩子寻找西班牙语家教的必要，虚拟助手也有方法激发这笔消费。

更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan

其次，再看由算法驱动的共谋场景。当虚拟助手充当起了用户日常生活消费的协调组织者时，它俨然就是中心辐射式共谋的枢纽中心，令所有零售商分支上行下效。更何况，如果说虚拟助手可以从促成的每一单交易中抽取佣金，那么高价产品与服务势必意味着更高的佣金回报。从此以后，随着虚拟助手逐渐融入我们的日常生活，用户再难绕过它的存在而主动去发现一款低价商品。即便我们在别处查到了更低价格的产品，但我们那贴心的私人管家却总能在关键时刻用意料之外的折扣码来为我们制造惊喜——但这样做实则是为了惩戒那些自行采取降价销售策略的零售商，令后者再不敢轻易背叛这个定价团体。

最后，让我们设想一下虚拟助手又将如何放大竞合场景的既有危害。虽然人们会怀着开放的心态欢迎这种个性化体验，并逐渐与之建立起亲密关系，但它的“心”和根基却始终在其真正的主人那里。在人们纷纷借助超级平台旗下的虚拟助手开展日常采购时，市场上的卖家也会向超级平台的销售平台聚拢。然而如果他们有一天背叛了超级平台，自己也要做好吞下苦果的准备。一旦丧失了访问用户个人信息数据的接口，独立零售商将失去开展精准营销的武器。由于我们在线上所能看到的广告皆是由超级平台进行编排，零售商将再难贴近客户。即便他们有办法接触到客户，但是由于缺乏客户的个人信息数据（好比客户喜好的穿衣风格和颜色喜好），营销的成效也会大打折扣。更别提虚拟助手还可能在背后横插一刀——它也许会突然向用户推荐起超级平台生态系统里的别家同类商铺。在多边市场，虚拟助手打着“个性化”的名义，明晃晃地为自家生态系统里的产品摇旗呐喊，然后又不露声色地驱赶走了竞争对手。

控制传媒与用户心理

一旦我们对虚拟助手形成了依赖，它将有机会了解到用户的社会阶层、政治观点、日常行为以及对种种事物的成见与看法。接下来，它的工作范畴会大大拓展——为用户推荐周末休闲娱乐活动、品评音乐和书籍、对某件热门事件发表见解、提醒我们为朋友准备礼物并筹划待选清单、从智能传感设备上读取数据、告知用户他们的生理体征……总而言之，在未来世界里，虚拟助手将完全融入我们的生活。总有一天，我们将发现，我们已经离不开它。

诚然，我们对免费的服务心怀感激，但是我们无法准确知晓所要为其付出的代价。虚拟助手对我们的发问可能会给出种种答案，推荐或否定某件商品的理由必然是出于对我们喜好或心理价位的了解。对此，我们实难判断——它的种种行为是出于帮助我们的目的，还是仅仅在操纵我们的日常行为。有这么几种可能：它已经悄无声息地为用户筑起高墙，令后者无缘接触到超级平台生态系统外的广阔选择；又或者，它会暗中监视用户的聊天记录，以确认我们是否对它的服务（或是提供的产品折扣）不甚满意——因为用户任何一丝的不满都有可能让它们丢掉自己的饭碗。虚拟助手打着满足用户需求的旗号，大肆开展这类活动。毕竟，满意的用户方能成就满意的超级平台。

更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan

在此，《楚门的世界》再次上演，只是更加宏大与卓有成效。事实上，虚拟助手的普及不仅会改变我们的消费方式与生活方式，它还会对我们的世界观产生影响。一个值得信赖的私人助手会令其真正的雇主享有终极权力——对人类的认知施加影响并引导舆论。作为资讯入口的看门人，备受用户信赖的虚拟助手将协助其背后的真正雇主从智识上捕获用户。这里的用户自然还包括政策制定者。它们要确保公共舆论、政府政策与企业自身的经营目标不存在冲突。

在工作中，虚拟助手会对信息进行筛选后推送给用户。当前，几大超级平台均不直接播报新闻，但是越来越多的人却开始依赖超级平台的算法为其推荐自己感兴趣的文章。2015年的一项调查表明，在美国，61%的千禧一代（指生于1981 \~1996年的人）“正在通过脸书的社交平台获取政治资讯”。 ¹⁰ 相比其他资讯的来源，脸书的影响力巨大。此外，2016年的一项调查发现，截至目前，脸书可以“将那些黏性最低的读者成功引向社交媒体网站的新闻板块”——这其中，82%的社交流量被引向了长篇报道，84%的社交流量被引向了一般性的简讯。¹¹

用户之所以倚重超级平台，部分原因在于他们相信超级平台提供的算法可以公允地为他们提供与被搜索问题最为相关的答案。然而，正如我们在前述案例中见识到的那样，超级平台可能会出于保护自己公司利益的目的而蓄意拉低搜索结果的质量。于是，也难怪保守派人士会剑指脸书的热点新闻工作组，指责对方曾在2016年美国大选中故意忽视一些保守派关心的话题，从而抑制保守派观点的传播¹² （对此，脸书表示否认）。我们在介绍行为歧视的章节中已经看到，当定价方式趋于个性化，市场中将缺乏一个能被视作标尺的公允价格。同理，个性化的新闻推送令读者难以察觉系统后台对推送内容的筛选和审查，人们想当然地会认为旁人接收到的新闻会与自己不同。由此，如果一条新闻被湮没，也没有多少人会留意。

我们对资讯把关者的这种依赖令超级平台抓住了机会——通过影响人们对世界的看法来干预政治选情。互联网法律领域的专家乔纳森·齐特林（Jonathan Zittrain）将脸书对信息传播的操纵能力视作对总统大选选情的威胁。¹³ 他警告说，为了向不同选民发起动员，超级平台可以在预测政治观点、识别党派倾向上发挥作用，同时它还可以动员不同的选民群体发起拉票活动。 ¹⁴ 罗伯特·爱泼斯坦（Robert Epstein）也指出，谷歌不仅会出于商业动机而对信息传播进行操纵，它还会主动操纵舆论导向插手政事。 ¹⁵ 研究表明，“仅在一段搜索时间里，支持某位候选人的选民人数就有可能得到37%\~63%的提振”。 ¹⁶ 通过操纵搜索结果排名，“谷歌的搜索算法可以轻易地将未决选民的投票偏好提高20%或更多，在特定人群中，这个数字甚至会达到80%，而没人知道他们的政治立场正遭到互联网企业的操纵”。¹⁷

我们已经见识过了各大互联网平台出于种种动机而采取的行动：优步曾在自己的平台上号召纽约的优步司机反对纽约市长提出的“限制纽约市优步轿车数量”的主张。 ¹⁸ 谷歌也曾在其主页上公然抗议《禁止网络盗版法案》（Stop Online Piracy Act , SOPA），并且请求自己的用户也联名向白宫上呈请愿书。 19

已在我们日常生活中扮演多重角色的虚拟助手或许正在重塑我们的世界观。通过为用户起草便签，给社交网站上的友人点赞，虚拟助手得以有效利用这种激励来操纵用户。“脸书上的网友平均每天会收到20亿个赞和10亿条评论留言，”一位医生指出，“刷脸书有助于人们释放多巴胺，并且缓解一些人心中的孤独感。” ²⁰ 想象一下，那种因我们更新了一条状态而收获众多点赞而引发的多巴胺飙升，而这可能不过是因为虚拟助手建议我们在网上分享了一则观点有趣的新闻。在外人看来，他们可能料想不到这是你的虚拟助手的主意。可能就连我们自己也没发现，这原来是它的功劳。所以说，倘若虚拟助手会蓄意引导社会舆论向有益于超级平台的方向倾斜，我们恐怕也恍然不知。

更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan

随着我们越来越依赖于虚拟助手，它给我们带来的负面影响也正被看淡。智能照明控制系统、室温调节、水温把控，当这些家庭任务都少不了虚拟助手出力时，对于人们而言，它可能就是一个“24×7”的存在。这种每时每刻（不论是在线上还是线下）的监控将打搅人们的内心安宁，并对创造力造成损耗。 ²¹ 在《1984》一书中，乔治·奥威尔（George Orwell）有一段经典评述。在谈及对人们行为的监控将如何妨碍人们的心智自由时，他写道：“你必须习惯性地假设自己的每点声音都有人监听。除非身在暗处，否则一举一动都有人监视。这种习惯已经成为本能，生活早已如此。” ²² 1967年，美国总统执法和司法行政委员会（U.S. President’s Commission on Law Enforcement and Administrationof Justice）的一份报告中写道：“在民主社会中，如果公民想要创造性和建设性地思考和行动，那么交流的私密性必不可少。害怕或怀疑一个人的讲话正受到陌生人的监视（即使这并未发生）的心理变化，会对人们表达批评和建设性想法的意愿产生严重的抑制作用。” ²³ 很快，虚拟助手将与我们如影随形，我们甚至感受不到它的存在。

纯净版虚拟助手？

前述描绘的虚拟助手的未来是基于这样一种假设：市面上的大多数虚拟助手将由超级平台和其他实力雄厚的纵向一体化企业开发并推向市场。

面对这些有点“邪恶”的帮手，我们有什么好对策吗？但愿吧！我们期望有一批有理想、有抱负、不作恶的独立互联网企业可以将消费者记挂在心。由它们研发的高水平虚拟助手可以充当起用户的好管家。这种纯净版虚拟助手会在行为歧视暗中作祟，在我们险些忽略更好的外部选择，在我们的个人信息数据遭到泄露时向我们发出警告，它甚至可以在用户面对这类风险时采取反制措施以保护我们的利益不受侵犯。如果新闻推送过程存在外部力量的干涉，那么它也可以及时监测并制止这种行为。总之，它将成为守护用户利益的屏障，时刻记挂着我们的喜好，守护着我们的个人隐私安全。

如果纯净版虚拟助手并非虚妄，你可能又会发问，为何我们的假设前提还要如此悲观，并将注意力都集中在会作恶的虚拟助手身上？这个问题想来也很好回答。请读者考虑以下几个问题：你今天使用的是哪款搜索引擎？你是选择了一款不会收集用户信息，保障用户隐私不被侵犯的引擎（比如DuckDuckGo），还是超级平台生态系统内的那款会为你提供个性化搜索结果的引擎。你可曾限制过手机应用获取你的通信录或地理位置信息？你可曾修改过手机默认设置？你是否会在逐字逐句阅读用户条款后才安心地点击“接受”？你可曾在隐私保护上投入过真金白银，又或者图个简单省事直接安装免费版的大众款隐私保护软件？如果你真的曾为此埋单，那么你能确定那些隐私保护服务提供商当真履行了他们的承诺？

针对上述问题的答案将有助于我们理解为何进化论会对竞合关系与这个可能作恶的虚拟助手格外青睐。由数据驱动的网络效应、庞大的数据库、复杂精妙的算法、纵向一体化战略、多元化的服务种类与超强的系统互通性似乎照亮了超级平台的未来。

让我们解释得更清楚些。首先，为了做好自己的工作，虚拟助手必须清楚地知道用户的生活习惯与喜好。为了能够了解并准确预测我们的需求，虚拟助手需要储备规模相当的用户个人信息数据，并且获得能够不断验证和优化自己体系内算法模型的真实用户场景。脸书M的基础代码和算法主要是开源的。这是因为虚拟助手的核心资产并非算法（否则脸书怎么会无所介怀地开放这些资源），这项业务的真正价值体现在数据的规模与算法的机器学习能力上面。据《华尔街日报》报道，“脸书Messenger应用上的用户人数已达7亿，如此庞大的用户群体使脸书有了一个让人觊觎的舞台，令虚拟助手掌握了海量、真实、会说话的数

更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan

据”。 ²⁴ 当如此庞大的用户群体都在向M发问时，后者处理任务的反应时间与准确性也将得到不断演练。从实际效用上来讲，用户可以帮助超级平台的算法主动发现并纠正模型中的错误。如此说来，只有少数公司拥有相应规模与维度的个人数据以及利用真实数据进行模型校验的机会，来让它们的虚拟助手产品从理想走进现实。站在全球视角，这些公司是：亚马逊、脸书、谷歌和苹果。此外，我们姑且可以把微软计算在内，毕竟它已经收购了职场社交平台领英并且还在计划剥离自己的低端智能手机业务。²⁵

其次，由数据驱动的网络效应还将进一步激化超级平台之间的竞争。显然，我们不需要聘用五位私人管家，向他们每个人询问今晚的电影放映时间或者吃哪家外卖。超级平台的目标是要让自家的虚拟助手成为我们独家的私人助理。在谈及智能助手业务时，谷歌CEO表示，“我们期望用户可以与谷歌展开持续性的双向对话”。 ²⁶ 作为首席私人助理，谷歌将有机会接触到用户的电邮、短信或者照片，并据此展开分析，从而为用户提供相关建议。²⁷ 在翻看用户的日程表时，它会判断出下一次带家中狗狗去美发店的时间。也就是说，我们说的越多、交派的任务越多，虚拟助手越能更好地对我们的生活习惯与口味做出准确预测，而用户依赖性还会进一步抬高产品的转换成本。于是，我们选择躲在舒适区域里过着自己的小日子。市场中的新闯入者会发现，他们既难以获取到超级平台手中掌握的数据，也难以说服用户转投他们的怀抱。

最后，借助虚拟助手这个一体化问题解决方案，超级平台得以高效地整合它的产品线与服务，并将自己的主打产品推向消费者。在这个过程中，超级平台的“互联网看门人”功能将得到强化。除非其他落后者痛下狠心选择进军操作系统市场，否则它们终归逃不出超级平台的生态圈。在谷歌看来，鉴于“（公司）在过去17年涉足互联网与现实世界的编目工作，语音助手Google Assistant将在对接邮件、短信、地图数据与图片处理应用时更加得心应手。同时，由于谷歌也为智能手机、智能手表以及‘旧时代里的’计算机提供软件产品与服务，人们在跨设备使用谷歌产品时将能够得到更好的人机交互体验”。²⁸

所以说，这些可能的后果将为纯净版虚拟助手的诞生制造不小的阻碍。所幸，我们并非丢失掉了保护用户个人隐私的所有阵地。也许有一天，纯净版的虚拟助手会收获理想规模的用户群体。但这个理想的实现必须由用户去主动推动——我们要学会主动控制交互界面中应用程序的隐私权限，并且懂得“免费也有可能很昂贵”这个道理。

本章回顾

在竞合场景的前沿阵地，超级平台强者越强，独立应用程序则将走向式微。准入门槛的抬高令经济与政治力量被汇聚到了更少人的手中。超级平台可以获取更多数据，并向第三方发出的数据请求索取高价。收入的增加令这些超级平台可以更加从容地投身于无人驾驶技术、可穿戴智能设备、虚拟现实和物联网的研发与应用工作中，从而高歌猛进地占领互联网的下游产业。

从表面上看，配合语音激活与人机对话技术的竞合场景似乎格外引人瞩目——虚拟助手将在各类免费服务的帮助下更好地料理我们的日常生活，由于这类产品与服务的个性化程度很高，反垄断执法机构手中缺少一个标尺来判断这期间是否存在产品质量的下滑或是对垄断势力的暗中助长。一旦人机交互主要发生在虚拟助手层面，这种直接的交流将使应用程序显得多余，而超级平台则借机抢占了东非大草原上的大片土地。与当前不同，狮子不必再合力围剿羚羊。届时，羚羊也不再是大自然里自由的生灵，它成为超级平台圈养的动物，而虚拟助手则成为它们的饲养人——这就是我们的未来。

如果故事的篇章继续按照今日的光景发展下去，如果用户继续对自己的网络活动疏于提防，执法机构的政策与工具箱也一成不变，那么超级平台对虚拟助手的操控将成为一个大概率事件。在低信息开放度、高个性化的交互界面中，具备高度自主性的算法将给反垄断执法带来更多挑战。最理想的情况是，执法机构和法院能够充分理解这种风险，并且选择通过教育民众的方式来积极应对与防御。而在最坏的情况下，不论是在法制层面还是在人类的认知层面，执法机构与民众都被超级平台所俘虏，没人意识到这些风险，而我们将在对科技进步的欢呼雀跃中缓慢步入真实的“楚门的世界”。

更多电子书请搜索「慧眼看」www.huiyankan.com 微信：huiyankan