黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

但作为一个平台，它应该在什么程度上对其算法承担责任呢？算法得出的结果又是如何应用的呢？这些新兴科技不仅影响着别人对我们的理解，而且影响我们对世界的理解。当它们为我们服务，损害我们的利益，或怀着不可告人的目的寻求隐形利益时，难道我们不应该有知情权吗？

为了逃避传统的法律责任，互联网平台总是以令人目不暇接的速度发生着变化，这些代表性的举动相当于某种形式的监管套利。在面对版权和诽谤诉讼时，它们声称自己不是生产内容的媒体公司，而只是传播内容的渠道。作为传播渠道，它们不必受制于第一修正案的严格保护条款，并且可以在诽谤案件中逃避责任。例如，第一修正案不能要求电话公司停止为我提供服务，而我通过电话诋毁某人时，电话公司也不会因此遭到起诉。因此，Google可以说，对其“自动完成”项目提起诉讼的想法非常荒谬，这无异于状告电话公司为诽谤者提供了传播谣言的途径。

但在其他情况下，Google依然认为它们的服务属于内容范畴，并且有权作为媒体公司享有第一修正案的全面保护，这种保护既包括自由发表言论的权利，又包括不被强迫表达非己方观点的权利。第一修正案的扩展性解释条款使得Google几乎可以逍遥于管制之外。幸运的是，我们还有充足的法律学说来对投机自由主义进行限制。

第三章

隐藏在搜索中的逻辑学

111

搜索、透明度和个性化

搜索引擎的秘密运作机制深深地影响着我们的世界观。这一事实往往会令我们感到惊讶。我不知道有多少次听到有人说：“在Google中搜索我的名字时可以在结果页面看到我的置顶信息!”但如果是我搜索你的名字，我会看到同样的结果吗?这只有Google知道，不过我想答案多半是否定的。Google是怎样让这个世界“因人而异”的?我们只能通过猜测得出结论了。

有一点很清楚，我们在接受Google服务(如Gmail)时的操作行为都将反馈到我们的搜索结果当中，这种情况已经存在很长时间。早在2007年，Google公司在定制技术的研发上投入了大量精力。到2009年年底，该公司已经对其算法进行了调整，以便向所有的互联网用户提供“个性化搜索”服务。我们所处的位置、我们的搜索历史、我们的电脑配置……所有这些都将影响到Google的搜索结果，从而影响着我们对世界的认知。

类似的情况在Facebook和Twitter上更为明显，这两个社交网站上的用户信息不断滚动，但即使是在这种情况下，网站也要做出判断，例如，如何处理某些突然出现的内容，或者需要对哪些可能会“引发异议”的内容进行压制。

黑箱社会The Black BoxSociety

112

个性化的设置可以让我们在Facebook动态中隐藏那些扰人的亲友信息，可以罗列出我们最喜欢的微博内容，并且可以让我们从关键的RSS订阅源中获得更新。这意味着Google新闻可以在我们的信誉基础上提供棒球、音乐或左翼政治活动等内容，还意味着Google搜索可以基于我们之前的搜索行为来调整搜索结果，这些行为包括我们在Google旗下广告网络DoubleClick中的点击量和在其他Google相关账户中的活动。

个性化的设置让数据世界拥有了魔力。比如你把最心爱的耳环弄丢了，想再买一副，而几年前你刚买到那副耳环时曾把耳环拍照后用电子邮箱发给了你的妹妹。当你再次通过Google图片搜索耳环时，可能就会发现页面上出现了一副一模一样的耳环图片。或许你不知道关键的数据点就是你曾经通过邮件发送的那张照片，你甚至不会记得曾经有过这样一张照片或者你曾经发送过这样一封邮件。这就是邮箱账户和搜索引擎(和Google的数据汇总一样具有侵略性）绑定后的结果。很多年的信息(人、电子邮件和搜索行为）经过累积后，结果将会更加惊人。这就是主流信息平台的强大之处，它们几乎可以为我们的一切活动提供人工智能辅助，并且极大地提升了用户对于数据的利用程度。

但个性化设置也有令人不安的一面。Google的搜索结果太过具体化，以至于我们越来越难以评估出自己到底能够看到多少有关某一主题或争议话题的信息。我们看到的内容都是Google在我们的“训练”下给出的结果以及Google希望我们看到的结果。企业家伊莱·帕里泽(EliPariser)曾将这种现象称为“过滤泡沫”，他担心个性化设置会带来严重的负面效应，即加重了偏狭和偏见问题。个性化搜索已经显出了它的强势。例如2010年的夏天，英国石油公司的大规模石油漏油事件成为新闻热点，如果在Google中搜索“英国石油公司”，有些用户会看到对于该公司破坏环境行为的强烈谴责，而另外一些用户看到的则是有关该公司的投资机会。只有Google总部的搜索工程师们才有可能知道谁在看什么和他为什么会看到这些内容，而且他们在保密协议的约束下只能缄默其口。

第三章

隐藏在搜索中的逻辑学

113

个性化设置有脆弱的一面，也有强大的一面。如果一家社交网站知道你是一个纸牌爱好者，它就会优先显示有关赌场信息的帖子。然而，它也可能将你列入“受骗者名单”，供赌场广告商寻找问题赌徒进行行骗。政治抗议者们以推翻腐败政府为共同目标而聚集在一个虚拟的平台中，但这个平台也同时为统治者提供情报。数据可以为用户提供服务，也可以使他们陷入不利的境地。在当今美国的施政报告辩论中，这些担忧常被归为隐私问题，但它们同时也涉及搜索问题。谁是幕后的操控者?他们的黑箱在以什么方式塑造并呈现我们的世界？

个性化也会对我们的观念起塑形作用。个性化是购销双方的关键，这就是为什么在数字经济中，信誉和搜索配合得如此紧密。网站对我们的定位会影响到它们将选择什么样的内容呈现给我们。企业想知道我们在搜索什么，这样它们就可以对我们的市场观念进行塑形。而在搜索最优惠的价格和最广泛的选择时，我们也在对市场进行塑形。准确契合的搜索结果可以吸引用户，而准确锁定的用户则可以吸引广告商。最赚钱的广告都是那些在搜索结果页面中“小范围”锁定客户的广告，因为它们已经从用户曾经主动贡献的搜索信息中知道他们想要什么了。一家花店很可能会花钱把广告投放给那些搜索过“玫瑰”的用户，而不是某些随机的电脑用户。但Google还可以更进一步，那就是给出用户查询“玫瑰”的频率，以及他们在搜索结果中点击了哪些网站。Google的行为越来越接近Facebook、Twitter等网站的做法。

黑箱社会The Black BoxSociety

114

危险一如既往。这种精确定位的销售方式让广告商占尽先机，庞大的互联网带来的优势正在淘汰那些传统的、不能紧跟时代的广告模式。为什么会出现这种情况呢？因为只有互联网平台能够获得如此具体和全面的数据信息。结果就是，一场革命正在发生，改变着信息发布的格局。随之令人警醒的是，对于媒体影响力的操控权越来越集中到少数人的手中。

搜索、信任和竞争

新古典经济学家们设想，在互联网环境下，隐私和竞争之间将建立起直接而积极的关系。有些学者认为，市场会起主导作用，如果一个大型网络滥用它的优势，经济中的制衡力量将会解决这一问题。在Google上找不到想要的信息吗?你还可以通过Bing（微软的搜索引擎服务）来查找。不喜欢iTunes的新版本吗?你可以订阅Rhapsody(一款模型驱动可视化开发软件)。Google会泄露隐私吗?可以试试DuckDuck-Go(一个互联网搜索引擎)。用户可以选择适合自己的隐私等级，就像买车时选择每升的公里数一样。如果他们选择的服务不提供隐私保护呢？好吧，这一定是那些公司当务之急要解决的问题了。

第三章

隐藏在搜索中的逻辑学

115

如果市场制衡力真的能够直接促进隐私保护的优化，那自然再好不过。如果可以通过反垄断法来间接地确保各个公司对保护隐私权的注重，这也是一件非常好的事情。然而，这些美好的憧憬正在逐渐褪色。竞争态势下对于隐私的践踏超过了对于隐私的保护。在这个大数据引领最大化利益的时代中，各行各业都热衷于挖掘隐私信息。搜索行业中美其名曰的“争取”用户和“同意”收集数据的做法越来越像是一种垄断和强制行为。

硅谷已经不再是一个机会完全开放的领域。如今，初创公司或许可以通过向当前的网络巨头出售一些新鲜创意来获得财富，但它们自己则不太可能成为网络巨头。硅谷中持续上演着一个“毁灭”迷局：它是一个沸腾着创造性的混沌熔炉，即使是最出色的种子选手也常常生死未卜。不过，网络巨头的实质更加类似于美国电话电报公司、威瑞森通信公司和康卡斯特有线系统公司的寡头垄断。

我曾在2008年向一个国会委员会论证过Google的市场力。

黑箱社会The Black BoxSociety

116

当时每一位质疑我结论的代表都认为很多发展中的事物都将取代Google，虽然这些人并不十分了解互联网，但是他们知道拉里·佩奇和谢尔·盖布林只用了几台旧服务器再加上独特的创意就创建了一家巨型公司，完成了从研究生到亿万富翁的华丽转身。在他们的想象中，Google从赤贫到暴富的故事预示着别人也可以如法炮制并最终取代Google。即使博学的法学教授也相信了这一说法。“不出5年就没人在意Google了!”一位教授激昂地对我说。如今6年过去了。有太多的人依然相信数字经济在本质上是开放的、竞争的，并且像在其他领域中那样遵循优胜劣汰的法则。

但这是现实吗?Google数据中心消耗的电力堪比整个盐湖城消耗的。在2008年，技术历史学家兼记者兰德尔·斯特罗斯(RandallStross)估计，该公司用于网络索引和映射的计算机已经接近百万台，如果真实数字（受到严格保护的商业秘密）确实是这个量级，那么很难有人可以在车库中起家并击败Google。即使一家初创公司拥有数百万美元的风险融资，有从亚马逊租来的计算空间，有宝贵的搜索技术，那么它被Google收购的可能性也要远远大于它取代Google的可能性。

那么，会有另一家巨头公司取代Google吗？目前为止，微软每年在Bing上的损失高达26亿美元。那么政府呢？欧洲政府曾经做过尝试，但Quaero多媒体搜索引擎项目最终还是搁浅，或许是因为政府投资的4.5亿美元根本无法与Google斥资1000亿美元的年预算相竞争。不过可以肯定的是，即使Google会遇到劲敌，那这个能够压制Google的巨头也肯定有一个黑箱外壳，隐秘且无人能接近。

第三章

隐藏在搜索中的逻辑学

117

将竞争者们阻拦在通用搜索领域之外的不仅是高昂的基础设施成本。搜索技术的创新需要有庞大的用户群做基础，这样才能将各个运算程序“训练”得更加灵敏，但这个用户群目前为Google所有。分析创新取决于能否获得大量的数据，但这些数据也属于Google，他人无法共享。只要Google的搜索数据库依然保密，外界的创新就只能胎死腹中。罗伯特·默顿(RobertMerton）将此称为“马太效应”：强者越强，弱者越弱。

此外，如果有人确实推出了一个Google的完美替代品呢？通常他们必须通过其希望取代的那些平台来推广自己的产品。如果Google、苹果、亚马逊和Facebook对其采取抵制态度，那么它们就可以确保这个竞争者推出的替代产品不被人所见。

有关服务的限制性条款成了另一道阻碍。用户在输入搜索问题时须同意不以任何理由对任何Google服务进行复制、修改、散布、出售或出租，并且不得试图更改程序项目。广告商还要受制于其他的限制条款。

最后，还有黑箱本身的问题。Google的保密政策不仅使垃圾邮件发送者不能操纵Google的搜索结果，而且可以防止竞争对手借助或模仿它的算法来创建新的算法。与专利程序不同，Google的算法不能被强制披露，而且所受保护没有终止日期。商业秘密永远不能公开，更不要说将其拿到公众领域让其他人免费利用了。

黑箱社会The Black BoxSociety

118

所有这些因素都破坏了竞争的活力。硅谷急于获得信息的控制权并从中获利，而这些信息本应该在匿名化处理后合法公开出来，用作日后创新的原材料。目前技术上的巨大飞跃还不太可能克服这些弊端。在信息组织和检索功能之外，搜索还是一项个性化的服务。相比于21世纪初Google刚进军这一领域时，现在有更多的人在使用搜索引擎，而且大多数人在使用Google。因此，Google要利用当前优势来强化自身实力。虽然曾经有少数用户对其采取抵制态度，但这家公司的根基绝不是桑托勒姆的铁杆支持者所能撼动的。对于Google公司的重大投诉很少被普通搜索用户所注意，更不要说获得他们的同情了。用户没有能力，也没有动力去探究是否存在操纵行为，他们唯一的要求就是获得“足够好”的搜索结果。

所以，我们迷茫了。一个问题再次出现：我们在与谁为伴？曾经令人兴奋、激动的互联网平台就像我们的一个伙伴，而现在它越来越像航空公司和有线电视公司那样遭人憎恶，而且已经不再是过去那样“规规矩矩”了。你无法和一个黑箱建立起互信关系。Google认为，其庞大的信息和查询数据库能够更好地反映用户意图，显然可以提供更优质的搜索服务，从而击败那些自以为是的竞争对手。但在这一过程中，它多年来敷衍监管机构的借口渐渐不能成立了。每当有人谴责某家大公司有不公平或误导性的商业操作时，硅谷的反垄断律师们总会说，“竞争只有一次点击之遥”。但事实并非如此，只要网络巨头公司的数据优势不断加强，就不会有新生产品可以代替它们。

第三章

隐藏在搜索中的逻辑学

119

搜索和薪酬

在2013年纽约大学举办的管理算法会议中，一位数据科学家精彩地演示了她的公司如何为其客户带来了最大化的广告收益。她描绘了各网络、广告商、发布商和其他网络新星之间的信息交流图景，同时重点说明了计算机如何在程序设计师的“教导”下从点击活动中发现意想不到的相关性。在某种程度上，算法就是自动运行、无须监管的机器。“这给了我更多的时间去骑马。”她开玩笑地说。

一位听众对于机器学习的说法很感兴趣，于是问道：“算法能够在多大程度上代替你的工作?”换句话说，就是什么时候计算程序本身可以达到第三阶智能程度，从而可以自行决定采取何种度量方法来衡量过去的指标，并为将来的迭代测试提供建议。演说者回避了这一问题。即使她的机器学习法如其他人说的那样会使几百万人失业，但她的报告确实很有价值。

也许她是对的。但是要知道，我们需要对其公司的人机互动有个专业的了解，但事实上我们无法做到。所以，有人会对首席总裁、经理和投资者们从大数据经济中获取的巨额薪酬表示质疑。薪酬和竞争一样，可以引发重大的法律和道德问题。尤其是，互联网世界的黑箱本质上将经济操作行为挡在了公众视线之外，所以我们若想探究薪酬的实质，首先必须具备一个清醒的认识。

黑箱社会The Black BoxSociety

120