黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

现在该是进行无罪推定的时刻了，现在该是寻找光明的时刻了。我们可能无法阻止信息的收集，但我们可以限制它的使用方式。这件事说起来容易但做起来很难；数据收集已经如此猖獗，我们需要时间和精力来净化当前的信誉系统，清除那些不准确或不公平的数据点。然而，行动起来总比坐以待毙要好得多。有一个非常著名的隐私保护博客叫作“波戈是对的”，这个博客名称源于一部很老的漫画书《波戈》，书的结束语中有这样一句话，“我们遇到了敌人，那个敌人就是我们自己”。其中的寓意很明显：当信誉成为技术的产物时，我们最好不要再漠然，而是要行动起来，阻止这种任意的、歧视性的和不公平的算法。为了实现这一目标，本书第五章提供了一些积极举措。但要想充分了解它们是如何发挥作用的，以及这些举措的必要性，我们就要从信誉技术（越来越多地调整着别人对我们的看法）转向搜索技术（调整着我们的看法)。下一章的话题就是搜索。

第二章

数据失控时代的网络信誉

081

第三章

隐藏在搜索中的逻辑学

THE

BLACKBOX

SOCIETY

在经济社会学家戴维·斯塔克(DavidStark)眼中，搜索是“信息时代的标志”。虽然大多数人一提到“搜索引擎”就会想到Google，但搜索其实是一个更加广义的概念。无论是寻找信息还是追求娱乐，无论是搜索产品还是寻觅知音，我们都会更多地借助于动态的搜索，而非陈旧的资源。搜索已经无处不在，它影响着我们对互联网的认识，并且越来越多地影响着我们的“现实生活”。

搜索引擎每天可以处理数十亿条的查询请求。它们能够“回答”的问题越来越多，提问者甚至不需要再去另外点击其他网站就可以获知所有问题的答案。它们让我们可以了解朋友的动向—无论是现实中的朋友还是虚拟世界中的朋友。它们让我们能够获取娱乐信息。从电影到医疗，再到旅馆，它们将我们生活中的一切进行排名和评级。搜索引擎可以分为普通类别、专业类别或社交类别，这其中包括搜索巨头也包括小兵小卒，包括公众搜索也包括加密搜索。它们所能提供的内容成倍增加，并且越来越多样化，在我们的生活中扮演着越来越重要的角色。

085

这些媒体新贵不只是为我们提供便利。由于其自身的优势和人的惰性使然，搜索引擎经常可以主导我们的意识。它们引导着，有时甚至是深刻地影响着我们将要做什么、想什么和买什么(以及不买什么)。它们是时代的变革者；苹果和亚马逊的门户网站已经确确实实地重构了商业领域的版图。它们成为我们的代理人：只要在Facebook上搜索几十个人并“加为好友”，或在Twitter上关注他们，这些平台就会为我们提供源源不断的内容。

搜索可以起到一种均衡作用。它让我们这些被审查的人可以转而去查看其他人的资料。它让我们得以开启那个由自己有意或无意间透露的信息构建起的信誉数据库。它让我们能够查看到那个“数字化的自我”，而这个自我常常会在我们命运的关键时刻代替那个真实的自我出现在老板、银行家和其他决策者面前。

搜索技术让我们可以通过一台计算机和附近的一家公共图书馆就接触到海量资源，而这些资源在过去只有付出无尽的资金和时间才可能获得。它还可以让我们每个人都完美地拥有一个属于自己的小小世界，这个为我们量身定制的世界和别人眼中的世界不同，它如此美轮美奂地满载着我们的个人兴趣和喜好。

然而，正如数字时代中的其他事物一样，搜索也有它的黑暗面，这个黑暗面涉及信任问题。搜索平台怎样确定一个第三党市长候选人的曝光度呢？奥巴马沉重的辩论话题或者罗姆尼的“47%言论”会在多长时间内占据美国总统大选的头条？新媒体巨头可以通过个性化的推送平台为我们筛选信息，可它们是如何对这个繁杂的世界进行精简的呢？一篇报道是否被选中是基于新闻机构的统计数据，还是个性化的运算程序做出的选择？如果是由统计数据决定，那又是什么样的统计数据呢这篇报道的转载量，还是新闻推送机构的权威性，抑或是完全由其他因素决定?

黑箱社会The Black BoxSociety

086

大大小小的企业每天都在关注着这样的问题。为了在Google地图和旅行服务中排名靠前一些，很多酒店都或多或少地在暗中付费。我们怎么知道是否有人在以一种微妙的方式对新闻报道或政治活动进行操控呢？例如，是不是有人在引导读者和志愿者的行为，或通过Google+提升某些报道或活动的搜索热度？新闻报纸虽然形式陈旧，但至少我们能确定每个人看到的内容都会相同，如果发现问题我们也可以写信给主编。但Google总部却是关起门来做决策，也就是我们即将谈到的暗箱操作。鉴于此，我们到底应不应该相信这些决策者呢？

搜索引擎有权对信息条目进行收纳、过滤和排名，从而决定哪些话题可以成为永恒的公众焦点，哪些话题则只能作为流星转瞬即逝。因此，广告客户和用户都离不开搜索服务，无论是社交搜索还是其他搜索。曾经由广播网络、无线电台和新闻报纸所主导的文化、经济和政治领域如今已经深深地受到搜索技术的影响。然而，搜索服务的覆盖之广和技术之繁杂使它们具有不透明性，并且可以逃避责任，不必像传统媒体那样直面公众。

第三章隐藏在搜索中的逻辑学

087

搜索服务已经成为我们生活中的一部分，但我们却对其知之甚少。尽管它们以客观和中立自称，但其决策却常常带有争议性的价值倾向。它们声称在向我们“展现”世界的原貌，但其实这个世界是由它们创造出来的。下面我将探讨一下搜索巨头们引发信任危机的4个方面：透明度、竞争、报酬和控制。

搜索和透明度

“更好的用户体验”是各大互联网公司采取一切行动的理由，但可以确定的是，有时这些公司会与我们发生利益冲突那会是什么样的利益冲突呢？虽然它们在极力营造一种中立氛围，但几大国际搜索平台都已经卷入了争议的旋涡，而争议的焦点就是它们的偏见和权力滥用问题。如果能够知道冲突何时发生以及如何解决，我们就会安心很多。但是大型公司拒绝披露任何有意义的信息，并且它们的决策过程都处于科技手段和定型化契约的掩盖之下。无论发生了什么，都不在我们目之所及的范围内。

苹果商店中的色情和政治问题

在化解版权冲突后，苹果公司通过一个简易界面和实时访问通道重构了在线音乐的版图。iTunes(一款数字媒体播放应用程序)、iPod(苹果公司便携式多功能数字多媒体播放器)和iPad(苹果公司平板电脑）使音乐选择和版权报酬步入了一个全新的生态系统。这个运行有序的流行平台能够焕发无限的能量。在通用标准下，人们可以共享音乐，选择合作并发挥音乐才能。正如塔夫茨大学弗莱彻法律与外交学院的金融专家兼教授阿马尔·拜德(Amar Bhidé)所言：“维持现代繁荣的各种创新……已经得到发展并被应用到了一个多层次、多时段的多人模式游戏中。”

黑箱社会The Black BoxSociety

088

然而，苹果公司的游戏规则相当模糊。其商业行为的隐秘性已经尽人皆知，以至于乔纳森·齐特林(JonathanZittrain)和蒂姆·吴(TimWu)等法律学者都表示过担心，他们认为过多的集中化操控可能会制约程序开发者的创意。从我的角度来看，用户完全有理由担心他们会时常在不经意间受到操控，比如苹果会将热门软件从其应用程序商店中移除或阻止它们在其产品上运行。我们来看三个令人不安的事例。

桉树程序(Eucalyptus)。在2012年，开发者们每周都会向苹果公司提交大约10000个应用程序，不少程序会涉及色情主题。于是苹果公司非常务实、高效地提出了一项反色情原则。据称该原则能够反映用户需求并过滤掉垃圾内容，它使苹果公司能够批量、高效地对新程序进行处理。

但是，虽然苹果公司针对“异议内容”设置了公开的指导原则，但这些原则的应用过程却不为人知。例如，苹果曾经禁止了用于格式化和下载公共领域文本的桉树程序，理由是用户可以通过该程序访问“维多利亚时代纯文字版本的《印度爱经》(Kama

第三章隐藏在搜索中的逻辑学

089

Sutra)”。然而，苹果公司此前已批准过具有同样功能的应用程序，而且苹果的Safari浏览器上也可以找到《印度爱经》(包括一些真正的色情）版本。桉树程序的开发者一直在“神秘的黑箱”外求告无果，直到美国科技博客网站(ArsTechnica)的克里斯·福尔斯曼(Chris Foresman)在一个严肃专栏中批判了这一事件的荒谬性，苹果公司才在大量新闻报道的施压下有所反应，后来在一些高管的干预下，桉树程序的命运终于得以扭转。

在这一事件中，由于新闻报道恰逢其时，苹果公司才纠正了它的错误行为并且很快道歉。但又有多少应用程序无法获得媒体记者的关注呢？我们不得而知。程序开发者们没有做过投票统计，苹果公司也从未告知这一数据。

无人机程序(Dronest)。如果说桉树程序是受决策机制的随意性和不完善性所累，那么另外一些程序则以更加不公的方式遭到禁止。纽约大学研究生约翰·比格利(JohnBegley）在美军大规模开展无人机战争期间开发了无人机程序。该程序可以将新闻报道中的无人机攻击目标进行汇总，然后在地图上标注出来，并以弹出信息的形式对最新报道的袭击事件予以提示。比格利通过实时提醒的方式来帮助用户追踪那些鲜少报道的军事行动。

苹果公司曾经对无人机程序做过两次抵制，第一次给出的理由是这个程序“毫无用处”。(但苹果公司曾经批准过另一个程序，该程序除了在屏幕上显示火焰外别无他用。）第二次拒绝的理由是该程序的内容“非常粗糙并且会引发异议”，因此有悖于苹果商店的审查原则。但比格利的程序只是在引述新闻报道并将报道中的袭击目标在地图上标注出来。苹果公司曾经批准过很多描述新闻报道中破坏性事件的应用程序，所以这个理由同样令人难以接受。尽管美国媒体强烈地批判了这一决策，但苹果公司还是硬撑了两年也不改变决定。在第5次遭到驳回之后，比格利不得不将软件名“无人机”改成了“元数据”(Metadatat)，并将“无人机”这几个字从软件描述中删除，这才得以让该程序在2014年进入苹果商店。可是这样一来，那些希望了解无人机袭击目标的用户还能找到这款软件吗？这的确是个问题。

黑箱社会The Black BoxSociety

090