黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

在蔓延并且不受监管。

本书结构

在这本书中，我将对主要网络和金融公司的商业惯例进行研究，并重点探讨这些公司如何在复杂的信息环境中使用专有的信誉评定、搜索和金融技术。有时这些技术能够实现高效运作，有时则会损害经济发展和个人权益。

个人、企业及其产品的成功在很大程度上取决于他们如何将数据和认知熔铸成良好的信誉。在越来越多的情况下，信誉等级是通过隐秘程序对隐秘数据进行运算得出来的。几乎没有人在意这一过程是否受到监管，更没有人了解那些影响着我们生活的重要数据或建立这些数据的“事实”依据。第二章将阐述这种新型的信誉评定技术在社会中的广泛渗透。

我们越是依赖于搜索引擎和社交网络来寻求所需，实现所想，这些公司的影响力就会越大。搜索引擎有权对信息条目进行收纳、过滤和排名，从而决定哪些话题可以成为永恒的公众焦点，哪些话题则只能作为流星转瞬即逝。亚马逊网站在对搜索结果中的图书进行排序时有什么依据？怎样过滤掉虚假的评论？为什么Facebook和Twitter会把某些政治事件放到显著位置，而将其他事件排到后面？互联网巨头公司都声称其算法十分科学，并且保持中立，但人们却很难验证这些言论的真伪。这些公司已经发展成为重要的经济支柱，同时它们还可以借助交易保密法对其使用的方法和商业惯例进行掩盖，从而规避审查。第三章将讨论这种不透明的搜索技术会对个人造成怎样的影响，以及由此引发的一些较为重大的商业和法律问题。

第一章我们需要知情

021

同信誉评定和搜索领域一样，金融行业也在更多地通过计算和编程的方式进行决策。在大数据时代，我们可以通过复杂的模式识别技术对大量的数据集进行分析。这些算法可以将判断过程简化为几个步骤，并使金融决策更加合理化，排除了自私和偏狭因素的干扰，构成了较为完善的决策框架。这种做法确实可以提升效率，但同时也将一些旧有模式下颇具争议的信用评级和不负责任的企业行为固化下来。在金融业的黑箱中，旧有问题演变成了技术复杂性、真正保密性和交易保密法这三个曾经导致2008年经济危机的冲击元素。《金融时报》记者约翰·加普(JohnGapper)曾经论述过其中的因果关系：“不透明性和复杂性……造成了欺诈和抬价现象，并最终使欺骗行为得到蔓延。”或许更加糟糕的情况是，在对社会特征进行归纳的同时却不对金融保密性加以调节和管理，于是经济厄运便不可避免。第四章将研究不透明的模型和惯例如何在金融市场中发挥作用，以及它们对公民、社会和法律产生的影响。

乔治·戴森(George Dyson)曾在《图灵大教堂》(Turing'sCathedral)一书中这样讽刺道：“Facebook决定了我们是谁，亚马逊决定了我们想要什么，Google决定了我们怎么想。”我们可以把这句话进行延展，即金融行业决定了我们有什么（至少是物质性的)，而信誉评定技术则更多地决定着我们的机会。各行各业的管理者都不希望他们的决策受到监管、遭到诉讼或需要做出解释。如果真的如其所愿，我们最基本的自由和权利就会转交到一个缺乏价值标准的系统里面，而高层管理者和股东将不会再对这个系统进行任何改进。

黑箱社会The Black BoxSociety

022

本书阐述了两种对抗途径。第五章将推荐几项法律措施，用以揭示黑箱公司最恶劣的行径。第六章将在智能社会的基础上论述与信用评定、搜索和金融相关的政治经济学。如今这种僵化的政治环境不可能在一朝一夕间有所改观，持有这种愿望的人无异于在痴人说梦。但有关机构应当在既有的法律框架内“尽其所能”地将黑箱行为关进牢笼。另外，那些对硅谷和华尔街特权表示忧虑的人们也需要行动起来，而不仅仅是单纯地抱怨信息获取途径的匮乏。我们完全可以想象在未来社会中，运算特权将仅用于促进公平、自由和合理性。

我们不必生活在这样一个社会中：人的命运被隐秘的评分机制所决定，或者股票市场被人为操纵，像有一只“看不见的手”一样令人难以捉摸。我们不应该担心个体、企业或是金融体系的命运会受控于那些秘而不宣的数据、令人质疑的评分机制和不可告人的赌注式交易。这些侵犯了个人隐私的技术和法律规定完全可以用来保护我们的隐私，提升我们的自由度，加深我们对这个世界的理解，而不是仅仅作为阻力出现。一旦设定了正确的方向，数据采集技术和广域监控技术甚至能够防止经济危机和资源的不当分配，使美国经济不再像上个10年那样遭受重创。

第一章我们需要知情

023

我们要敦促互联网和金融公司提升公共价值，并从其他监管有序的部门那里借鉴经验。例如在保健行业中，管理者会指派专业的技术人员负责调查并防止欺诈和药物滥用行为的发生。同样的技术还可以并且应当用来保障银行、搜索引擎和社会网络的诚信运行。

更多的透明化操作可以让非专业人士辨识出市场中的“非理性繁荣”，揭露如今极易被掩盖的企业劣行，并且曝光那些不公平竞争和歧视性行为。然而，正如我在提倡加强监管措施时曾经反复强调的那样，单纯的透明化操作并不足以解决问题，尤其是在金融行业当中。如果公司通过使简单问题复杂化来极力躲避监管或妨碍他人理解，那么信息披露政策便会成为一纸空谈。我们要终结那种一直在困扰监管者的“要求信息披露”和“想办法阻止信息披露”之间的车轮式博弈。如果某些交易复杂到局外人难以理解，那么这样的交易就应该被取消。

可以自我破解的预言

我们需要面对一个事实，那就是当前的情况可能会愈演愈烈。

有一种沿用已久的小说形式叫作“可以自我破解的预言”。

黑箱社会The Black BoxSociety

024

作者以非常可信的方式来推演当前社会的最坏前景，从而构想出一个糟透了的社会。如果有足够多的读者可以从盲目自满中警醒过来，并且试图做出改变，那么这个预言就会被人们破解。这样作者的凶事预言就不会像希腊神话中女先知卡珊德拉的预言那样被人忽视了。乔治·奥威尔的《1984》和阿道斯·赫胥黎的《美妙的新世界》都属于这类图书。作者描绘了一个充斥着极权主义的未来，并成功调动起了人们的抗争情绪。

很多电影也展现了这种可以自我破解的预言。在特里·吉列姆(TerryGilliam)的《巴西》(Brazil)一书中，一只苍蝇在偶然的情况下被卡进了反恐机构的打印机里，从此主人公山姆·劳里便开始了他的悲惨命运。当劳里试图纠正这一错误时，僵化的官僚体制却将他牢牢禁锢，并且误把他当成了暴力极端分子。吉列姆描绘了一个不透明、不负责任且充斥着冤假错案的国家，这个国家的运作机制十分不可理喻，而在这种机制的煎熬下选择屈服的公民们也变得同样疯狂。

我们愿意相信我们已经逃离了吉列姆镜头下1985年的那个非理性社会，就像《1984》里的恐怖情形已经被粉碎了一样。我们的生活主要受到私营企业的影响，而非国家机构。与前民主德国国家安全局里蒙着灰尘的文档或吉列姆想象出的复杂局势相比，代表尖端技术的计算机领域完全是另一幅情景。华尔街和硅谷中干练的领导者们比《巴西》中装模作样的残酷小吏要光鲜得多，丰饶论者呼吁人们不要加以干预，并让他们尽管放心，宣称科技可以解决包括交通堵塞和反常天气在内的一切问题。

第一章我们需要知情

025

然而，我们不能盲目自满。这些公司做出的许多决定可以影响到几百万人的日常生活。一个小小的错误就可以使一个人的一生发生错位。未来的公司策略执行人和政府当局会调用大量的资源来对他们的单向镜加以维护，并且不会轻易放弃大数据技术为其带来的强大优势。然而，黑箱现象正在发出一个讯号，那就是信息失衡的程度已经不容忽视。我们一直在依靠信誉评定、搜索和金融领域的巨头们来理解这个社会，是时候让政策制定者帮我们了解一下这些幕后巨头了。

无论是在工作场所还是在自己家中，美国人越来越被那些暗中行事的管理者们所影响，有时甚至可以说是威胁。丰饶论者所依据的判断结果都是以自动化方式生成的，因此很可能是错误的、偏颇的或者具有破坏性。信誉评定、搜索和金融领域的黑箱已经对所有人造成了威胁，如果它们得不到公开，错误的数据、无效的假设和存在缺陷的模型就无法得到纠正。本书将对这些问题进行揭露并提供一些解决建议。

黑箱社会The Black BoxSociety

026

数据失控时代的网络信誉

第二章

大数据在低语：请告诉我一切，不要羞怯。你告诉我的越多，我对你的帮助就越大。这有点像《书架上的精灵》(theElfon theShelf)：圣诞老人派小精灵在假日里当班，并让小精灵向他报告哪个孩子顽皮淘气，哪个孩子表现乖巧。小精灵可以四处活动，选择更好的观察角度，但不能让孩子们看到自己。一旦被人触摸，它的魔法就会消失。不过凡是乖乖听话的孩子都可以得到圣诞礼物！

虽然长大明白事理后孩子们多数不再相信小精灵的存在，但是政策制定者们却依旧是大数据神话的信徒，热衷于这一神话的网络用户也不在少数。埃里克·施密特说他希望有一天Google能够回答“我明天该做什么”和“我该选什么样的工作”之类的问题，而且Google用户从不担心自己的生活隐私被Google获取后会产生什么后果。人们相信只要有了最优的个性化配置和最优的数据点集，大数据就会为我们规划出最优的生活。百利而无一害！

029

但那终究是个神话。在为我们提供折扣或者捷径的同时，大数据可能正在以另一种形式暗中牟利或者正在广泛地搜寻获利目标。你的信息就是他人获得巨额利益的源头，但付出代价的人却是你。一旦信息被人滥用，你必将损失惨重。

在经济活动中，数据密集型的广告每年可以带来1500多亿美元的收益。拥护者们称其构建了一个更加个性化和用户友好型的网络，但广告公司和广告投放者都不会关心这个环境的健康程度，他们追求的只是利益。当我们点击一则打折广告时，很可能幕后就有一个程序正在计算如何进行额外加价，而加价的依据可能是我们所处的位置，也可能是我们正在使用的电脑(苹果电脑还是普通电脑)，甚至可能是我们的法庭记录。不只是国家安全局渴望拥有一个庞大的数据库，市场营销者们也抱有同样的目标，他们希望利用无穷无尽的数据集来建立起关于我们的详细档案。

模式识别是这样一个游戏—通过将以往的行为点进行连接来预测未来。你在买东西时是货比三家，还是宁愿多花些钱也不愿费事去买特价机票或电影票？有些公司想知道，并且很容易就能获取这些信息。每个行业都希望站在信息的制高点，从而帮助它们锁定最佳客户。

有时候我们很容易预测到这些信息将做何用：你在浏览其他网站时可能总是看到心仪商家的广告弹出来。但这只是市场营销的冰山一角，下面还隐藏着无数令人不齿的勾当。一个数据经纪商曾把50万份55岁以上的赌徒名单卖给了不法分子，每份售价8.5美分。而不法分子则以“中奖”为诱饵对这个容易上当的群体进行诈骗。还有一些人出售癌症或老年痴呆症患者的名单。有的公司还会对名单进行“提炼”，从中挑选容易上当受骗的人和绝望无助的人作为目标。在经济社会中，如果说数据经纪商是底层的谋食者，那么Google公司就是数字化交易的老手。它太了解我们是淘气还是乖巧，是聪明还是愚蠢，信誉是好还是坏。很多时候，数字化交易的过程基本上就是在寻找可疑贷款、药剂产品和受利益驱使的、不可靠的教育工作者。

黑箱社会The Black BoxSociety

030