黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

对待信息的角力，帕斯奎尔在书中强调了三个关键词：信誉、搜索和金融。信誉是被他人认识的结果，搜索为了认识他人，金融则是帮助人们做出经济决策。各公司都在为挖掘潜在的客户详细信息费尽心思，但在面对监管时，却极尽手段隐藏它们的统计数据和操作规程，同时阻止用户对由此生成的数字档案进行任何操控，这其实就是在制造黑箱。试想，如果这些东西是隐藏的，那么错误的数据、无效假设和有缺陷的模型就不能得到纠正，这种黑箱最终可能会危及我们所有人。我们如今的生活已经受到了信息的影响，制定一个紧跟时代的信息管理框架已迫在眉睫，其中政府公共部门应发挥什么作用呢？也许，我们需要一个公共机构来利用全面的数据提供信用评分，用一个开放的、可解释的算法决策工具来代替黑箱系统，而不是靠众多私营企业自已搜集的数据和评定代码。真正将黑箱社会变成显式社会，确保最重要公司的关键决策是公平的，一视同仁的，并能接受批评。

赵斌

复旦大学生态学教授、博士生导师

黑箱社会The Black BoxSociety

XIV

中国的互联网公司在竞相作用于信息发布和在线交易的未来。阿里巴巴抵制了腾讯公司的某些短信业务，而在快的打车与滴滴打车(腾讯投资）合并之前，腾讯公司曾禁止快的打车利用微信平台来发放叫车服务的优惠券。它还禁止美国出租车公司Uber出现在微信上面。

我本人也不是很认同Uber公司的经营理念。在读过张夏准的作品（尤其是《富国的糖衣》）之后，我也认为每个主权国家都应当促进本国科技在搜索、金融和信誉等领域中的发展。只有科技公司、数据经纪商和银行在全球呈现多样化趋势，各国才能够维持响应其国民需求的政治秩序。

任何一个领域中的主导性平台都需要得到更好的监管，并且要对用户透明，同时尽可能公平地对待其合作商户。微信拥有约5.5亿活跃用户，在日常生活中扮演着重要的角色。用户可以通过微信菜单获取优惠券、医疗、娱乐、新闻、美食、交通等诸多信息。这是一个万能的平台，可以实现很多功能，例如查看航班、支付水电费等等。随着大型公司逐渐渗透到我们生活中的方方面面，它们在选择商业伙伴和利用编辑数据时应当做到公开透明。

中文出版序The Black BoxSociety

“公平竞争”这个概念在商界中似乎不太现实。大家都在混乱无序地争夺市场份额、用户和收入。然而，企业越是用黑箱掩盖自己的所作所为—避开公民或监管机构的审查它们就会有更多的机会来要挟我们。在2008年，百度为了达到营销目的，威胁其他企业购买百度广告，否则就降低其搜索排名，我听说这件事情的时候非常困惑。这种商业模式将导致的最终结果可能是，那些真正制造产品和提供服务的企业所获得的利润会逐渐地被各大互联网公司盘剥殆尽。

排名、评级、查询和融资公司不应该在经济活动中占据主导地位。它们是很重要，但不是最重要的。这些公司的特点是，规模越大，收益越多。当它们在GDP中占据的份额过大时，不平等现象就会加剧。信誉、搜索和金融领域中的公司巨头（分别在本书第二、第三、第四章有所论述）夸大了其自身功能的重要性。它们充其量也就是实体经济的仆役，可却妄图反客为主。

本书的一大主题是社会利益和责任的合理分配。美国从中国的经济腾飞和绿色能源部署方面学到了很多，而中国的经济学家和监管机构也可以从美国的成败中有所收获。长久以来，GDP的增长只能依靠“投资”。当前中国国内太多的信托和理财产品都属于不可持续的发展项目，其资产负债表极不透明。很多投资者对其投资项目并没有真正了解。随着股市的大起大落，政府面临着一个艰难的选择：要么放任自流，甘冒经济失控的风险；要么用现实资源来维系黑箱金融。第一个选择会使穷人受损；而第二个选择会使富人更富，有损公平。两者都无法实现经济的可持续发展。

黑箱社会The Black BoxSociety

XVI

真正能够促进社会和谐和繁荣的政治经济必须是实体经济，而非简单的量化经济。它必须能够为公民带来医保、教育、艺术、公园、新鲜空气和清洁用水，以及休闲项目。单纯用数值来衡量收入或生产力的做法只是以偏概全。事实上，一些外界观察家就担心，这些数值可能会受当局操控并被算作“生产力”，这是社会弊病的演变态势。

针对这一忧虑，社会科学和人文科学所描绘的世界（及其可能的未来）图景可以为我们指点迷津。这两门科学试图以事件为背景进行解释、梳理、分辩和争论，目的不是像模拟原子和分子原理那样来塑造人们的认知，也不是用数值去勾勒一幅虚假的繁荣景象。这里的人文科学不是自然科学，而是知识与洞察力相结合的有效产物。

太多的行为学家和人工智能研究人员只注重分析（并最终模仿或操纵）人们的表象行为，而很少或根本不去关注内部的思维过程。他们把大脑当作一只黑箱来处理，这是病态的社会科学和非人道社会的表现。我们必须行动起来。如果只是被动地去促进生产力的最大化，而不去追问前景或愿景，即使最大限度地提高

中文出版序

XVII

了GDP，也会迷失在未来。

20世纪70年代初期，查尔斯·泰勒等哲学家指出了人工智能和行为主义在目标与方式上存在的弊端，帮助人们改变了以往的错误认知。但随着“大数据”的风靡，这两种思维方式再度被吹捧为了解和控制社会的途径，而对于数据的源头(或思维模式)，人们却不予关注。金融公司可能会做出诸如此类的辩解，“我们之所以对有过违约记录的用户收取更高的利息，是因为以往的数据显示，这些人常常会再次违约”，但在这一过程中，违约者曾经未能及时还款的原因却是未知的，可能他拒绝支付，也可能是因为家里出了紧急事故。

然而，如果是因为对以往违约者收取过高利息的做法或是歧视性的贷款行为而导致了再次违约呢？如果每一项决策都加大了未来违约的可能性呢？那么大数据所承诺的“社会科学”就会演变成对身背污点者进行压迫的工具，而受压迫者却丝毫没有还击之力。用以做出判断的算法程序变得越来越不客观，它们将主观偏见伪造成看似中立的分数，从而逐渐成为分配机遇和施加惩罚的仲裁者。由于技术系统将人看作数据点的集合，所以受此影响的人们将不再被当作个体来对待和理解。

一个人不应该仅仅因为生了病就遭到公司解雇，或无法获得贷款或保险(在这个数据驱动的时代，更有可能的原因是，一些秘密算法所加权的健康指标认为该人“可能生产力低下”或“不稳定”)。为了在保密性和透明性之间取得更好的平衡，本书为相关法律的修订提供了许多建议。本书还是一部探讨社会理论的著述，揭露了金钱、权力和数据交易的基本模式。书中指出有些人在肆无忌惮地监控数百万人，而其他人连自己受到了谁的审查都不知道。监控者和被监控者的划分往往源自旧有的阶级划分，这也在意料之中。

黑箱社会The Black BoxSociety

XVIII

虽然经济变化日新月异，但权力和财富的既有层级却比以前更加固化、稳定、坚若磐石。我从这一问题追溯至两种相互强化的趋势：数据的金融化和金融的数据化。当货币反映的仅仅是一个精心设计的算法游戏，以衡量人们的购买力（而不是现实的生产力）时，其价值系统便已坍塌，货币分配也失去了合理性。但在黑箱的掩盖下，权力可以被神秘地解读成为知识，运气成为技能，偶然性成为必然性，垄断成为竞争，强制成为同意。

比较无知学(即对知识的抑制或破坏）是本书的一个中心议题，这是一个很难给予系统性解释的话题。但我已经尝试论证了一些非常重要的症结点，指出了它们之间存在的广义关联，并说明了哪些法律需要修改，以便帮助我们真正了解主流公司的逐利目标。虽然黑箱有些骇人听闻，而且似乎坚不可摧，但并非不可战胜。人们很可能迎来一个可被了解的社会，但首先我们必须看清这个社会已经在多大程度上变成了一只黑箱。

中文出版序

XIX

推荐序∥XI

中文出版序∥XV

目录 The Black Box Society

黑箱社会The Black BoxSociety

VIII

风险与监管∥161
战略上的草率性//166
谎言与伦敦银行同业拆借利率∥170
自我和他人营造出来的账目系统//175
风险与信仰//178
高频交易的低社会价值∥/180
电脑化的市场∥/184
危险的鞅定价方法//186
黑天鹅还是黑箱? //188
金钱、信息和权力//190
监督者由谁来监督?//195
披露的标准//199
虚无的隐私权//201
更全面的披露:致力于公平的数据操作∥203
合法使用数据//206
监视档案∥/214
透明的公民 Vs不透明的政府或企业∥/217
高质量的透明度∥221
第一修正案的万能牌/227
金融界的中央情报局//231
失信的金融监管∥/236
“大到不能倒”和“穷到不能管”∥242
从医疗诈骗执法中获得的启示∥244
国家安全局的企业监控//249
神秘的数字时代//251

第五章

目录

IX

第六章

可被了解的社会//255

黑箱社会∥259

为什么袖手旁观?∥/265

逐渐缩小的政企分歧//278

公共选择的承诺//281

重建信任∥286

黑箱的局限//287

黑箱残局//289

可被了解的社会∥292

致谢∥/295

黑箱社会The Black BoxSociety

X