黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

企业都在寻求性价比最高的经济型员工，它们就像在搜索我们的上网记录一样审查着我们的工作记录。这种数据分析行为通常被解读为奖勤罚懒的方式，但事实却没这么简单。大多数人都不知道自己的信息正在被别人获取，即使知道，也不知道这个过程是如何运作的。比如，我们根本想象不到，在Facebook上加入一个小组这样明显没有任何危害的行为会导致自己遭到官方审查并且马上失业。

我们不知道数据是如何从这一极流向那一极的：正如美国联邦交易委员会得出的结论一样，“数据交易缺乏最基本的透明性”，事实确实如此。例如，法律支持我们的老板和大数据对我们进行监督，美国宪法第四修正案对政府审查公民的权力做了一些（最基本的）限制，但雇主并不受此限制。一位女职员曾经用雇主的电脑搜索“压力锅”，而同一时段内她的丈夫搜索了“背包”。即使该女职员已经从这家公司离职，其雇主仍旧向地方警局报告了她的“可疑行为”。于是6名特工到她的家里登门调查，其中两名是地区政府联合反恐特遣队的成员。

第二章

数据失控时代的网络信誉

031

通过一些投诉、调查和泄密事件，我们偶尔可以向黑箱里窥视一眼，并看到信誉分析的运作过程，于是一幅数据失控的场面逐渐呈现在我们眼前。数据经纪商可以利用私密和公开信息，例如结婚、离婚、置业、投票或成千上万的其他事项来影响我们任何一个人的生活。法律禁止政府收集某些类型的信息，但数据经纪商并不受此限制。并且一旦信息被收集上来，政府便可以随意购买。于是，企业和政府在“数据监督”方面开始协同合作，并对个人生活的私密信息进行交易。

美国的隐私法十分零散并且效力极弱，完全无法抵挡大数据的隐秘侵袭，于是经常会有人遭受灾难性的、不公正的评判与对待。只有整个社会都致力于公平的数据操作，数据歧视现象才不会继续恶化。

数据（和数据之外)

即便实现了数据公平，我们也不要忘记，这仅仅是迈向公平的第一步，而且是微不足道的一步。因为在一个数据评级无所不在的世界中，我们很多人的日常生活都被处理成了“信号”，并作为实施奖惩、给予利益和施加责任的依据。关键决策的得出不取决于数据本身，而在于如何对数据进行运算分析：即电脑软件中的计算编程。如果对相关运算程序没有一个清晰的理解，也无权质疑不公平的运算过程，那么即使披露了一些基本信息也不会对捍卫信誉评定的公正性起到丝毫作用。我们在个人理财中常会碰到一个概念—信用评分，它可以让我们进一步认清“评分”领域中的承诺与陷阱。

黑箱社会The Black BoxSociety

032

从信用记录到评分：原始的黑箱

征信局最先创立了用于对个人进行关键性判断的黑箱技术，但他们却对数据的收集和分析方法秘而不宣。在20世纪60年代，缺乏专业能力的“调查员”让一些没有实际意义的内容充斥在其所提交的报告当中，例如外表邋遢、不勤于家务和“女人气的举止”。这种监察方式令人不寒而栗并且有失公平—几乎每个人都有一些习惯行为被捕捉并成为证据，从而被归类为不可信任的人或者遭遇更糟的情况。缺乏制约的报告标准加上当时普遍存在的各类偏见，这个体系的弊端便显而易见了。

1970年，关于征信局的新闻报道足以令人警醒，以至于美国国会通过了《公平信用报告法》，要求征信局在制作卷宗时既要力求准确，又要注重相关性，并且要求档案公开，接受公众审查，而且公民有权查看自己的记录并要求对错误之处进行更正。这一举措就像一剂正义的阳光杀毒剂，让人们从局外人变成了局内人。在档案可查之后，性别取向和家务问题之类具有争议的特征就再也没有出现在征信局的报告当中。

数据失控时代的网络信誉

第二章

033

然而，能够对征信局进行质询并不能保证准确性的实现。记者史蒂夫·克罗夫特(Steve Kroft)曾在《60分钟》节目中报道称，他同一家大型征信局的一位“处理质疑信息的工作人员”做过交谈，对方以一种强势的态度直言不讳：“征信机构总是对的。”他还说，局里要求他们每天审查90个案例，平均分配给单个案例的时间不到6分钟。即使能够了解真相，他们也不能为投诉者解决问题。克罗夫特的报道引发了人们对这一行业的强烈控诉。

虽然征信局抗议《60分钟》节目的报道有失偏颇，但他们之前的履历并不清白。有报告指出，征信局总是极力防范，躲避责任，将自己承担的义务降到最低。例如，联邦法要求他们通过AnnualCreditReport.com网站公开用户的征信记录，并且每年免费向用户提供一份副本。而征信局则建立了“FreeCreditReport.com”网站，诱导毫不知情的人们购买昂贵的信誉监测服务。假冒网站层出不穷。为了不让人们访问真正的网站AnnualCreditReportcom，征信局“取消了该网站与隐私权资讯中心、消费者协会等知名消费者网站和主流新闻网站之间的链接”。2005年，美国联邦贸易委员会的执法者不得不介入其中，但最终的罚款额度（相对于欺诈行为产生的收益，罚金仅占其中极小的一部分）根本不可能产生威慑效果。

更令人沮丧的是，就在美国开始重视信誉报告的透明度时，越来越重要的信誉评分系统却仍然处于暗箱操作之中。银行和信用卡发行者通过评分预测借款人逾期付款的可能性，较低的分数意味着针对此人的借贷利率将会大幅增加。然而，评论家们认为这些评分并不透明，并且具有随意性和歧视性，但评分者们却无意回应。

黑箱社会The Black BoxSociety

034

现实情况令人非常不安。信用评分已经脱离了本来的金融环境，它被广泛地应用到了其他领域（比如汽车保险领域)，并成为综合信用度的评估要素。如果一个失业人员带有不良的信用记录，那么即使他自身没有过错也会很难找到工作，这样他就更没有能力偿还债款了。一旦逾期付款，他的信用评分就会更低，需要缴纳欠款的利率也会更高，这就形成了一种恶性循环。信用评分关乎个人成败，所以评分程序应该确保透明。

2010年，在次贷危机发生后，许多房屋业主希望知道到底是谁在持有他们的抵押贷款，他们通过一个名为“去哪儿揭秘”的网站获得指导，迫使收取抵押支付款的人证明其是否拥有这样的法定权利。在那场危机中，有关丧失抵押品赎回权的诈骗空前泛滥，很多文件的签订都很草率，有的文书未经适当审查就被自动签署。鉴于这个背景，你可能会理所当然地认为信用评分系统会给那些费尽周折核实财务信息的人加分，可事实却恰恰相反。一个按照“去哪儿揭秘”网站的指导提出质询的房屋业主称其信用评分降低了40分。在这个“海森堡遇上卡夫卡”的非理性评分系统中，哪怕是你只是想弄清评分因素的做法都会降低你的评分。

评分系统看上去像是一个公平的游戏，可由于它缺乏透明性，所以只有内部人士才能真正了解其中的规则。费埃哲(FICO）公司和征信局都鼓吹它们的评分系统属于公平模式，但在论证这种公平性时却只是泛泛而谈。他们的宣传口号总是老一套：按时还款；不要超出信贷额的上限，但也不要远避信用借贷；建立一份记录，使你的信用史有迹可循。有关于此的自助书籍和自助手册不胜枚举。“FICO论坛”等互联网集团曾对信用卡公司的操作方法进行过探讨，并试图对其评分结论进行逆向解析，但即使是对这个谜团做过最透彻的研究，人们也很难精准地预测出其行为将会产生怎样的后果。

第二章

数据失控时代的网络信誉

035

益百利(Experian)、环联(TransUnion)和艾可飞(Equifax)这三家征信机构对成百上千万的个人进行了评分，但评分方式却不尽相同。在对50万份档案进行研究后发现，“在不同的征信局之间，至少有29%的用户评分会出现50分以上的差距”，这50分意味着可能要在抵押贷款期间多付几十万美元的利息；除非这几家征信局在私下都怀有不同的目的，否则这样的评分差异只能说明评估程序具有太强的随意性。“去哪儿揭秘”网站的事例就突出表现了这种不可预测性。如果这些评分规则不能公之于众，那么即使是循规蹈矩的公民也难免会陷入麻烦。当某个用户主动降低自己的信贷限额时，他可能只是想预防诈骗或者节约开支，可他也许不知道征信局会专门留意那些缩小自己信用额度的用户，于是他不但没有因为自己的谨慎而获得一个更高的信用评分，反而会惊讶地发现随之升高的“债信比”在不断

黑箱社会The Black BoxSociety

036

地拉低他的评分。

信用评价以一个三位数的形式展现在公众面前，显得非常具体、清晰，但这个美好的表象下面隐藏着隐秘的操作流程。无论是被评分者还是管理者都难以对其进行质疑和审查。有位专家注意到，“单纯的数字评分过于简化，不够具象，而且难以提出质疑”，这使得黑箱式的评估都不可避免地带有一种主观性。数字可能会给人一种客观、真实的感觉，就像数学考试成绩一样。可过去20年间的大量投诉事件表明，它并不像信用评估者声称的那样客观与可靠。

评分的社会

当这种隐秘的信用评分成为一种泛化的信誉标准时，就会产生很多问题，但至少信用评分程序中使用的数据和基本框架是公开的，并受到监管，而从广告网络到消费者评分的消费者档案领域则成为法律监管的盲区，它们和那些不规范的信用报告机制一样恶劣至极，但公众却对此一无所知。

征信机构不再追踪我们的性取向，也不再根据我们的房屋整洁度进行评级，但仍有一些人会搜集这些信息并据此获利，他们想知道某人是不是同性恋，或某人如何管理自己的财产，或某人是否拥有财产。营销人员都垂涎于这些信息，征信局留下的真空地带上已经挤满了幕后的操控者，其中包括不受监管的数据采集者、经纪商、传感网络，以及对我们的数据和信息进行收集和审

第二章

数据失控时代的网络信誉

037

查的分析员。

早在2002年，一台数字视频录像机的主人录制过一部关于双性恋者的影片，在此之后这台录像机就总是自动地保存同性恋主题的节目，于是它的主人只好又去花花公子频道录制了一些东西，这才劝说（即向软件中的编码程序发送正确的信号）这台录像机改变了“看法”。从前大数据的追捧者们总是辩称，人们给出的数据越多，机器就越能够做出更加精准的预测。可一个显然的问题是，机器本身就可以自行获取并且利用这些数据。

网络环境中也存在这种情况。麻省理工学院的一项调查表明，同性恋者“可以被他们的Facebook好友辨识出来”，并且会有不法分子利用社交网络上的性取向信息谋取不正当利益。一个没有“出柜”的用户在一篇同性恋婚姻报道中表示过支持，随后他便收到了一份带有彩虹内裤图案的广告，指导他如何“出柜”。

至少美国的同性恋者已经不像过去那样遭人鄙视了，甚至有人曾笑称彩虹内裤代表了一种包容，但试想同样的情况在俄罗斯可就是不同的结果了。而且无论在何种情况下，大量特征化信息的泄露无疑都是不利的，而且会令人敏感。有一次，OfficeMax公司不慎发出了一封致“女儿丧生车祸的迈克·西伊”的邮件。西伊的女儿确实在一年前丧生车祸，但这则信息怎么会跟OfficeMax的营销战略联系在了一起呢？这引发了所有人的猜测。公司没有对此做出解释，也没有揭示它的信息来源。数据经纪商会跟客户达成协议，表明他们不会成为泄露信息的渠道。隐秘的数据大亨们在企业保密性的面纱后面偷偷窃取用户的个人隐私，于是我们将看到这样一种趋势：企业的保密范围将会不断扩大，而个人隐私的范围则会不断缩小。

黑箱社会The Black BoxSociety

038

数据失控不仅听上去十分可怕，而且会让我们付出实际的代价。评分机制正在从金融领域迅速延伸到更加私密的领域。健康评分已经出现，“身体评分”甚至可能会变得比你的信用评分更加重要。移动医疗程序和社交网络可以为你提供无限机会，帮你获取救助，使你能够建立社群，还可以帮你解决健康问题。但同时它们也在大量获取着你的健康数据，并且基本上不受健康隐私法(这些法律规制的是医生、医院和保险公司）的束缚。它们还为数据滥用敞开了一扇大门。从数据评分者到经纪商等上游中间商，再到接收信息的企业、雇主和政府机构，他们都有可能成为数据的滥用者。

即使是处于监管之下的健康数据也可能会造成意想不到的结果。让我们看一下沃尔特和宝拉·谢尔顿夫妇在路易斯安那州遭遇的困境吧。他们想要参加Humana公司的健康保险，但这家总部设在肯塔基州的大型保险公司却拒绝为他们投保，原因是宝拉曾经服用过抗抑郁药物来改善睡眠，并且用过降压药来缓解脚踝肿胀。其他保险公司也同样拒绝为这对夫妇投保。谢尔顿夫妇怎么会想到几个处方就会使他们处于投保无门的境地？即使知道又能怎样呢？他们的医生又能做些什么？在谢尔顿夫人接受药物治疗的那个时代，这种使他们夫妇遭受排斥的健康数据模型还没有盛行起来，而如今，处方报告体系已经发展成了一个巨大的经济产业：一家数据服务商曾在报告中称，他们为其客户带来了“5:1、10:1甚至20:1的经济回报”。

第二章数据失控时代的网络信誉

039

记者乍得·特修恩(ChadTerhune)曾于2008年首次报道过谢尔顿夫妇事件，他还详述了处方数据是如何在个人保险市场上遭到滥用的。有些公司会去药房收集成百上千万条的信息记录，然后把它们卖给保险商。保险商们都非常渴望获得这些信息，因为这可以使他们获得竞争优势，避开那些可能会产生高额医疗费用的投保人。由于1%的病人占据着5%以上的医保成本，而且5%的病人会占据将近一半以上的成本，所以保险商希望“优选出”那些健康的投保人，同时“筛选掉”患病概率大的人群。相对于为所有申请人投保的做法，“筛选”法可以大大提升保险商的利润。处方数据为保险商提供了必要的信息，使他们知道怎样为客户量身定制保单，怎样将已经患病的人群排除在外，怎样对一些投保人收取更高的费用。

具有讽刺意味的是，收集这种数据的初衷是为了能够在紧急救护的情况下获知患者的医疗信息，以便为其提供帮助。但在这个计划搁浅之后，这些信息记录反而成了歧视病人的手段。如果说这里面体现着华尔街信条的话，那就是：它促成了一种快速制胜的经营战略。

黑箱社会The Black BoxSociety

040