黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

虚无的隐私权

大量的网络隐私政策都没有涉及披露条款，这让用户们误以为自己的隐私权受到保护，并且可以对过分侵犯隐私的交易和工作予以“拒绝”。然而，一个求职者如何保护隐私呢？大部分的公司都不会公开说明自己将如何监督员工。那么有没有更好的方法让我们成为“监督者”，而不是祈求老板给我们一个不受监督的环境呢？

在家时的情况也不容乐观。网站的服务条款中缺少“隐私政策”，而且一般会通过合同让用户将自己的隐私权让渡给服务的提供者。如果你仔细阅读这些条款，就会发现大量的内容都只对公司起到保护作用，而用户几乎没有任何追索权。在遇到有关服务条款的协议时，人们会机械地点击“我同意”，因为他们很清楚自己无法更改这些条款，并且认为这些条款不值得细读。公司最新的伎俩是加入一条“单方变更”条款，从而可以在不通知对方的情况下随时对合同进行单方修改。这就是带有封建性的市场形式：我们都知道谁在这种“协议”中发号施令。

第五章

监督者由谁来监督？

201

有些学者再三强调用户的关注度，要求他们在认可公司的隐私政策之前证明自己已经真正理解了条款内容。然而我们每天都会接触到大量的数据，根本无暇一一确认。即使发现哪些地方存在问题，又有哪个用户真的站出来进行交涉呢？要想让Facebook和Google这样的媒介平台修改服务条款，对于普通用户而言简直是难如登天。

对于能够责令公司提供实质性保护的“隐私条款”，用户既没有亲身体验过，也不对此寄予希望。对数据流进行分析需要几周的时间，但其回报却寥寥无几。很多公司经常挑战网络隐私的底线，它们在用谎言掩盖自己的行为时常常被逮个正着，收到罚单时也只是将罚款视作经营费用中微不足道的一部分。仅从（很多案例中的)一例纠纷中便可以看出，Facebook曾向用户承诺的若干保证都没有实现：

· Facebook曾向用户承诺，他们会对共享数据的受众进行限制，例如，“仅对好友可见”。事实上，选择“仅对好友可见”并不能阻止这些数据被朋友的第三方应用程序共享。

·Facebook有一个“已验证的应用程序”项目，并对这些程

黑箱社会The Black BoxSociety

202

序的安全性做出了承诺。但事实并非如此。

· Facebook向用户承诺，他们不会将个人信息透露给广告商，但背后却言而无信。

·Facebook声称，当用户关闭或删除自己的账户后，他们的照片和视频将无法访问。但即使在用户已经注销账户后，Facebook仍然允许访问用户的文本内容。

·Facebook声称其遵守《美国和欧盟安全港框架》中针对美国和欧盟之间数据传输规定的管制规定，但事实却并非如此。

Facebook因上述违法行为缴纳的罚金对其来说只是九牛一毛：不到几个小时的收入。目前尚不清楚是否有人因为以上问题被解雇或受到惩罚。同样的情况在其他公司比比皆是。

充分的证据表明，公司并没有真正遵循保护用户隐私的承诺。监管机构需要着手采取措施，强制这些企业针对其所收集数据的规模和内容向用户做出说明。我们不能让这些云计算巨头无所顾忌地对数据加以使用和控制。

更全面的披露：致力于公平的数据操作

我们需要撬开信誉评定公司、搜索公司和金融行业中的一些黑箱。例如，数据经纪人需要如实说明他们对于数据的收集、交易和销售情况。对于不准确的数据，个人应当拥有检查、纠正和提起争议的权利。除非有充分的保密理由，否则我们应当对数据来源有所了解。具有讽刺性的是，一些数据经纪商以“保密协议”为由拒绝给出数据来源。这种肆无忌惮的行为应当予以制止，就像《公平信用报告法》制止报告机构的劣行一样。当然，《公平信用报告法》还远不能称为典范—对信用报告中的信息提出质疑后往往徒劳无益。但如果能够设立适当的惩罚措施，并利用这些措施来管制数据经纪商，检查和纠正数据的权力将成为迈向信用公正的第一步。

第五章

监督者由谁来监督？

203

保护措施应当全面铺开。如果法律只对数据经纪商进行限制，大型企业还会在公司内部进行数据分析。检查和纠正数据的权力必须适当地扩展到公司层面。例如，客户在塔吉特公司购物时应当能够获知商店正在对他们建立怎样的档案。在发生2013年那样重创塔吉特公司的大量数据泄漏后他们将如何评估风险？就像医生必须给病人一份病历一样，我们的数据记录也需要接受公开审查。如果医院能够解决这个问题，大型公司也应该可以。如果大型公司对其客户和员工的健康状况非常感兴趣，那么它们也不应该拒绝执行健康隐私法条例。

黑客和数据入侵行为引发了另一个有关数据安全的关键问题。深深影响着我们日常生活的数据库是否通过合法手段收集而来？信用卡和社会安全号码在无人监管的“黑暗网络”上被疯狂贩卖。被泄露的健康、搜索查询或社交网络数据将出现于何时何地？数据经纪商会不会为了获得竞争优势而肆无忌惮地对其进行买卖？为了避免黑市上对被盗数据进行交易（也为了正确实施公平数据惯例法)，我们应当要求数据操控者对原始数据的来源进行记录，说明这些数据的收集、购买或交易状况。

黑箱社会The Black BoxSociety

204

追踪数据源的方法有助于人们更正错误。目前，大数据库中的错误数据可以渗透到数十个小数据库中，而受害者往往需要一一对其进行更正。如果不良数据的后续使用者不知道该数据的来源，他们可能就不会相信数据当事人。如果他们能够跟踪其数据的出处，更正过程就会容易很多。

这个过程最好能够自动完成：基于数据的决策会对当事人产生很大的影响，因此不能允许出现错误。正如软件升级后可以自动提升计算机的性能一样，更正后的数据也可以通过链接传输给数据库的后续使用者。当然，目前可能还没有这项技术。但是监管机构可以推进新技术的发展。数据操控商所创建的系统仅仅是为了最大化自己的利益，而没有恰当地考虑到数据当事人的情况。正如很多设施具有隐私保护功能一样(例如摄像头会闪烁红灯，警告你正在录像)，联网数据库应当具有基本的保护措施。

当有公司建立你的档案时，你应当拥有审核和更正的权利。当零售商可以预测孕妇的产期并且数字营销商可以将你定为“有双性恋倾向”或“关注糖尿病”的人时，这些记录至少会像常规体检一样令人敏感，所以应当受到健康隐私法的管制。同样，当网络广告经纪人决定是为你提供掠夺性贷款还是传统证券贷款时，他们也在扮演着类似于征信管理局的角色。不能够仅仅因为他们和《公平信用报告法》针对的企业略有不同，就放松对他们的监管。

第五章监督者由谁来监督?

205

大数据公司也需要考虑是否有必要建立某些目录。“女儿在车祸中丧生”、“强奸受害者”或“易受骗老人”等等分类或许可以帮助某些营销鬼才赚得一笔，但也可以引发危险的商业剥削或操纵行为。未来隐私论坛的思想精英们已经开始探索是否可以设立一个机构审查委员会，并通过该机构来判断敏感数据的使用是否恰当，就像大学里对人类受试者研究进行批准的程序一样。这类机构可以批准对数据当事人有益的数据应用，同时延缓或阻止那些不必要、无益甚至更糟的应用项目。

合法使用数据

假设信誉信息领域可以做到完全透明—我们遇到过的所有经纪商、信用评分者以及算法评价者和评级者都不能够暗箱操作。从数据源到经纪商，再到使用者，你可以对任何有关你的细微数据进行追踪。你可以对不准确的数据提出质疑，你可以根据自己的意愿修改自己的各项信息，确保你的品味、兴趣和成就等数据在每一个数据商手上都是最新、最棒的版本。

这样真的可以消除你对新型信誉经济的忧虑吗？大概不会。首先，随着数据应用越来越广，人们(即使是在新型软件和专业知识的辅助之下）很难追踪他们的数据在何时何地被人打上何种烙印。其次，在很多情况下，即使是准确、真实的数据也会遭受不公平和歧视性对待。

黑箱社会The Black BoxSociety

206

例如，信用卡公司会将婚姻咨询视为逾期还款的前兆（并相应地提高持卡人的利率)。寻求专业医疗方案的行为不应当影响到信贷决策。在法律体系中，追求过失责任的做法有时会反过来伤及效能。例如，当有人在楼梯处安装了护栏之后发现，一名提起诉讼的原告(之前曾经摔下楼梯）将安装护栏的决策当成了他摔倒时楼梯并不安全的证据。针对“事后补救措施”的有关证据问题的规定认为，“如果采取的措施可以使之前的损害和伤害不容易再次发生，那么这些事后措施就不能够成为证明过失责任的证据”。司法系统中负责对算法评分进行处罚的监管机构应当注意这点，以确保那些以助人和提高生产率为目的的行为不会受到惩罚。

此外，因为某人患病就提升其利息率的做法显然是火上浇油、有失公正的行为。我们已经禁止在就业决策中使用遗传信息，因为人无法控制他们与生俱来的基因。然而我们注意到，许多普通的疾病（从癌症到骨折，再到焦虑和抑郁）都会给人们带来影响。疾病不应该是信贷决策的判断标准。

无论健康信息对于数据经理人有多么诱人，老板们都不应予以采纳。凯斯西储大学卫生法专家沙罗纳·霍夫曼(SharonaHoffman)曾经提出“通过基于电子健康信息的复杂评分算法来确定哪些人有可能是高风险、高成本员工”的可能性。虽然聪明的雇主从来不会告诉员工“我解雇你是因为你有糖尿病”，但在大数据的支持下他们也许很快就能根据数据集(包括饮食习惯、药品购买记录、杂志订阅等）来预测员工有没有糖尿病（就像塔吉特公司预测孕期一样)。(公司内部和外部的)分析师们可以很容易对诊断数据进行完全不同的解读。在暗箱分析的推动下，公司可能会做出以下行为：

第五章监督者由谁来监督?

207

(1）根据某人的大数据档案（利用来自中间商、零售商、杂志订阅、网上账户以及其他信息）计算数字；

(2) 得出结论：该人可能患有糖尿病；

(3)使用另一个数据库来估计一般糖尿病患者的医疗费用；

(4) 结合步骤2和步骤3得出结论，该人很可能是一个“高成本员工”。

鉴于所涉信息的专有性，大部分公司只会将最终结果告诉被解雇（或没有被解雇）的员工：公司根据数据预测出他们的成本可能会大于他们的贡献。大多数时候，这些公司甚至不需要给出理由。没有原因，不容挑战，大数据成了专横暴虐的法庭。

法律已经开始涉足信贷领域。在这一领域中，申请人在遭遇不良事件后往往只能得到基本而简短的理由作为答复，例如“循环账户太多”或“距离上次开户时间过短”，这些“解释”都属于原因“代码”；它们不是以直接的方式解释发生了什么，而只是简单地提及决策的一个因素。我们知道这个因素比其他未被提及的因素更加重要，但却一点儿也不了解其重要到什么程度。

黑箱社会The Black BoxSociety

208

“代码”这一术语既可以出现在法律当中(如《国内税收法》)，也可以指代软件(将“编码”指令转换成机器可读格式），而且还有故意隐藏的意思。有人为了保密会发送“编码信息”，让第三方不知所云。在通过算法程序进行决策时，代码的第三种含义往往会神秘登场。例如，信誉决策中包含很多模糊或矛盾的原因“代码”，它们可以让任何决策变得合理。可能你的账户开设得过多，也可能开设过少在某一特定时间，哪一种情况都有可能导致信用分数的降低或信贷被拒。

但我们真正关心的是关键决策数据的正确性，希望其中不包含非法或不公平的成分。仅靠原因“代码”做出决策还远远不够，不公平现象在不同情况下有不同的体现。举例来说，现在有许多企业拒绝雇用失业6个月以上的求职者。立法者们正针对这一问题着手提出议案，禁止将长期失业列入不予雇用的理由中。但数字操纵者可能只是在招聘模型中输入“距离上一个工作的时间间隔”项，如果这一项的权重较大，就有可能起到决定性的作用。未来的立法者需要考虑到，大数据商可能会轻松地绕行于法律之外，使信息时代的法律形同虚设。例如，他们可以让“距离上一个工作的时间间隔”占据“招聘成绩”的15%。正如账目规则必须适应公司日益复杂和分化的利益一样，关于信贷和雇佣决策的法律需要包含更加具体的规定，说明应该在何种程度上禁止某一决策项进入计分系统并影响决策。

第五章

监督者由谁来监督?

209

审核体系也需要改善。大数据（或基于它的决策模型）出现问题后不应该由当事人去费力更正。我们没有时间去删除成千上万个数据库中的错误信息，而这些数据又会对我们的生活产生很大影响。监管部门应该承担起更正数据的责任，它们应当对大型企业和数据经纪商的存储信息进行审核，查找可疑数据并追踪数据来源，并确保数据来源的可靠性。在《健康保险流通与责任法案》框架内，美国政府已经与审核专家展开合作，并对医院和医生的数据操作问题进行检测。对于《健康保险流通与责任法案》管辖以外的企业，相关部门可以使用大数据经济的税收（目前估算至少在1560亿美元左右）来支付审核数据操作的费用。

这种监管方式是有模式可寻的。尽管美国的健康法规呈现出多极化态势，但政府在《医疗信息技术促进经济和临床健康法案》中大力推进了基础化的现代数据监管体系，其中很多条款有助于确保病人数据的准确和安全，病人可以随时查看自己的信息，并且有权获知哪些人查看过自己的信息。

在线数据经纪商应遵循《医疗信息技术促进经济和临床健康法案》中的原则，并以此规范自己的行为。举例来说，如果要求数据经纪商在元数据中加入一个用以记录或预测健康信息的H(代表健康)，那么当该模型针对就业与保险查询请求做出回应时，其中的敏感报告和计算信息就可以得到过滤。相关机构还可以通过开发电子取证和重复数据删除软件来去除敏感数据。

黑箱社会The Black BoxSociety

210