黑箱社会 控制金钱和信息的数据法则＝THE BLACK BOX SOCIETY

隐私监管机构还应要求审计人员对数据经纪人的操作行为进行深入了解，从而快速地发现和阻止问题的产生，使数据的收集、标记和过滤操作均能达到标准。大数据领导者们热衷于将各类生活数据集成到数据库中，而其中的关键是分类问题。健康隐私专家已经率先在医疗记录中采用“数据隐私分区”法。例如，将人们看心理医生和看牙医的信息条目进行分隔。大数据的操控者应当更加谨慎地进行数据记录，以确保数据的收集、分析和使用符合公众价值要求，而不是仅仅追逐利润。

最好能够对更多的私营部门进行有效审核。随着存储成本的下降和云计算的普及，决策者可以利用软件默认录制他人的网上“线索”。只要查看一下搜索引擎的“浏览历史记录”，你就会发现这种记录暴露了多少详细信息。

管理机关需要对调整范围进行准确划定，避免重复操作。法律早就对政府机关的信息记录程序做了规定，要求对禁止搜索的信息和普通搜索信息进行区分，并且不得随意记录他人信息。

针对拟议的信誉管理政策，有人提出了几点质疑。第一个异议是，行政法规只要求政府对决策基础进行披露，为什么私营部门也要披露自己的审核信息？这个问题需要分层回答。信贷发行人和保险公司基本上都会受到调控。从金融危机来看，企业要依靠政府，而政府又是企业的“终极风险管理人”。在对金融业放松管制的做法遭遇失败之后，国家和三大行业（金融、保险和房地产）的关系日益紧密，这已经成为奥巴马政府的一个标志。要想一直像现在这样获得政府的资助，这些企业就要有一个“干干净净”的决策基础，这只是它们付出的一个很小的代价。

第五章

监督者由谁来监督?

211

由于雇主和企业要受到许多反歧视法律的制约，所以最好能将上述有关公平数据操作的规定纳入当前的各项反歧视法律当中，而不是以独立的隐私法的形式呈现。丹妮尔·西特伦(DanielleCitron)和其他“网络公民权利”倡导者曾经指出，妇女和少数族裔都是歧视行为的受害目标。鉴于此，维护公民权利的一个重要方面就是要反对滥用网络资源，进行不当决策。

第二个异议是，为什么不对口述内容或私人推荐信采用同等的审核标准?手写的推荐信仅有一个或几个人看到，电话内容也不会被通话者以外的其他人知道。然而，通过互联网传播的谣言和谎言往往会具有持久性、可搜索性、可复制性，并且决策者可以通过软件和数据库查看这些信息。求职者可以将负面的参考内容从自己的简历上移除，但对于网上的负面评论却无可奈何。受此影响的人们至少应当拥有知情权，从而可以知道关于自己的负面信息是否在关键决策中起了作用。

数据经纪商可能会抛出那个陈词滥调般的理由—他们必须对评分方法进行保密，以免狡猾的用户会“与系统进行周旋”。例如，如果人们知道有4张信用卡(不多不少)的用户还贷率最高，那么他们可能就会为了提升自己的信用分数而去蜂拥办理4张卡。或者那些申请收银员职位的求职者可能都会说自己“总爱对顾客微笑”，从而使这一问题在职场性格测试当中失去了预测能力。

黑箱社会The Black BoxSociety

212

上述言论有些危言耸听。很难想象会有成千上万的游手好闲者通过操纵评分算法来制造大混乱，而那些真正想与系统进行周旋的人是不会被保密门槛拦在外面的，比如他们可以通过雇用相关公司与顾问来对神秘的入职测试进行摸底。此外，有人可能会在不经意间披露了关键的决策信息，这种情况几乎无法避免。如果对这些信息进行研究(或逆向还原)，便能够取得不正当的优势。数据科学家凯茜·奥尼尔(CathyO'Neil)称，很容易“被操控的分类工具”在建模过程中非常脆弱。建模者应该寻找一些不容易被操控的预测信号。

评分公司不想让竞争对手知道它们拥有什么样的数据以及如何使用这些数据。然而，在大数据驱动的行业当中，商业成功运作的真正基础似乎取决于相关数据的收集总量—不需要将所持数据和所用算法进行逐一披露和共享。此外，即使绝对保密是一种精明的商业战略，公共政策也不应当鼓励这种做法。几乎没有证据表明不能保密就会有碍创新。与泛滥的自动秘密评分系统对人类尊严产生的威胁相比，这些担心都无足轻重。当这些预测性评分损害人们获得信贷、工作、住房和其他重要利益时，人们至少应当能够获得通知并有权对这些评分提出质疑。

第五章监督者由谁来监督?

213

监视档案

公共部门的监视活动也需要改善数据的操作方式。现有的隐私格局有些混乱，部分原因是下列机构所遵循的标准各不相同：

然而，正如我们在第二章看到的，过去十几年来美国一直在鼓励这些机构，甚至更多的机构之间进行数据共享。地方警局通过融合决策中心与联邦特工联手打击“所有的威胁和危险”。私人数据经纪商欣然担任“老大哥的小帮手”。如果缺乏资金、道德和技术方面的专业监督，私营和公共部门的监视活动将会更加猖獗并且成功地规避质询。

尽管解密行动已经触及美国国家安全局，但这一领域依然十分神秘。不过很多劣行已经遭到曝光。美国公民自由联盟曾记载，“全美执法机构一直在监控并骚扰和平行利用宪法第一修正案权利的团体和个人”。对自由主义者、争取和平者和华尔街占领者进行监测的行为不仅违背了公民权利，同时也浪费了公共资源。

令人遗憾的是，政府部门一直对显而易见的滥用行为视而不见。在2014年针对监控行为的讲话当中，奥巴马总统认为滥用情报的做法在美国历史上已经成为过去—是埃德加·胡佛时代的事情了，现在的政府向来不支持这种做法。从融合决策中心到“联合反恐特遣部队”，再到纽约“人口统计机构”针对穆斯林的做法，很多耸人听闻的事实都不容忽视。从阿拉斯加(军事情报刺探反战组所在地）到佛罗里达（教友派信徒和反全球化活动家都被列入了观察名单)，活动家们一直被视作威胁因素，而不是行使核心宪法权利的公民。政治上持有异议的人通常都会遭到美国联邦调查局的监视。

黑箱社会The Black BoxSociety

214

奥巴马政府坚持认为，还没有人证明美国国家安全局（总统演讲的主题)从事过具有政治性的监视美国公民的活动。而和美国情报搜集网中的1000多所机构和近2000家民营公司相比，国家安全局还只是其中的一个部分。此外，我们对机构之间的信息互通也知之甚少。

以史为鉴。1956\~1971年间，美国联邦调查局的反间谍计划曾经在美国国内通过秘密行动来打击民权组织，以及参加反战和共产主义运动的群体。正如劳伦斯·罗森塔尔所言，“从以往的事件中可以看出，公民在发表受保护的言论后往往有遭遇调查的风险”，当时的政客曾经对此做出回应。丘奇委员会于1975\~1976年发表了一系列措施严厉的报告，并推动了一些基本的改革项目。如果新的丘奇委员会能够重新召集，它还需要在这方面做出努力。政府应当针对具有政治性（或具有伪装性）的国内情报收集行为出台具有实际意义的保护措施。目前这方面还很欠缺，我还没有发现有哪一个政治情报的收集者受到过严厉的惩罚，也没有发现哪一位受害者因为受到无故调查而得到过赔偿。

第五章

监督者由谁来监督？

215

为了推进关于美国监控问题的辩论，我们需要真相与和解委员会之类的机构来对“9·11”事件后情报收集的政治化现象进行审查(和责罚)。很多隐私活动家一直不愿意承认，美国依旧面临着只有通过监测行为才得以发现的灾难性威胁。但美国政府则更加逃避现实，他们不愿承认失控的监控活动已经违背了《人权法案》的规定。我们之前还在辩论自由与安全的平衡关系，而现在我们需要正视的是，很多时候情报人员对活动家的监测行为既不是以自由为目的，也不是为了确保安全。

遗憾的是，目前美国国内的情报机构太过庞大，致使司法机关没有能力对各项决策进行精细审核，也不太可能控制到所有的情报机构(国家安全局、联邦调查局、国土安全部等)、国家级附属机构及其企业密友。情报机构已经“加油”进入了自动驾驶状态。它们对受害者的抗议置之不理，并极力掩盖自已从保密行为中获得的利益。

由于情报操作行为具有非正式性和保密性，所以很少招致人们对于决策的“过多”质疑。健全的法律体制需要借鉴先例—能够帮助法官条分缕析的过往案例，法官可以据此对争议行为的合法性给出权威判决。除特殊情况外，国家安全例外主义将一切情报操作行为挡在了法官的视线之外。此外，即使出现了足够的负面案例，政府也可以借口打击恐怖主义来说服法官。

黑箱社会The Black BoxSociety

216

透明的公民 Vs 不透明的政府或企业

在美国，隐私忧患与政府公开性一直都是一个双行问题。路易斯·布兰迪斯的最高法院意见和远见卓识在隐私法领域留下了不可磨灭的印记，他曾设想法律可以在保证公共领域透明性的同时保护私领域不受窥探。我们必须在国内情报网的技术架构中植入保障公民自由权利的有效措施。但同样重要的是，我们必须确保情报机构以外的人也有机会接触到监测项目中产生的海量数据。

技术在情报监测活动方面可以起到至关重要的作用。根据联邦政府的规定，融合决策中心需要对信息共享网络中的活动记录进行审核，其中包括“用户查询、访问信息、系统间的信息流动，以及这些活动的日期和时间标记”。从事情报收集的政府机构和私营合约商都应进行记录审核。为了防止情报人员以国家安全为名从事政治迫害活动，需要有人来监测他们如何监测他人。

遗憾的是，当前的记录审核制度存在两个问题一个是技术问题，一个是操作问题。记录审核可能会遭遇篡改：有人可以修改记录，并且不留痕迹。这使得记录审核程序对于不当行为的检测功能大打折扣。具有讽刺意味的是，正是这种漏洞使斯诺登把国家安全局搅得天翻地覆。由于对信息记录的访问人员缺乏足够的监控信息，当局甚至无法估计出斯诺登到底复制了多少文件。

第五章

监督者由谁来监督?

217

如果审核记录不可篡改，这一问题就可以得到解决。在不可篡改的审核记录系统中，个人无法破坏网络的记录存贮功能。这就保证了网络活动记录的不变性，同时也增强了这些记录的证据价值。

有些机构可能会表示抗议，称官僚化的记录行为会妨碍其工作。如果他们需要一边工作一边手动记录所有事由，或许这种说法还能站得住脚。但当他们悄无声息地记录别人的通信信息时却反对自己遭受同等对待，这似乎就有些奇怪了。“写一次，读多次”(WORM)的存储驱动器可以对所有的系统情况进行记录，其“设计可以确保写入光盘的数据不被篡改”。为了确保可靠性，“系统可以对记录进行序列化处理并附上数字签名”。在模拟时代中，这一过程中可能产生堆积如山的纸质文件，而如今数字存储和维基记录的低成本操作则可以让这一切轻松实现。随着科技的演进，信息存储的成本不断下降，未来这种趋势会更加明显。

记录审核中存在的一个问题是，审核力度远远赶不上数据的滥用程度，并且很少有滥用行为受到惩罚。造成这种现象的原因很简单，那就是资源问题。正如美国联邦贸易委员会没有足够的人手来对激增的数字威胁进行监管一样，隐私和公民自由监督委员会以及国内情报机构的各类督察员都有些力不从心的感觉。由于人力资源的欠缺，法院也同样心余力绌。

应当拨给监督机构多少资源呢？我们以人类基因组计划为例，这个敏感而宏大的发展项目和其他人类安全项目一样消耗着大量的联邦预算，而研究成果的优劣影响都处于未知当中。该计划的主要资助机构已经拨出研究经费的3%\~5%来检测这项工程产生的“伦理、法律和科学”影响，从而帮助我们对基因数据的误用进行预测(理想情况下还可以预先制止），使这些数据能被更好地利用。

黑箱社会The Black BoxSociety

218

人类基因组计划的核心任务是要探索“生命的秘密”：破解人类最基本的生理密码，寻觅人类的发展足迹。我们现在面临的问题是，强势的政企执行人正在通过无孔不入的监控网络将收集到的信息汇入巨型数据库中，并以此在社会层面上探究“我们的秘密”。就像遗传学研究可能让我们免受疾病困扰一样，通信和信息追踪有助于防止重大损失的发生。然而，当我们的安全机构开始热衷于监控没有恶意的政治群体，或将注意力过分集中在不受政府欢迎的宗教群体或少数族裔时，它就会像基因工程的负面效应一样引发恐慌。生物伦理学可以帮助科学家们识别出人类基因组计划的过度延伸领域，并找到应对复杂道德习得的微妙方法。我们也应当授权伦理学家、律师和技术专家来对不容乐观的安全趋势进行研究，并通过制定政策来遏制不法监测行为。

如果融合决策中心的审核记录不会被人篡改并且受到定期检测，那么不当行为就会暴露，违法者也难辞其咎，从而阻止滥用行为的再次出现。通过将指定威胁和可疑活动报告进行对接，该程序还有助于解决另外一个问题：数据的完整性和相关性。它可以防止在缺乏相关证据的情况下把人们列入监察或威胁者名单。

第五章监督者由谁来监督?

219

而且所有的证据都要标注出处，以确保它们的可回溯性和可验证性(很像确保学术言论有效性的引文功能）。这些保障措施有助于纠正整个监测网络中存在的错误。

隐私保护和国家安全是相辅相成的。例如，如果融合决策中心不加区分地捕捉网络言论，那么任何受到监控的人在帖子中使用“炸弹”一词后都会落入它们的天罗地网。当一名剧评家反复使用“炸弹”一词评论某剧时，如果矫正机制操作不当，融合决策中心就会将其列为监测目标。这种混淆事件听起来十分荒唐，但请记住，计算机的搜索功能在很多重要方面都“不尽人意”。程序员、哲学家戴维·奥尔巴赫(DavidAuerbach)曾经指出：

政府可能会比我们想象的还要滞后；联邦调查局局长罗伯特·米勒(Robert Mueller)在“9·11”事件听证会上承认，美国联邦调查局的数据库每次只能搜索一个词：“飞行”或“学校”，而无法搜索“飞行学校”。2010年底，维基解密公布了一批电报文件，每份文件都带有若干标签。加拿大广播公司发现，一份谈及加拿大的电报被标记成了“CN”，而不是“CA”，但“CN”指的是科摩罗“叛徒”，而非加拿大。还有一些电报被贴上了一个尚不存在的标签“CAN”。可以断定这些标签都是手动标记的。

这样随意和错误百出的政府情报不但不能够保证国家安全，而且还会妨害公民隐私。谁知道他们在处理监控数据的过程中是不是敷衍行事？谁知道哪个加拿大人会被当成科摩罗“叛徒”？在这种情况下，抱怨似乎已经无济于事。我们时刻都在被人“分析”，并且是被片面地“分析”。

黑箱社会The Black BoxSociety

220