微粒社会 数字化时代的社会模式

幸运的是，这件事情并没有像它平常被描述的那样令人绝望。奥地利研究人员维克托·迈尔-舍恩伯格和英国记者肯尼思·库克耶在其值得一读的《大数据时代》一书中提出了可能是最有启发的建议。他们将希望寄托在所谓的程序审查师身上。这些人不是鲁道夫·斯坦纳学院的电脑专家，而是计算机工程师、数学家以及统计学家，他们的任务是审查所有类型的程序：在公司，在行政部门，在大学。正如会计师之于收支平衡表，他们的存在只为程序。像会计师一样，程序审查师负有公正和认真负责的义务，必须对错误和欺诈行为担责。

舍恩伯格和库克耶以会计师为蓝本设计这个新的职业分支并非偶然。会计师也出现在一个存在着剧烈变革和社会复杂性迅速增长的时代。在19世纪末的工业化进程中，公司成长为大型康采恩（一种高级垄断组织形式）和企业集团，不再能被人们看清，它们—正如今天的程序一样——高度不透明地运行着权力，会计师的工作因此变得必要。自1870年德意志帝国确立了对股份制公司进行审查的责任之后，会计师这项职业不断发展，其造就的关于精确和保密的职业道德，甚至被写进了法律。今天，这种审查形式显得如此理所当然，以致我们都忘了这种行为在当时受到了怎样的争议，而应当强制企业公开账目这一思想，在当时又是如何令人感到匪夷所思。

151

第四章超负荷的制度

因此，企业或许必须承担起使自己的程序接受审查的义务。计算机学家阿努帕姆·达塔在他的多项工作中证明，如何在不检查所有运算步骤的情况下，发现程序对隐私的侵犯。于是，一家公司甚至不必公开每个细节，仍然能让审查得以实现。这些检查的技术都是高度复杂的，但在这里，它们和通常的会计工作也没有什么本质上的不同。

斯坦福大学教授爱德华·费尔顿也在开发类似的方法。他将自己的方法称为负责算法。他的重点是，不仅对私人的，还要对国家的程序进行透视。例如，机场的一个程序要决定哪些旅客需要接受额外的检查。这应严格地遵循随机原则，但果真如此吗？这个程序会不会系统地歧视特定群体？怎样才能一方面对此加以确定，一方面又不将（机场）程序的运行机制公之于众，从而白白地教会潜在的恐怖分子如何避开检查？费尔顿提出了一些解决之道，其目的在于让国家程序保持机密的同时，又能接受审查。大量的程序由此得以在公正的基础上得到审查，而又不至于以一种有弊端的方式被公开。

实例表明：透明是可以实现的，只是还缺乏标准化的方法。簿记的正确与否之所以更容易检验，是因为所有的收支平衡表遵循着同样的范式，有着同样的目标。而被编写的程序则高度个别化地运行着，服务着完全不同的目的。问题在于，一个独立的程序审查师团队是否有能力审查一个大企业如谷歌的程序，更不用说能否理解了。审查是极端复杂的，目前我们甚至还不知道在此过程中需要尤其注意些什么。程序的中立性或者无党派性意味着什么？它可能存在吗？比起不公正的程序，公正程序的特点究竟为何，是什么将好的程序与坏的程序相区别？坏是对谁而言，公平是依据怎样的标准，公正又是凭着怎样的理论？

微粒社会 The Granular Society

152

这并不是说要反对有关程序审查师和负责算法的想法，而是要将挑战挑明。透视程序的制度肯定是复杂的，集巨大权限于一身，而且有着灵活的指导方针与标准。这是可能的，也应该是目标所在—只是目前，这超出了我们的视野。

另一方面，自数字于4000年前出于管理的目的在美索不达米亚被发明以来，会计师们还是给自己的出现预留了一些时间。有关程序的问题从出现到现在还不到60年，而问题的大规模出现也就是近20年的事。而现在，现存制度解体的速度，已经超过了新制度创建的速度。所以说，在程序拥有者和程序涉及者的不对称性方面，或许不会出现立马的改变。

关于数据保护

没有哪种机制像数据保护一样面临着解体的威胁。德国研究机器人法的唯一一位教授、维尔茨堡大学的埃里克·希尔根多夫教授认为，20世纪70年代才出现的数据保护，在实质上是“一种贯彻不力”，他同时自负地补充道：“而德国法律最不能忍受的，就是贯

153

第四章超负荷的制度

彻不力。”

可以不夸张地说：数据保护就它目前的形式而言，已经过气了。它的种种前提已然不对，它的类别已然失效。数据已经使保护机制解体了。

程序所加工处理的东西，就是数据。如果说程序是骨架，数据就是肉或者脂肪。脂肪层正变得越来越厚，因为数据在越来越多的地方产生着：在电子邮件、电话、视频和图片里；在上网、看电视和在社交媒体上进行互动时；在看医生、开车和乘飞机时；在度假、工作和运动时；在机器之间的交流中（这种交流产生着目前全球大部分的数据)，在工厂里；通过卫星，通过服饰；在读电子书时，在用iPad（苹果平板电脑）学习时。大量的数据创造出了一个数据保护还未做好准备的世界，这个世界对数据保护而言，过分苛求了。

这里并不是想就数据保护和个人隐私问题进行详细的议论。但我想简要地指出，数据保护这一机制是如何解体的，以及我们该向何处探寻新的保护。

旧的数据保护将个人数据与非个人数据区分开来。这看似有道理，毕竟要保护的就是个人。只是随着大数据的到来，原以为匿名的数据也会泄露个人信息。只要数据足够多，对个人的识别就是件轻而易举的事情。其实在今天，几乎所有的数据都以这样或那样的方式与个人相关——只是对它们的处理必须按照法律的意志进行或是加以严格的限制，然而这却是徒劳的。

类似的情况也发生在禁止原则上。禁止原则要求：对涉及个人数据的处理需要征得相关人的同意。这听上去也不错，只是在实际操作中行不通：我们通常不看或是看也看不懂，就在应用程序或某项服务的无比长的同意声明中点击了确定按钮。就算我们看懂了，我们也只能选择使用这项服务或是不用。对数据隐私控来说，脸谱网、推特、WhatsApp根本没有区别。现在的我们被微粒化地把握着，却不能微粒化地回应，只能非黑即白地表示赞成或是拒绝。

微粒社会 The Granular Society

154

实际上，世界上每一种数据法都建立在对于数据的个人控制这一思想的基础上。只是我们完全没有能力进行这种控制。这也源于我们的易受操纵性：研究表明，只要诱使人们以为他们已经掌控了数据，那么他们就会以慷慨得多的方式处理数据。就像拉斯韦加斯的赌客处理他们的钱一样。

法律也要求数据量的最小化，即应尽可能少地进行数据抓取。但这是不是我们事实上想要的呢？或者说在某些领域，我们不正是为了获得尽可能精确的认识而需要尽可能多的数据吗?比如在健康预防方面，在交通指挥或是在智能电网中—为保证源自可再生能源的电力供应，必须获取尽量多的数据。另外，在难于看透的大数据迷云中，单个用户也经常比在数据贫乏的环境中能够更好地隐藏自己。

最后，我们当前的法律对数据用途进行了严格的限定。数据只可以用于之前商定好的用途。但谁又能预先知道数据将会有什么用途呢？谁在之前就能猜到，必应上的提问有助于发现两种药物致命的交互作用？用途限定也会使数据处理可能带来的益处受到局限，可能成为认识和革新的障碍。

155

第四章超负荷的制度

由于目前的数据保护机制还没有被公开废弃，所以我们不断地看到其衍生出新的怪物。其中之一名为“被遗忘权”，它是脱口秀节目里的常客。2014年5月，欧洲法院作为欧盟最高司法机关对这一权利做了首次确认：一家西班牙报纸在1998年对一块地产的强制拍卖进行了报道，报道称，地产拥有者对社会保险负有债务。之后，通过谷歌的搜索引擎也能找到这则报道的页面。那位当初被强制拍卖地产的西班牙人一方面要求报纸删除其报道页面，另一方面要求谷歌删除页面链接。欧洲法院后来判决，报纸的报道页面无须删除，因为其为合法发表；而谷歌必须删除报道页面的链接。

这是一个古怪的判决。它禁止了报道内容的页面链接，却不禁止报道内容本身。它只是使找到令人不快的报道内容变得困难。这个判决之后引起了一连串向谷歌发起的申请，这些申请要求谷歌册除令人不快的链接。由于欧洲法院和欧盟迟迟未对“被遗忘权”做出进一步的规定，到2014年7月，谷歌累计收到了91000条关于删除链接的询问，它们都从自身的考虑出发，谷歌疲于应付。欧盟实际上将实现这个权利的任务丢给了加利福尼亚（谷歌总部位于美国加利福尼亚州)。

如此种种或许也和这项权利极难操作而且引发了严重的问题有关。该权利使每个人都可以随时决定应该删除哪些关于他的数据。这无疑是最大化的个人控制。只是，这种控制该如何实现呢？

两个人结婚后将他们的照片放到了网上，但后来离婚了。现在男方要求将所有有关他的照片从博客中删掉，女方则要求保留照片。谁有道理？听谁的？如果是参加婚礼的亲友的集体照，又该如何处理？个人能否要求将照片删掉？如果想要不伤害他人自由表达的权利，这势难成行，那么对于不同权利的权衡比较又该依据怎样的标准进行？

微粒社会 The Granular Society

156

一本杂志根据公开的数据发表了一篇关于某位企业家的批判性文章。要是企业家认为内容有误、所言不实，他是不是就有权要求将数据甚或连带那篇以数据为基础的文章删除？如果文章不带有批评性质，企业家是否还有权要求删除数据？如果在后一种情况中答案是肯定的，那么以此类推，在前一种情况中答案是不是也应该也是肯定的?难怪“记者无国界”组织会警告说，“被遗忘权”势必“很难与言论自由以及信息自由权达成一致”。

解决之道是什么呢？答案是，目前还没有。这恰恰是微粒社会的实质：到处都是“解体”，却没有解决方法。然而方法正在慢慢形成，但只有那些将自己从两种神话桎梏中解放出来的人才能看清。一方面，他要认识到数据不是什么坏东西；另一方面，他要知道隐私是复杂的，不能笼统地选择保护或戳穿。这里所涉及的是动态的过程。隐私有着极其细微的划分，它会随周围关系的改变而改变。海伦·尼森鲍姆为此创造出了“语境的完整性”这一概念。将数据（信息）提供给医生与在社交网络上找到该数据（信息）有着完全不同的意义。于是，重要的不是去保护一个共同的隐私，而是管理好各种形式的隐私。

数据的情况与此类似。数据既不是祸也不是福，而是一种新型原料，其特性还有待我们进一步探索。我们既无须保护数据不受人的侵犯，也无须保护人不受数据的伤害。数据保护已是一个过时的概念。数据应使我们的生活更丰富，因此我们必须像管理食物、能源或是垃圾一样去管理数据。

157

第四章超负荷的制度

数据管理由此取代了数据保护。为此，出现了很多技术手段，它们有着吓人的名字，如差分隐私或是隐私设计。而接下来我想重点谈谈制度手段。

刚开始时，我们需要的是糖果和鞭子。糖果是指，即便没有个人对细节处理的同意，企业也被允许尝试开展某些涉及数据的创新性业务；而鞭子意为，如果企业滥用数据或是破坏了“语境的完整性”，将受到严厉的惩罚—为此企业必须至少部分地将其做法和程序公开，以接受中立机构的审查。此外必须保证的是，个人虽不一定能强迫企业交出个人数据，却能强迫企业交出所有能够证明其经营风格的数据。因为这正是数据的优点：它也精确地记录了公司做了些什么。或许拉斯韦加斯的赌场正是出于对起诉的害怕，才对自身的数据搜集行为进行了限制，这也证明赌场在系统地促进着赌瘾的形成。

以色列的奥马尔·泰内和美国的朱尔斯·博罗内茨基提出了另一个重要观点。到现在为止，公司和用户之间的不平衡性不仅存在于对数据的处理上，还存在于数据带来的收益上。马克·扎克伯格或是WhatsApp的创始人凭借数据赚了数十亿美元，而用户什么都没赚到。泰内和博罗内茨基建议，不仅应该将数据对用户公开，还要允许用户将数据交给其他的企业，实现物尽其用，获得更多的收益。为此，数据需要符合某种通用的规范，即具有可转移性。脸谱网和其他公司必须将数据与用户分享，因为这些数据是在互联网和

微粒社会 The Granular Society

158

用户的分工合作中产生的。

多克·希尔斯在他的《意愿经济》一书中，提出了类似的观点。他也希望改变这种力量对比关系：不再只是服务供应商，生产数据的客户同样可以占有数据。他们要能储存、经营自己的数据，要能听凭自己对企业的喜好决定将数据交给谁使用。而为了不让他们因此为难，希尔斯认为将会有服务于用户的中间商出现。不再是看也不看就同意，而是由用户向公司提出条件：如果你们想要和我做生意，你们必须把我的数据给我，你们只可以将我的数据与之前就商定好的公司分享，生意做完以后必须删除所有数据。这样的一纸数据合同是“理想化甚或乌托邦式的”，希尔斯写道，但这样的乌托邦会使寻找可能方案的目光更加敏锐。

每一个这样的建议都带着可能的隐患和许多尚未解答的问题，但总体上它们勾勒出了一幅数据保护和隐私在更高程度上被解析的新图像。这些想法有没有实现的机会？这取决于社会压力有多大。人们注意到，相关的辩论已经在远离大众的专家中展开了。在海盗党经历了迅速而狼狈的失败之后，已不再有社会运动以此为话题了。

这可能意味着要么这个话题太过复杂，要么还没有火烧眉毛要么微粒社会还没有产生出合适的集体抗议形式—如果是这种情况，那么就意味着抵抗的“制度”已经被这种新的“解析一解体”渗透乃至破坏了。

159

第四章超负荷的制度

从鬼脸到幽灵提问

到目前为止，所有的抵抗都是由个人发起的。亚当·哈维想出了一个最具创意的防御措施：在他的网站“CVDazzle”上，他介绍了能够误导人脸自动识别程序的发型和妆容。遗憾的是，这些发型和妆容对大部分人来说还是难了点。有一种发型包含了至少三种颜色，还有一缕以深蓝色为主、又长又密、一直垂到下巴的头发此外脸颊上还要补上一条又粗又黑的黑线。其他还有垂在脸前的某种由头发编成的网格，或是卷成蜗牛壳状、盘在鼻子周围的发髻。哈维将这些作品称为鬼脸。无疑，这样的方法不是很实际，这或许也和哈维是个艺术家有关，他并不太在意常规。他更想做的是用他的行动，让人们注意到无时无处不在的监视软件。

但“CVDazzle”的原则是最受欢迎的掩护方法之一：通过错误或是偶然的信息进行误导。让自己隐身的一种可行的方法是，制造尽量多的数据——无关紧要的数据。我们中的更多人或许是从电影《偷天游戏》中的小偷那里得知这种方法的。在影片的结尾，穿西服戴礼帽、打扮不俗的小偷从纽约大都会艺术博物馆偷走了一幅珍贵的画作。他之所以能逃脱，是因为（小心剧透）他雇了上百个和他装扮得一模一样的人进入博物馆——警方在一众嫌疑人中生生错过了真正的作案者。

辅助小程序TrackMeNot的工作原理也是类似的。它会自动不定期地向搜索引擎如谷歌发送随机提问。它的目标不是使数据量最小化，而是相反，它要使数据膨胀起来，而将用户真正的提问隐藏在由“幽灵提问”制造的问题云中，以此掩盖用户的数据痕迹。

微粒社会 The Granular Society

160