--- schema_version: "library-reader-v1" source_type: "original_book" title: "微粒社会 数字化时代的社会模式" author: null edition: null publisher: null year: null isbn: "9787508679136" library_document_id: "7519e7db-a39f-4ca7-adbd-76f73bc8f355" source_sha256: "39bccd6e33b7aa8b334316cd0564bcbec252a65780571a7ded732d033baae572" pdf_physical_page_count: 233 pdf_physical_page_index_base: 0 range_start: 140 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355?start=140&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=140&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=130&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=150&limit=10" --- # 微粒社会 数字化时代的社会模式 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=140 | PRINTED_PAGE=121 掌握。 这种公民的产生方法与之前完全不同。决定公共福利标准的不再是议会或者民选代表，而可能是机器。这种计算无论何时都将是动态的，而且将依赖于输入，也就是说计算结果会因输入系统中的数据和变量不同而发生改变。此外，系统更新和技术进步也可能影响机器的计算。 这种社会的基本原则就是由程序算法导致的、并非本意的歧视。差异革命似乎已经将民主笼罩起来。我们以后可能会陷入一种非常复杂的，由差异、身份和牵涉群体组成的关系网。我认为，并不排除有一天我们的民主体制会建立在程序算法的基础上，但是至少在当前，“我们如何与这样一种碎片化的公众打交道”这一问题还没有完全解决。谁也不知道这些程序算法的计算过程是不是公正或者公平的，这些程序算法在进行计算时是否有倾向性或者发生了扭曲。如果这些程序算法被认为是合法的，如何对其进行公正核查? 而以上这些思考的要点在于，那些我描绘的虚拟场景在很多领域早已成为现实。政策的程序算法化已经在进行了。我们的一只脚已经踏进了未来，只是我们还不知道自己在其中发挥了怎样的作用。 警务人员已经在根据算法对于再犯罪可能性的计算结果决定应该释放还是继续监禁在押囚犯，社会福利工作人员也在使用基于统计的方法为那些穷困的人提供标准化服务。但是那些贫困程度稍轻的人，或者那些由于不可见的原因而被程序算法忽视的人又该怎么办呢? 121 第三章控制革命 ## PDF_PHYSICAL_PAGE_INDEX=141 | PRINTED_PAGE=122 在“反恐斗争”中，尚待完善的预测系统已经投入使用。荷兰就在搜集所有入境者的个人信息数据，通过算法进行分析后将其按照危险等级加以分类。美国国土安全部根据居住地址、账户变动、购票途径、驾照、购票记录、座位和饮食偏好以及其他很多数据，为部分或者所有可能飞往美国的乘客设定了一个风险参数值，这个数值将决定是否要对其包裹进行特别检查，是否要在其入境时进行盘问或者是否要拒绝其签证。程序算法的数据输入和结果输出都是在神不知鬼不觉中秘密进行的。 这种做法的目的就是使风险单体化。一位高级官员曾透露：“我们利用数据，目的在于关注真实的个人行为，而不是针对种族或者民族。这样我们就避免了粗暴的偏见。”程序算法在这里充当的是假定的公正仲裁者。事实上，决定一个人是否可以入境的权力已不再属于正常的法律范畴。导致这种改变的不是可靠的证据，也不是法官，而是一种由程序算法和变量编织而成的不可思议的网。 顺着这个思路，接下来就该将小概率事件视作确定事件。这种做法早在2001年“9·11”恐怖袭击事件发生后就开始实践了。美国前副总统切尼制定了“1%规定”，根据这个规定，即使发生恐怖袭击的可能性只有1%，人们也必须将其视作一定会发生的恐怖袭击进行处理。这会造成逻辑混乱：那些原本需要权衡斟酌的可能性将会变成确定性，可能发生的事将变成事实。这就是全面控制的梦想：不仅控制现在，而且控制未来。 这种做法不仅早已适用于可能发生的恐怖袭击，而且渗透到国家的日常行为当中。对此，最好的例子就是预测性监管。这正是蓝色远景公司利用蔬菜和牙膏所做的事情，只不过这种做法现在由国家应用到犯罪问题上了。由监控摄像头、犯罪统计、天气预报、经济指标、重大事件记录、发薪日以及更多方面信息所组成的大量数据将被处理后用于预测，预测何时何地可能发生哪些犯罪行为。 微粒社会 The Granular Society 122 ## PDF_PHYSICAL_PAGE_INDEX=142 | PRINTED_PAGE=123 由机器给出的预测结果是极端微粒化的。关键的不是那些每个人都可能给出的模糊的表述—比如凌晨两点半在里波巴恩街区（德国汉堡市某红灯区中心街区）会出现更多的小偷—而是尽可能地给出有关犯罪行为、犯罪时间和犯罪地点的详细说明。越来越多的美国城市已经在使用这样的系统，欧洲也正在着力开发这样的系统。在美国首都华盛顿，警察机关正在运用一种软件，这种软件会计算出哪些在押囚犯应该被释放。 这些初步的成功将会被夸大，但是这些系统还太不成熟，它们还不能告诉人们应该如何适应这些程序算法：这些预测可能导致犯罪分子致力于强化他们的不可预测性。 但是，这种适应性反应不是绝对的：一旦这些系统建立起来，它们将彻底改变这个社会。从传统的“犯罪后处理”，即在发现犯罪行为后采取行动，变为“犯罪前处理”，即预防那些尚未发生的犯罪行为。事后的惩处会被事前的行为管理替代，在这种行为管理中，比如警察的出现，会吓退可能的犯罪行为。而这将导致人们陷入逻辑的深渊：如果预测的犯罪没有出现，这到底是证明了预测（以及采取的相应措施）的可靠性呢，还是证明了预测的不可靠性呢——这种犯罪不是从未发生吗？ 无论如何，这种做法都与无罪推定的原则相悖。一旦在犯罪行为发生前搜索潜在罪犯，那么毫无例外地，所有公民都将是可疑的。此前的调查关注的是某种违法行为的发生范围，而现在的调查会将关注范围扩展至我们能够接触到的所有数据。这会涉及所有的公民，就像英国议会在一份引人注目的自我批评的文件中所断定的那样：此后，“每位公民都将被视作不可信赖和不值得信赖的人。如果我们为了验证猜测而持续地搜集关于大众的数据，他们可能会做出错误的事情，从而促使人们认为作为公民的我们是不能信任的”。 123 第三章控制革命 ## PDF_PHYSICAL_PAGE_INDEX=143 | PRINTED_PAGE=124 这种具有指向性的不信任会导致无止境的数据搜集，我们直到“斯诺登事件”发生后才意识到美国国家安全局已然在这样做了。欧盟国家也已扩大了自己的权限，允许政府搜集分析部分公民的数据，从中得出它们需要的结论。所以在欧盟，个人数据该如何保护令人担忧，因为司法和其他国家部门在搜集个人数据时，可以不受常规约束。“保护公民权免受数据饥渴的国家侵害”正系统地陷入失效的境地。国家使得我们在面对国家本身时失去保护，同时建立了一种新形式的控制，就像著名的社会学家加里·马克斯所写的那样：“这种新形式的控制象征着，操控比强制更好，计算机芯片比监狱的高墙更好，远程的、不可见的过滤器比手铐和管制服更好。” 这种微粒化的社会正在对现行的惩戒手段进行解析。虽然法律和惩罚还会继续存在，但是它们将因为持续的监控、风险计算和未雨绸缪而得到补充和瓦解。国家行动的标准将不再是已经发生的事情，而是那些可能发生的事情，国家将不断地通过使人察觉不到的措施规范人们的行为。 微粒社会 The Granular Society 124 ## PDF_PHYSICAL_PAGE_INDEX=144 | PRINTED_PAGE=125 因此，微粒社会中的民主和公正将不只是通过对选战和选民的解析而被改造，也可以通过行政机构正在采用的那些以程序算法为基础的预测机制被改造。而在此过程中，控制权的分布是极其不对称的。公民将会被评测，但他们不能反过来去评测那些评测他们的机构。数字化事物本身的这种矛盾也会给民主蒙上一层迷雾。而且就像我们将在下一章看到的那样，这种矛盾将会挑战法治国家的制度，使其陷入最危险的境地。 125 第三章控制革命 ## PDF_PHYSICAL_PAGE_INDEX=145 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=146 | PRINTED_PAGE=NOT_DETECTED 第四章超负荷的制度 为什么我们失去了原本的法律 ## PDF_PHYSICAL_PAGE_INDEX=147 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=148 | PRINTED_PAGE=NOT_DETECTED 双重进程:解析一解体 三月的某一天，天气阴冷。我任由一辆大众帕萨特带着自己穿过柏林的大街小巷。它做得很棒。在限速每小时50公里的路段，它就开到时速50公里；遇到红灯它就停，同时车内电脑还会提示一声“红灯”；如果一位行人突然出现在道路上，它会立即停下来。没有驾驶员的干预，这辆帕萨特完全是自动行驶的。要是拿掉车顶上洗衣桶大小的激光扫描仪，拆下后轮上引人注目的转动测量器，再移走写着“德国制造”的标识，这辆柏林自由大学的汽车就一点儿也不显眼了。 车身内部也几乎没什么改变—除了挡风玻璃上的5台微型摄像机，以及驾驶员用来随时关闭自动驾驶程序的两个红色紧急按钮。驾驶员名叫弗里茨·乌尔布里希，顶着一头乱蓬蓬的浅金色的头发，身高2.04米，挤在他几乎不怎么把控的方向盘后边。这辆研究用车需要有人能够随时对之进行干预。副驾驶座上，保罗将一台常见的商务笔记本电脑放在膝盖上—对汽车的操控而言，强大的计算能力并不必要。 ## PDF_PHYSICAL_PAGE_INDEX=149 | PRINTED_PAGE=130 谷歌早在2011年就宣布，其在加利福尼亚州和内华达州已经完成了30万英里的无事故自动驾驶测试。汽车生产商紧随其后：戴姆勒-奔驰公司将一辆无人驾驶汽车送上了玛尔塔·本茨125年之前曾驾车走过的那条历史性路段一条穿过狭窄村落、迂回曲折的乡间小路。 自那以后，研究者们就在不断预测，这样的智能汽车将会怎样改变我们的生活。事故将会变少，保险费也将会降低。汽车会变少，因为我们能更轻易地与人共享：早上妈妈用它送孩子去幼儿园，然后让它去爸爸那儿；爸爸在完成了与客户的会面之后，又让它去一位朋友那儿；而那位朋友开着它去采购；晚上它会自动停在市郊，而第二天一早它又会停在主人的屋前。还有无人驾驶的大巴、卡车、的士：道路将会得到更充分的利用，环境负担也会减轻。全新的自动汽车，将会是一个奇迹。 令人惊奇的是，在柏林的这个阴天，只用了几分钟的时间，这个奇迹于我而言便成为现实。这或许与那两个研究员的自信有关。捎上我是他们临时的决定，我们之前都没商量过。那天，我们径直地走到了那个停放着帕萨特、摆放着一些电子显微镜的车库。他俩就这么上了车，打开笔记本启动了无人驾驶程序，然后出发。看起来就是这么轻而易举。 事情当然没有这么简单。这辆无人驾驶汽车就是如今先进的微粒技术的典范。只有对现实世界进行极端的高度解析，才能让它在其中辨明方向。而正因如此，我们将被迫围绕这样的汽车修改我们的许多制度：道路法、保险、基础设施。 微粒社会 The Granular Society 130 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=150&limit=10)