--- schema_version: "library-reader-v1" source_type: "original_book" title: "微粒社会 数字化时代的社会模式" author: null edition: null publisher: null year: null isbn: "9787508679136" library_document_id: "7519e7db-a39f-4ca7-adbd-76f73bc8f355" source_sha256: "39bccd6e33b7aa8b334316cd0564bcbec252a65780571a7ded732d033baae572" pdf_physical_page_count: 233 pdf_physical_page_index_base: 0 range_start: 150 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355?start=150&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=150&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=140&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=160&limit=10" --- # 微粒社会 数字化时代的社会模式 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=150 | PRINTED_PAGE=131 数字化世界对现实的技术解析将会改变我们曾经熟悉的事物。因为我们的制度还没有为这种全新情况下的粒度做好准备，它们（旧制度）适用于一种更粗粒化的社会，那是一个较为迟钝和慢节奏的社会，而非一个充盈着尘埃般精细数据的生机勃勃的社会—在这样一个新社会，汽车会自主行进，随之而来的是人和机器的区别变得模糊，自治和操控不再对立。 我曾在引言里说迄今为止的社会就像是由台球构成的。我们的制度是根据台球的大小和特性而定。而现在台球由铅丸替代，我们需要一种新的制度性结构与之适应，否则大量的铅丸将陷入混乱无序的状态。我们面临的是解析和解体：技术的解析和社会的解体。 一些实例已经在我们的生活中发生了：专家们的权威正在受到挑战，经理人和员工正在形成新的沟通方式，民主也在针对选民进行的高度解析之下发生着改变。比起这些例子，无人驾驶汽车更是有过之而无不及，因为它引起了更多的变化并抛出了更多的问题——对于这些问题的解决我们甚至毫无头绪。 法律的发展进程 理想条件下，这辆德国制造的汽车能够准确知道自己所在的方位，误差不超过3厘米。车顶的激光扫描仪会向四周发射64条射线来辨认移动的和静止的障碍物；车身周围的雷达探测器以及5台摄像机用来获取周遭环境的信息，其中两台负责3D成像，两台负责辨认交通指示灯。 131 第四章超负荷的制度 ## PDF_PHYSICAL_PAGE_INDEX=151 | PRINTED_PAGE=132 笔记本电脑的屏幕上显示着由无数轮廓和线条构成的世界，绿色线条是经计算得出的行驶路线，黄色线条勾勒出冷不丁移动着的人影，城市的其余部分以蛋糕状的图像显示着。更精确的探测器和更强大的计算能力可以使解析度大大提升，但对于安全行驶而言已完全没有必要。 比更好的辨识更重要的，是更好的理解。在这方面，这辆“德国制造”汽车做得还不到位，导致我产生了这样的错觉：这台机器有点紧张。我只能用描绘人类状态的词语如此形容这辆车，因为我们还不曾拥有形容这种机器状态的词汇。在平稳的行驶中，它会突然刹车，两位研究员为了找到导致急刹车的可能原因，会不停地在电脑屏幕和外部世界间扫视，但通常他们什么都看不到。“它有时就是会做出奇怪的举动。”弗里茨简要地说。 或者说它总会做蠢事，至少从人类的角度来看是这样。一辆要左转的车，车尾稍微地超出了所在车道几厘米，这辆“德国制造”的汽车便认为前进道路受阻而停了下来。在其身后车辆的司机眼中，它就是个白痴。他们按着喇叭紧贴着它的车身驶过。人类真是有病，我站在机器的立场这样想。 机器病得也不轻，不久前我就注意到了这一点：一辆巴士停在了站台，只有极小部分车身突进了我们的行驶路线，帕萨特就突然刹车了。等到巴士开走，它还在那儿等着，分析周遭的环境，然后才敢继续前行。然而，在它身后已然是喇叭声一片。“嗯，”弗里茨淡定地说，“在理解意图这方面，它做得还比较差。”比如说，它很难意识到一辆停在站台的巴士通常会很快开走，自动驾驶汽车应该顺畅地跟随其后。 微粒社会 The Granular Society 132 ## PDF_PHYSICAL_PAGE_INDEX=152 | PRINTED_PAGE=133 人类和机器还不能很好地相处，然而他们将越来越多地分享同一个世界。在我们熟悉的人类世界和工业社会，我们将越发难以生存。机器对我们发起了太多的挑战，它们正在破坏我们赖以建立此前世界的那些确定性。 当社会学家们谈到“institution”一词时，他们指的并非是平日所说的具体机构或者什么全德汽车俱乐部，而是人们以之校准自己行为的社会制度。这些社会制度是构成我们社会的基础：法律、宗教、传统属于这个范畴，而婚姻或民族国家也概莫能外。这些制度有一个共同点：它们的稳定通常归功于一些经常不被察觉、也不会被质疑的根本区别。 我们作为人的形象建立在对自由与必然的区分上。人类是自主的，而机器不是自主的，它是被操控的。但一个自主的机器应该属于哪类呢?我们的法律体系（和哲学传统）在传统上将主体与客体区别开来：主体做出行为，客体承受行为——但一个行为着的客体算什么呢?对法律而言，这种不确定的区分将引发一个又一个难解之题。 相对而言，责任问题一目了然。一辆无人驾驶汽车常年兢兢业业地工作着，它学会了辨识环境，它小心翼翼地行驶着——忽然有一天它将一位街边的老太太撞倒，致其不幸重伤，谁来负责呢?是汽车生产商，是软件的编写者（而软件也在不断“自我学习”，只能有限地被编程者控制)，还是汽车经销商，抑或是车主？或者干脆就是汽车本身？这倒也没那么不合情理，激进的专家还未就此问题展开过讨论。 133 第四章超负荷的制度 ## PDF_PHYSICAL_PAGE_INDEX=153 | PRINTED_PAGE=134 这类责任问题在某些法律体系中（比如英美的普通法）更为棘手，而在某些法律体系中（在德国的法律中，有所谓的产品一生产商责任）相对容易解决。但不管在哪里，都有一点让人非常忧心：可能的肇事者链变得越来越长，而且很难再被一一辨析清楚。此外，软件由成百上千名程序员编写，无时无刻不在更新。这样的一团糟可能带来的结果是，一次事故之后，正如一位专家担心的那样，“所有人都会被控告”，而出于某种惧怕心理，最后无人担责。微粒社会中将泛滥着各式各样的起诉。 另外一个结果可能是，出现全新的法律，将自学型的机器和智能机器人归为某种有权能的主体。所谓的法律人工代理或者电子人在大多数情况下，可能与它们的生产者和编程者一道成为责任主体。这类方案极端而富有争议，距离实现还有很长的路要走。此外，它们对于坚持只将人视作有责任能力的主体的德国法律而言，是完全陌生的。机器不断增长的自主性将会强有力地碾压现有的法律体系。 比责任问题更亟待解决的是许可问题。或许在2017年，最迟到2020年，德国的汽车生产商就将使带有自动导航装置的顶尖车型行驶在高速公路上。高速公路虽然是汽车的“跑道”，但路况清楚明了：大家的行驶方向都一样，没有横向交通，探测器能前瞻到很远的地方。因此那里应该是无人驾驶汽车事业开始的地方。 微粒社会 The Granular Society 134 ## PDF_PHYSICAL_PAGE_INDEX=154 | PRINTED_PAGE=135 然而根据现有法律，无人驾驶汽车是拿不到准入许可的：欧洲经济委员会法规第79条规定，时速达到12公里以上时，无人驾驶程序必须自动关闭。结果就是，德国汽车制造商也许不能将它们最先进的汽车提供给本土市场，而仅能投放到中国或是瑞典—那些没有签署1968年《维也纳道路交通公约》的国家。这会使董事会产生一个可怕的想法：德国，是技术上的落后者。 现在，已有一些公司向当局提出改变法律的迫切呼吁，但这实现起来并不容易：必须在国际上达成一致并修订权威的1968年《维也纳道路交通公约》，这势必是耗时长久而且艰辛的，而且还得知道往什么方向修订，最好是将未来的进步也考虑在内。为此，可能必须放弃道路交通法的基本思想人决定着所有的交通事件。一个如此重大的问题在迄今为止的法律史上从未有过。而要求法学家和技术的进步保持步调一致，在目前看来也是不太可能的事。 此外，随着汽车自动化的不断发展，工程师们越来越注意到，事实上汽车必须像人一样行为。这是对智能革命和自主机器的巨大讽刺之一。自动化汽车需要一种“社会化的编程”。当一辆无人驾驶汽车驶近一个交通繁忙的十字路口，如果没有人的干预，它很有可能无法继续前进。因为它严格遵守道路交通规则，但没有人会这么死板。 人们在开车经过十字路口时会一点点向前试探，以表明我们的行驶意图。我们会不断地试探边界的所在，如果法律允许，我们还会更激进。而在任何情况下，无人驾驶汽车的行驶都是保守的。软件里没有更激进的设定。“这永远不会被技术监督协会接受。”大众汽车自动驾驶项目领导人劳尔·罗杰斯教授这样说道。类似的事情还会发生在高速公路的入口或是建筑工地前变窄的路段：我们（人）会不断地一点一点挤着向前。 135 第四章超负荷的制度 ## PDF_PHYSICAL_PAGE_INDEX=155 | PRINTED_PAGE=136 要是所有的汽车都是无人驾驶的，它们就能相互交流并以最高的效率无危险地解决这些问题。但在至少还会存在半个世纪的人机混合交通中，汽车必须学会像人一样行为。“我们必须将社会行为嵌入这些汽车当中。”劳尔说。 但是，应该怎么做呢？如何给机器嵌入一种安全的不确定性呢?对法律多大尺度的偏离是允许的呢?谁来决定无人驾驶汽车可以有多激进呢?是技术监督协会，还是联邦议会？又以什么为标准？ 然而，比许可问题还要紧迫的是机器伦理学的问题。假设汽车的解析能力已强到足够区分交通参与者们的年龄，而一场事故已无法避免那么汽车是不是该保护一个小孩而撞向退休者？而它又该如何解释自己的举动？又或者一只猫突然横穿街道时，汽车是不是该让道？一个动物得有多大，才能使无人驾驶汽车为它让路，像鹿一样大？或者横穿街道的是一个人——如果一次避让动作会给车上的5位乘客带来生命危险，是不是就该碾过这个人? 这可不是科幻小说。马库斯·毛雷尔，布伦瑞克工业大学研究车载电子系统的教授，该技术领域的先驱之一，已经在授课过程中与学生讨论过这类问题。“这是一个将会越发重要的题目：汽车究竟应该依据哪一种伦理学行驶呢？” 微粒社会 The Granular Society 136 ## PDF_PHYSICAL_PAGE_INDEX=156 | PRINTED_PAGE=137 汽车的伦理学发端于一些小问题：无人驾驶汽车应不应该在交通中顺势而行—通常是指，该不该比规定的速度稍微快些？可以快多少？时速快3公里，5公里或是7公里？或者这取决于具体的交通情况？那么在深夜三点空荡荡的高速公路上又该如何呢？又比如一辆无人驾驶汽车运送着一位伤患—那它是不是就可以开得再快些？可以再快多少？ 劳尔教授提出了另一个问题：一辆无人驾驶汽车正在等红灯，探测器发现其后方正有一辆汽车正高速地撞来—为了避免事故，这辆停着的汽车是不是就该闯红灯，甚至冒着自己也引起一次事故的危险？它需要依据什么进行考虑是乘客的数量，还是乘客的年龄或是其经济能力？ 怎样从技术上解决这类问题是一回事，而使人更加不安的是另一个问题，即我们的制度应该如何应对这种全新的需求带来的负担。如今，人们要对一些以前全凭应变能力解决的情况做出预先规定。 我们的制度是围绕着人作为有决断力的主体而建立起来的，因此它们不必，也不可能对人进行编程。制度以法律的形式只对个体行为的框架进行了规范。我们相信人的理智、经验和责任感，相信人会根据情境做出正确的事情。如果这些不奏效，我们还可以进行事后惩罚或者直接赦免他们。 这种方式极大地减轻了制度的负担，我们能够对大部分的事情做模糊化处理，不做澄清，也不加以定义。决定权在人手中，人可以自行做出决定。对待人可以像对待黑匣子一样。而机器的运转方式不同。它们的行为准则和方式必须一个字一个字地编写到程序里去。一条法律规定必须成为一个有待精确编程的预设。为了能够进行这样的编写，我们必须将所有的规则，包括涉及伦理的，提前加以确定。原本对于不同情境的个人化处理，如今变成了制度的公开决断。 137 第四章超负荷的制度 ## PDF_PHYSICAL_PAGE_INDEX=157 | PRINTED_PAGE=138 我们必须为机器进行双重意义的编码：我们必须将意图写入法律，同时写入控制机器的软件。这听起来明确而简单，实际上却并非如此。因为只有将现在存在于第一层编码，也就是法律编码里的所有不清楚和不确定完全排除，我们才有写第二层编码，也就是软件代码的可能。而软件代码不容许语义的含混，代码必须明确表达意见，这样机器才能照着它说的做。那种模糊的存在，诸如人的自由或是直觉，在这里是没有容身之地的。机器不是自由的，因此在我们给它们做出的规定里，我们就没有了自由空间。 最近，4位美国科学家做了一次引起轰动的实验，让我们初步领略了与上述问题有关的困难。他们预先假设：“我们将很快进入这样一个时代那时，机器人将被编入程序，以遵守法律或贯彻法律的执行。”这些机器人可能是机器警察和军事机器人；也可能是装在每辆车里的电子行驶日志，一旦驾驶员超速，它便会自动开出罚单。但是怎样编写这样的系统呢? 为了得出结论，科学家们一共招募了52位程序员，要求他们各自写出对每次超速都能加以惩罚的软件。程序员们为此获得了一台车载电脑上的数据，数据记录了一次通过丘陵地带的超过一小时的行驶过程。程序员们同时获得了沿路不同的限速数据。此外，这些程序员们被分成了三组：第一组需要遵循法律原文；第二组遵照法律意图；第三组则由科研人员给出编程指令的细节，比如在发现违规情况时酌情处理。 微粒社会The Granular Society 138 ## PDF_PHYSICAL_PAGE_INDEX=158 | PRINTED_PAGE=139 结果差异巨大。“法律原文”组的程序在时长一小时的行驶过程中平均开出了490张罚单，“法律意图”组的程序则平均开出了1.5张罚单，而第三组的程序连一张罚单都没开出来。程序员个体之间的差异甚至更大：一位程序员给这次短短的行驶过程开出了932张罚单，而许多人只开出了一两张。 差异因何而来？实验结果表明，几乎所有的预先规定都能以不同的方式被解释和编写。仅对“如何界定违规”这一问题就有许多不同的答案。某人在限速每小时50公里的区域时速快了两公里，然后将降到48公里，而后又加速到54公里，之后又降速到47公里。他违规了多少次呢？因为两次超过了限速而算作两次违规，还是因为加入了对违规时间间隔的考虑，而将两次违规算在一起从而只算一次违规？那么两次超速行为间隔多久，才能被算作一次超速呢?程序员们有的选择30秒，有的选择30分钟。又或者，因为驾驶员一直在宽容限度之内行驶，所以在本例中一次违规行为都没有？那么这个宽容限度又该是多少呢？ 还有许多其他的问题。一位程序员开出的罚单以此为依据：看驾驶员在违规时有无收到系统的警告，因为他在收到警告后有几秒钟的时间调整行驶速度。这样的反馈系统会大大改变罚单的数量。另外一位程序员建议，惩戒视情况而定：针对深夜空荡荡的高速公路上的违规行为的惩戒应该与白天繁忙的城市交通中的有所不同。另一个影响罚单数量的重要因素，是程序员们选择何种粒度的数据。行车记录中的速度精确到了小数点后6位，但在进一步的观察中科学家发现，程序员在编写程序时行车速度只精确到了每小时0.6公里。也就是说，程序员如何取整数值，也能造成巨大的差别。 139 第四章超负荷的制度 ## PDF_PHYSICAL_PAGE_INDEX=159 | PRINTED_PAGE=140 这些问题中没有一个是不能解决的。但这个实验非常清楚地表明，如果我们要将法律条文编程输入智能机器，我们的制度会碰到一种巨大的对于决断的需求。因为影响可能会非常重大，所以必须顾及每一个微小的细节。此外，对机器的预先设定还必须不断地与技术的进步相适应。 而且这个罚单实验只涉及了可以做决定的问题。伦理上的进退维谷被绕开了。但是别忘了：一辆无人驾驶汽车需要在交通事故无法避免的情况下决定是撞向5个小孩还是一个退休者。一位汽车驾驶员或许会凭直觉决定，而无人驾驶汽车依凭的则是一种做决定的程序—这套程序或许也是在随机地进行决断。然而问题在于，我们会不会接受这样一种“可疑的道德”。我们需要更加明确的规则。而我在此感兴趣的，不是这些规则长什么样，而是达成一个决定需要经由怎样的制度之路。 这样一个根本的伦理选择或许只有联邦议会才能做出。但想象一下与此相关的辩论场面：议员们在制定生或死的标准！民众代表在议论人的相对价值！ 这样的讨论或许会使参与者在价值观上的根本不同得以体现。一群议员会以康德的义务伦理学为证，根据这种理论，每个人的尊严都是不可伤害的。另外一群议员会从功利主义的角度加以辩论，将5个孩子的生命看得比一个退休者的更重。还有一些人将会提出亚里士多德式的问题，即我们想借由规则实现和提倡怎样的公民道德。数千年来，人类一直在争论这些问题，却没有得到一个具有普遍约束力的答案。数字化社会的粒度要求的正是这样的答案。 微粒社会 The Granular Society 140 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/7519e7db-a39f-4ca7-adbd-76f73bc8f355.md?start=160&limit=10)