--- schema_version: "library-reader-v1" source_type: "original_book" title: "技术至死 数字化生存的阴暗面" author: null edition: null publisher: null year: null isbn: "0120136503" library_document_id: "13a8d12f-fb2c-4d05-a501-68bf7c192d34" source_sha256: "7696bfb84b8d7866607dcff800a280621c55e8c1b2ef1e3c4aa05f8f15380f55" pdf_physical_page_count: 396 pdf_physical_page_index_base: 0 range_start: 220 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34?start=220&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=220&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=210&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=230&limit=10" --- # 技术至死 数字化生存的阴暗面 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=220 | PRINTED_PAGE=206 这种“道德诚信工程”不仅限于我们去小店里买东西；还规范着我们在日常生活中如何与他人沟通。换句话说，支持“情境犯罪预防”的人最喜欢用的借口(也即一旦“情境犯罪预防”装置普遍化，它们能帮助我们越过“道德日下”的关卡)，可能站不住脚。在我们与朋友日常互动的背景下(人们自然地期待诚实、信任、真诚），能将“情境犯罪预防”逻辑普遍化的唯一方式，就是给每个人配备一台测谎仪。而令人感到不安的是，这很可能正是我们未来的发展方向。一旦人人都戴上Google的神奇眼镜，对朋友使用迷你测谎仪(说不定是以云技术为基础的)的成本也就微不足道了。 克尔举了大量例子，说明技术不再给人类操作员做正确事情的余地，比如一旦你离开超市的停车场，购物车就再也推不动；高尔夫球车编好了程序，司机不能把它开到离草坪太过靠近的地方。对克尔来说，这就像是迪斯尼乐园里的碰碰车孩子们开着特别设计的小车穿过封闭轨道。好吧，“开着”这个说法可能不大合适。当然，孩子们坐在驾驶座上，甚至能把车开到一边去，但地底下铺设的隐藏轨道，总是把车指引回场地中央。迪斯尼的碰碰车不可能撞毁；司机们也无非是受了欺骗的乘客。克尔指出，碰碰车不是要训练孩子们如何开车，而是在取消训练，因为这里不允许犯错。这里蕴含的更广泛恐惧在于，碰碰车的逻辑已经慢慢渗透到了我们生活的其他许多方面，我们需要把一部分的决策权交还给人类哪怕这会带来更低的效率，更多的犯罪。 206 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=221 | PRINTED_PAGE=207 克尔的担忧有说服力，但他的分析里总有些地方让人感觉不对劲。首先，他将道德行为的范围定义得太过狭隘。假设你是一个心不在焉的大学教授，喜欢在繁忙的交叉路口琢磨叔本华，而不是仔细盯着其他的车辆。但你同样是一个很有道德、很有自我意识的人，而且，为了生活，你必须每天开车上班。那么，考虑到你爱走神，你不愿意撞伤他人，你选择了最安全的汽车，车里几乎所有东西都是自动化的。你大可以开心地想着叔本华，又不会从你最心爱的学生身上碾过去。这似乎有悖常理地暗示，有意识地做符合道德的事(尽管需要借助技术来实现这一愿望），反而损害了你的道德。当然，你不可能在每一次左转时都有机会表达你无可挑剔的道德感，但你对自己的驾驶能力拿不准，就把控制权交给了汽车本身，这同样是在表达你的道德心。 当然，还可以拿出其他理由来反对自动化无人驾驶汽车；比如说，随着城市进一步大幅度蔓延，它们说不定会彻底破坏美国残存的公共空间。但这种批评跟克尔对自动化本质的担忧非常不同。或许，我们可以找出很好的论点来解释，为什么掌握非自动化汽车的驾驶方式，跟修理摩托车具有同等程度的智性和审美刺激。同样道理，也有人会主张，依靠自然导航（如风吹的模式，潮汐的高度）比依靠GPS更可取；正如靠详细的菜谱烹饪，比让机器人来指示下一步怎么做更可取。正如最近有本新书的作者赞美自然导航时说，“较之使用这些方法，理解为什么它们管用更重要。”但这并非是对美德的真正关注；就算是《GQ》杂志的读者，也不见得有多少人精通修理摩托车、自然导航，还同时是分子烹饪家4。选择是必须要做的，只不过，这些选择更多地是与美学有关系，而和美德无关。 驳回克尔的担忧还太早了点；相反，我们要把它再探讨得复杂些。法律理论家罗杰·布朗索德(RogerBrownsword)在最近的作品中给我们提供了一条很适合的途径。按布朗索德的说法，监管机构可以使用3种机制来让我们做正确的事。他们可以通过道德机制，指出某事相较于完善的社会标准是对还是错，故此应不应该做。他们也可以通过理性机制，向我们的自利提出诉求，认为我们不应当做某事，因为它最终会害了我们。最后，他们可以通过布朗索德所谓的“实用性机制”。例如，本着“情境犯罪预防”理论家的精神，他们可以让事情从技术上变得不可行，不用再想着打动我们的道德或理性利益。 4分子美食是一种美食流派名，据说是世界上最前卫的料理方式。 更少犯罪，更多惩戒 207 ## PDF_PHYSICAL_PAGE_INDEX=222 | PRINTED_PAGE=208 克尔对“碰碰车”表示担忧，他认为，只有前两种机制才能保持美德，培养我们的个性，但布朗索德指出，只要在使用时给予审慎的考量，第三种技术机制同样做得到。比方说，如果你知道自己是购物上瘾，你可以向银行提出请求，一旦你在同一家商店消费超过100美元，就冻结你的信用卡，那么，从事实上来看，你就从理性机制转向了技术机制。同样，如果你选择驾驶更安全的完全自动化汽车，因为你想要挽救别人的性命，免得自己惹上法律方面的麻烦，你并不见得离开了道德和理性的领域，因为道德和理性考量是你做出决策的幕后动力。 或者，我在这里举一个真实的例子：如今有些赌场依靠面部识别技术，识别、阻止此前就被赌场劝阻的赌博瘾君子再次进入赌场。虽说这里存在一些与隐私相关的问题（不过，加拿大的赌场最近已经通过创新性地使用加密技术，解决了最棘手的隐私问题)，但在技术的帮助下克服人的赌博上瘾症，很难说这有什么违背道德的地方。只要你是自己做出这一决定的，而不是让技术为你做决定，那么，把一些执法的事情交给技术去做，并不存在问题。不过，一旦出现第三方来代替你履行这种机制（不管是公司还是监管机构），事情就真正变得棘手起来。监管机构为什么想这么做呢？也许，这能带来更高的效率，更多的效用，减少犯罪，但这样的话，我们就又回到了“情境犯罪预防”和克尔的数字锁上。或许，监管机构相信，你受制于所有人都存在的认知偏差和局限，正因为此，你可能会受到诱惑去做你其实并不想做的事情。 208 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=223 | PRINTED_PAGE=209 这最后一类假设，就是卡斯·桑斯坦(CassSunstein)和理查德·塞勒(RichardThaler)所说的“推搡”(nudge)层出不穷的原因：“推搡”，是以聪明的方式摆布人选择默认设置(作者称之为“选择架构”)，让你吃健康食物，为了退休而储蓄。推搡之于摆布，一如公关之于广告：它在无形和不言明的条件下完成了所有的背景修补，把事情做完。最有效的推揉让当事人产生了“自己当事”的假象，却不给他们太多的选择。 布朗索德认为“推搡”存在两个问题。“推搡”看似属于理性机制；通过“修补”我们的“选择架构”，监管机构似乎正是为了我们的自利着想。但在真正民主的社会，选择恰当的机制，以及何时在不同的机制之间进行切换，应当付诸公共辩论和审议。换句话说，说节省汽油钱就是开节能汽车的“正当”理由，不见得没有问题。同样道理，说保持苗条、找到更好的工作、更漂亮的伴侣就是少吃饭菜的“正当”理由，也不见得没有问题。没错，也许我们希望人们开节能汽车，应对气候变化，停止中东的冲突。没错，我们希望人们少吃些饭菜，因为新近的研究暗示，肥胖率的增加跟气候变化息息相关。没错，也许，正如一些持“对肥胖保持宽容”立场的活动家所主张，不应该对超重污名化，我们真正看重的应当是“健康”而不管人高矮胖瘦，都可以强壮、健康。 “推搡”仍然属于解决方案主义，只是采用了其他的手段。单纯依靠技术层面的命令强行对某事施以“推搡”的伎俩，是以为社会上对目的和手段存在共识，可惜这样的共识并不存在。随着“推搡”的层出不穷，有关我们应该做什么、怎样去做的不同意见，可能确实销声匿迹了，但这并不意味着，对问题施以“推搡”伎俩真的管了用。“推揉”带来的效率，有可能是被迫达成共识（而不是在公共领域进行真正的民主商议）的结果。 更少犯罪，更多惩戒 209 ## PDF_PHYSICAL_PAGE_INDEX=224 | PRINTED_PAGE=210 “推搡”存在的另一问题更加阴险：只有当“推搡”让我们像监管机构预期的那样行动，它才管用。然而，在某种程度上，这可能需要“推搡”得使劲些（下手太轻了没用）—这就让人不可能不照着监管机构的期待去做了。或许，听到汽车发出警报声，提醒有乘客没系安全带，你仍然可以继续开车。可大多数人一定认为这很烦，会要求乘客把安全带系上。你大概以为这只是让监管机构修补了你的理性机制，而实际上，你根本是纵容他们借助“实用性机制”对你加以摆布了。 道德日下的公民? 在布朗索德看来，真正的问题并不在于技术机制取代了道德和理性机制。相反，问题在于，一旦技术里预设进了法律和规范，就很难质疑、修改它们了。它们几乎完全消失在了背景当中，令人感觉浑然一体；事实上，人们经常将之视为内置环境的扩展，而非某些聪明社会工程师故意计划出的结果。但如果我们希望生活在一个规范和法律不断进行修正、展开辩论的世界里，那么，或许我们应该对将这么多监管委托给技术的做法保持警惕。正如布朗索德所说，“道德社会需要对其承诺不断进行辩论。在这样的社会中，做一个技术管理下的被动监管对象没问题，但同样需要主动地发扬道德公民精神。” 近一个世纪前，美国实用主义哲学家约翰·杜威(JohnDewey)根据对世界的亲身体验，写下有关修订现有理论(包括哪些事情属于道德，哪些不属于)之重要性的观点时，表达过类似的担忧（当然，布朗索德本人并未将自己的看法与杜威扯上关系)。在杜威看来，道德规则是“某种知识工具，有待通过据此行事而招致的后果，来对此进行检验、证实和修正。”因此，我们必须首先“诚实地承认道德情境的不确定性，以及道德规范在经受结果检验之前所具备的假设性质。” 210 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=225 | PRINTED_PAGE=211 举个例子或许可以更清晰地说明杜威的想法。从前，蓄奴、或是限定某些阶层的白人男性参与政治事务，是完全可以接受的。事实证明，按照这样的道德戒条行事，结果是灾难性的，于是，规则做了修改。从杜威的角度来看，在这两种情况下，道德体系都运作良好，因为它让我们认识到了道德的不公正，并对其做了相应的修改。故此，道德不是追求某一类固定的结果，而是维持法律和协商空间，接受这些结果，或对结果展开辩论、修正，如有必要，甚至要将之抛弃。正如杜威自己所说的那样，“正如肉体生命没有了物理环境的支持就不可能生存，道德生活没了道德环境的支持，也不可能延续。”杜威的“道德环境指的就是法律和协商空间的累积，将人们很久以前就以为达成共识的观点给予更新换代。 转向实用性的、靠技术促成的层面，有可能会损失一部分这类的空间。在这本书的最后一章，我们将看到，这并非必然：受一种不同的设计伦理和哲学所启发的技术，事实上可以产生更多(而非更少)的此类辩论。唉，解决方案主义者的技术，来自“情境犯罪预防”式犯罪学，以及蓬勃发展的论述“推搡”的行为主义文献，它们并不以培养或维持杜威式的辩论为焦点；而是以提高效用和效力为重点，它们希望把事情解决掉。 科学知识社会学家布鲁诺·拉图尔，本人就是个杜威迷，他曾经写道：“要维持阵营化的可逆性：这是当前道德关怀与技术相遇的形式”（在这一文本中，阵营化的意思是强迫一种工具或技术只用于一项特定的功能)。解决方案主义者的技术和设计，其问题在于，为了追求不可逆性，他们努力想要实现与杜威、拉图尔主张截然相悖的事情。受这类的技术包围着，我们别无选择，只能按照无名社会工程师以为的普遍规范来行事，最好不对这些规范是否恰当提出质疑。 更少犯罪，更多惩戒 211 ## PDF_PHYSICAL_PAGE_INDEX=226 | PRINTED_PAGE=212 然而，为发挥积极主动的道德公民意识，人需要知道事情还可以怎么做；人需要至少从抽象上把握这些技术的可逆性。这种眼光不是自然而然出现的；我们的技术环境，能够提高或减少人提出质疑的可能性(这取决于技术环境的构建方式)。如果你只去过纽约地铁站寥寥几次，你大概以为，使用全身式入站闸是运营现代化地铁系统的唯一方式。因此，你不大可能对当前安排的公正性提出怀疑，也不大可能发挥出布朗索德和杜威所赞许的那种积极道德公民精神。 与此相比，柏林的系统，则主要靠理性和道德机制来发挥作用。每当你看到检票员对逃票搭便车的人处以罚款，你就有了一次反思车站无入闸方法是否恰当的机会。或许，你会得出结论，这套系统太宽松了，或者，检票员太严格了，又或者，无家可归的流浪汉被逮到逃票，不应该吃官司。柏林的构建环境更接近杜威设想的那种能促成道德公民精神的道德环境。反过来说，纽约的系统太有效了。从解决方案的意义上来说，它符合所有人的设想；就像史蒂夫·乔布斯说的，“它管用。”故此，那些叫人不舒服的问题(比如关于正义和不平等，种族和公共基础设施等)根本没机会拿上台，这反倒成了一件值得庆贺而非哀叹的事。 然而，赞美这样的效率是一种成就，莫过于堕落成了解决方案主义最卑鄙、最极端的形式。从这个角度来说，解决方案主义有可能优化了现行公交运输系统，但它无法跳出这个框框去思考；因为它有意识地封闭了公交系统应该是什么样的的反思空间，让人不大容易设想出更佳的安排。当然，这里我们也忍住诱惑，不把所有事情都归咎于技术；技术本身，并不是杜威式思考和道德生活的对立面。布朗索德对实用性、以技术媒介的机制论述得过于简单当然，论述另一种完全不同的、能够刺激（而非妨碍)思考的技术，也想必十分复杂。若是设计得当，技术可以扩大（而非压缩）造就我们道德生活的协商空间。 212 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=227 | PRINTED_PAGE=213 问题在于，从执法的角度讲，没人愿意宣传并不完美的技术；一种以戒除吸毒为目的的技术，并不打算拉开毒品合法化的大讨论恰恰相反。在这个意义上，尽管技术可以促进讨论，但若是由国家机构和正式的官僚组织来实行，它们又往往难于实现这个目标。因此，由于执法的制度性逻辑，技术解决方案大多呈现出“不讨论”、只重视效率的倾向。一旦我们理解了这一点，道德和理性机制的优势也就更明显了。此外，技术的完美倾向，也更能让我们懂得欣赏这一点：因为法律不完美，才创造出了协商的空间。 先行制止的危害 上述内容如果都是真的，再考虑到纽约人同样经常接触到其他管理更宽松的入闸口设计，为什么没人反对纽约地铁的全身式入闸口呢？最有可能的情况是，没有多少人认为进入地铁站必须收费是一件值得自己关注的重大争议性问题。共识早已达成甚至早在社会工程师钻这个空子之前就达成了。 但并不是所有的法律和法规都这样；和“推搡”一样，很多时候，遭到挑战的不仅仅在于所选机制是否恰当，更在于法律本身是否恰当。换句话说，争议的主题分成了两个层面：你不得焚烧国旗，到底是因为该行为违法，还是因为新一代的智能匹配技术不会点燃任何像国旗的东西；以及，焚烧国旗是否属于违法行为。 法律学者丹尼尔·罗森塔尔(DanielRosenthal)就利用数字技术先发制人(相当于是情境犯罪预防的互联网版)写过一篇重要文章说，由于修正嵌入技术系统的法律非常困难(罗森塔尔称之为“停滞”)，技术机制前景堪忧。数字技术预防犯罪方案认为自己所执行的法律是最终极的，是完善的；它们构成了一个固定变量，这类方案不会对此进行修订。正如杜威很早以前就意识到，这是一种相当天真的看法，世界上从来不缺糟糕的法律，而随着实践不断更新着我们的理论，就算是良好的法律也会过时。 更少犯罪，更多惩戒 213 ## PDF_PHYSICAL_PAGE_INDEX=228 | PRINTED_PAGE=214 例如，许多法律（反私藏大麻、反通奸等等)从技术上说是明文规定，但很少执行。甚至，正是因为警察不大可能执行法律，公众并不强烈反对某些犯罪活动(如各种不道德犯罪，只有参与其中的人才会受到此种罪行的伤害)。可要是将这类犯罪的执法委托给技术，我们最终就会对相对不重要的犯罪过度执法。更糟糕的是，技术执法的过程，以及随后产生的不可能状态，或许会促使公众修正先前认为此类罪行相对不重要的看法。一如另一位法律学者迈克尔·里奇(MichaelRich)指出，“如果让进行某些行为变得不可能了……就会让反对此种行为的社会规范自我强化起来，政府决策者必须极为确定，’不可能’手段只能对准社会真正谴责的对象。” 事实上，有太多人会违反某一法律，本身或许会促动政府修改甚至废除该法律。彻底摒绝了违反法律的机会，政府也就失去了从人民那里学习的一条重要渠道。研究禁酒历史的学者们都很熟悉这一教训。 当然，挑战法律的另一个重要渠道，是非暴力不合作(civildisobedience)。然而，在一个不可能违法的世界里，是不可能出现非暴力不合作的，因为不管违法者这样做的原因是什么，制度没有留下任何违法的途径。许多哲学家和法律理论家争辩说，这就是一个问题，因为，说我们有权选择非暴力不合作，这并不是什么牵强附会的事情。例如，罗纳德·德沃金(RonaldDworkin)认为，这一权利源于我们挑战政府的其他所有权利。只要违背法律是事关我们尊严(或者其他我们认为重要的事情，如言论自由)的一项重要权力，我们就有权不服从。实用性考量在这里无关紧要：预见到我们抗议徒劳无功，并不能剥夺我们的这一权利。 214 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=229 | PRINTED_PAGE=215 对德沃金来说，非暴力不合作还有一个重要的信号价值，因为它能够表明待议的法律并不符合民众共同的信仰或道德这也是我们应当多仔细想想的原因之一：我们的智能数字环境是让抗命变得更容易了，还是变得更难了。反对越战的时候，要是征兵卡是用防火材料做成的，焚烧征兵卡（触犯了联邦法律)还会给反战人士带来那么多象征意义吗？或者，以20世纪最具象征意义的非暴力不合作行为为例：黑人罗莎·帕克斯(RosaParks)拒绝从公交车前排的座位上站起来，坐到后排的黑人那儿去。5帕克斯之所以能做出这一勇敢的行为，因为公交车和它所采用的社会技术系统效率非常低下。公交车司机让帕克斯让位，因为他无法预测有多少乘客需要用到前排的白人专座；等公交车上的乘客逐渐多起来，司机只能实时调整座位的分布区块，而当时帕克斯碰巧坐在临时变成“仅限白人”的座位上。 现在，假设帕克斯搭乘的是不久的将来会投入使用的智能公交。公交车上配备有传感器，可提前判断最近的车站等候着多少名乘客，于是，公交车可以计算出自己能够在不引发冲突的情况下搭载多少名非裔美国人；不能上车，或找不到座位的黑人乘客，公交车会给他们发送礼貌的信息，通知他们等待下一趟车。公交站台上安装的摄像头搭载智能面部识别方案，不停地清点着每个族裔有多少名乘客在候车，并相应地将公交分为黑白两个区块。公交车司机（如果还有的话)可以接入大数据计算机门户(（类似警方的预测软件)，查看历史数据，判断当天可能会有多少黑人乘客，再根据天气、新闻 5美国实行种族隔离制度期间，黑人和白人在公交车上的位置是分开的。1955年12月1日，帕克斯在公交上拒绝听从司机的命令，不肯站起来把自己坐的前排座位让给“白人乘客”，遭到警方逮捕。此举拉开了一场大规模反种族隔离运动的序幕。 更少犯罪，更多惩戒 215 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=230&limit=10)