技术至死 数字化生存的阴暗面

让我们来比较一下哲学家彼得·辛格(PeterSinger)对利他主义的论述。20世纪70年代，辛格批评了一些经济学家，后者认为利他主义是和石油一样的资源，“用得越多，留下的就越少。”辛格却唱起了反调，他问：“为什么我们不该以为利他精神就跟性能力一样呢：用得多，它也就能不断自我更新；但如果很少动用，它就开始萎缩，到了需要用的时候完全用不了?”同样，哲学家迈克尔·桑德尔也呼应了辛格的看法，他写道，“利他主义、慷慨、团结和公民精神，和会用完的商品不一样。它们更像是肌肉，能锻炼通过锻炼来发展、变强。”

当然，上面的饼干一例，并不涉及为他人做牺牲，但想象一下也很容易：毕竟，无法和他人合作(如分享饼干)，很可能会被归咎于意志力储备量低。用伊万·伊里奇的话来说，意志力是一种感觉完全自然的需求，可以用生理学来解释；利他主义和桑德尔用“公民精神”来概括的所有其他美德，则更类似道德要求，需要我们学会欣赏和实践。两种范式都可以解释相同的行为，但这两种范式，存在一点关键的区别：意志力的讨论和对错讨论无关；超出个人层面的行为是否值得做，还没有成熟的办法进行区分。但可以肯定的是，判断是否从事某一行动的时候，我们需要知道的不仅仅是它对我们的意志力储备有什么样的影响。我们用意志力是来干嘛的呢？关于这一点，心理学家默然不语。

356

枝术至死

蒂尔尼和鲍迈斯特是自我跟踪的热情爱好者，他们写道：“现在计算机越来越智能，现在有越来越多的计算机在看着我们，可它们并未发展出自我意识(至少眼下还没有），也并未跟我们抢夺权力。相反，它们通过增强我们的自我意识，提高了我们的力量。”在赞赏意志力的人眼里，自我意识是改变行为的关键。但请注意，他们主张的是个人主义的消费者自我意识，而不是公民的自我意识，公民的着眼点是对公共福祉，以及便利追求公共福祉的法律和技术基础结构。他们想要的自我意识，跟“大自然保险丝”、“毛毛虫”延长线、电脑游戏“Fatworld”所培育的那种诗意的自我意识很不一样。

蒂尔尼和鲍迈斯特的承诺听起来很甜蜜：“不用再付钱给医生和医院去修补身体，你可以监控自我，避免疾病。不必再听从营销人员提供的快餐食品和及时享乐，你可以安排自己的生活，让自己沉浸在有利于健康和自觉性的信息里。”这里的思路是：分散的消费者对医疗改革无动于衷，只一心想着最大化自己的福祉。推想起来，买不起自我跟踪设备、因为关心隐私不愿自我跟踪的人，一定会被斥为不成熟的反技术顽固分子。这不禁让人想起博格斯特所说的“去他妈的蜡笔”：没错，我们有些人或许能够找到巧妙的工程解决方案，抵挡阴险的营销，但在一片对现代技术的赞美当中，我们难道不应该对营销本身做点什么吗?如果我们能让食品公司难于向目标儿童兜售不健康食品，为什么非得要消费者自我监督，磨炼自己的意志力呢？政治行动彻底消失了；我们不是去改造系统，而是修补自己，像瑞士银行家对待金库那样，对待自己的意识力金库。

凯特·麦戈尼格尔(Kate McGonigal)所著的《自控力》(TheWillpowerInstinct)，是近来面世的另一本讨论意志力的书。这本书进一步扩展了个人主义逻辑。凯特·麦戈尼格尔(她就是前一章我们提到的简·麦戈尼格尔的孪生姐妹)指出，既然我们的意志力和自控力储备都有限，那么，我们不能把它们浪费在宏大而重要的全国性项目上；相反，我们应当把它们留下来，用于节食这样的重要个人追求。“与其指望我们整个国家发展出更多的意志力，去满足我们最大的挑战，倒不如只要有可能，就把自控力从这个方程里给拿出来至少，减少做正确的事’所需要的自控力。”她写道。她赞同卡斯·桑斯坦和理查德·塞勒的“推搡”，因为他们“让人们更容易做出符合自己价值观和目标的良好决定。”

智能的工具，愚蠢的人类

357

在实践中，这意味着，麦戈尼格尔不愿意我们面对诸如“毛毛虫”延长线、“勿忘我”台灯等强迫我们注意到自己消费习惯的开放式设备，而是希望我们转向全自动系统，无需任何人工干预，就把待机设备或阅读灯帮我们关掉。就算人类从来没有意识到什么是正确的事，这类新系统也会做“正确”的事。注意到两者之间（也即不允许酒驾的汽车，不容忍待机状态的延长线)的区别很重要。如前所述，只要用户在知情的条件下，决定将部分决定外包给机器，这种做法也未尝不可至少，用户清楚地意识到了自己的认知偏差。

然而，在社会关系系统中，对抗酒驾的技术，其言外之意不如使用消费电子产品的技术那么复杂。有可能，在车里使用了防酒驾技术，能让你减少对酒后驾驶问题的关注，甚至可以说，一旦所有的汽车都配备了这一技术，酒驾问题也就随之消失了。然而，就算所有的延长线都会自动关闭待机模式下的电器，恐怕仍无法解决能源问题。事实上，后者恐怕只让用户产生了一切尽在掌握的自大错觉，令得能耗反而更高。我们的确存在认知偏差，但这并不是我们不去思考调节人行为的复杂系统的借口；把人的所有决定都外包给智能延长线，或许能够纠正一项具体的认知偏差，但有可能让其他认知偏差变得更加严重。并非所有心理学都没用。

麦戈尼格尔对意志力的分析，和她的双胞胎姊妹对游戏化的分析很类似，两人都彻底回避了道德问题，认为它无关紧要。凯特·麦戈尼格尔认为，我们不必再用着“美德”一类的字眼，从道德的角度谈论行为，而应当专注于个人的行为带给我们自己什么样的感受。“我们理想化了自己渴望善良的欲望，许多人相信，自己最大的动力来自内疚和羞耻。但我们想骗谁呀？得到自己想要的东西，回避不想要的东西，这才是我们最大的动力。把一种行为上升到道德层面，只会让我们感到更加矛盾。”这是一个非常奇怪的说法：它认为公民除了大吃巧克力棒、开SUV之外什么也不做；其他类型的行为概无可能。我们在之前章节看到的那些瑞士公民(允许在自己的村庄附近兴建废物倾倒站），难道是以自利为动机的吗?要是当真如此，他们肯定愿意拿现金。在公园里，人们把别人扔下的垃圾捡起来，处理到，难道只是出于自利吗？

358

枝术至死

为什么我们不应当再从道德的角度出发做事，麦戈尼格尔提出的唯一论点是“准许效应”频繁出现，也就是个人认为自己(通过在“全食”有机超市购物)已经做了足够多的好事了，不需要再担心气候变化。“如果你感觉像个圣人，就不会为自我放纵的想法感觉不安。而是感觉很对。如果激励你自控力的唯一东西，就是渴望做个足够好的人，那么，每当你自我感觉良好，你就会放弃。”麦戈尼格尔写道。但我们在这里再一次看出，麦戈尼格尔想象中的公民，享有大量的权利，却几乎不承担任何责任。他们只是在不同品牌的肥皂和寿司里挑挑选选，抵挡不健康或者太贵的东西。至于说，做正确的事情需要为共同利益做出一定牺牲，或是有些时候，什么才算是“正确的事”，并不那么明显这一类的情况，她几乎未曾提及。她的沉默不难解释：面对这些牺牲，她宁肯选择桑斯坦和塞勒的“推搡”方式，这样，就不用把自己的意志力浪费于此了。

自我跟踪、“推搡”、游戏化，甚至情境犯罪预防、数字技术先发制人日渐高涨的吸引力，只能从过去十多年更广泛的知识语境中去理解。如前所述，现实很可悲，哲学，以及其对美德、良好生活的关注，完全被心理学、神经科学、经济学（的理性选择分支）及其各类组合，如行为经济学等给打败了。因此，政策制定者们不再调查和审议我们行动的动机，努力分清好坏，而是着迷于给我们提供合适的奖励，或是彻底消除做错事的选项。俗话说得好，小心总比后悔好。

智能的工具，愚蠢的人类

359

当然，即使在哲学里，也不再流行讨论美德和良好生活了；非要谈这些，人就会给看成铁杆保守派。的确也还有迈克尔·桑德尔和玛莎·努斯鲍姆等极少数人例外；但他们的存在，恰好证明了规则：政治正确的自由主义意识形态主导了我们的公共和学术辩论，判断良好生活的问题，只需要个人就可以了。因此，我们的哲学家提出了众多如何最佳分配商品的理论，却很少谈到如何评估商品。不过，迈克尔·桑德尔对市场的言论，也完全适用于技术：“我们不愿意把良好生活的不同观念带入政治辩论，这不光让我们的公共话语变得贫瘠，也让我们装备不良，市场日益插足我们的生活、影响越来越大，我们却无从与之抗争。”

不是说，自我跟踪和游戏化会有损我们生活的愉悦我们都知道，我们在玩游戏的时候总是很享受的；而是说，它们会减损我们生活的意义，不再容忍人类生存条件的种种怪癖和需求。这样的安排还可能阻碍我们个人和政治的发展，哪怕它们能让食品公司推出对我们身体有好处的全新营养补剂，技术公司则用新的应用程序挑战我们的手指头。除了跟踪营养补剂的效率，测试游戏软件的性能，生活还应当有更多的内容吧这么想难道太天真了吗？

无障碍的陷阱

除非(社会及技术领域的各种)设计师、建筑师和工程师放弃“做人是怎么一回事”的简化模型，要不然，技术至上主义就始终会保持至高无上的地位。虽说Facebook的谢丽尔·桑德伯格有这个想法，但我们不会为了10年后完好无损地进行恢复，就把稳定、真实的自我交给技术。技术积极地塑造着我们的自我概念，甚至可以界定着我们对“自我”的看法和认识。技术塑造了我们的认知轮廓，告诉我们哪些东西可以妥协，哪些东西不能；技术定义了我们自我实验的结构和进度。

360

枝术至死

如果我们的整个生活都按照情境犯罪预防方案进行了优化，如果所有的诱惑都被消除了，如果我们别无选择，只能做正确的事，那么，我们用来培育自我的精神牧场，也就大大缩水了。如果我们采用用动态的观点看待人格，把它当成是一种只能缓慢而逐渐浮现出来的东西(在个人自我发展语境下以及更广阔的数代人发展的历史语境下)，那么，我们就可能不光看到自己做了什么、没做什么，更关注自己是怎么做(和没做)的。换言之，如果把自我本身看成是偶然事件，永远都在流动，那么，自我浮现的过程也就跟自我带来的行为同样重要了。按照这种看法，我们行动的过程和程序，跟行动的结果同样重要，因为只有通过相互欣赏和两者之间的张力，我们才能成为自已这个人。

如果一套方案想通过奖励孩子勋章和游戏积分来动员他们帮助老人，另一套方案则通过动员孩子们的公民责任意识来这么做，那么，哪怕两者实现了完全相同的结果，造就出来的孩子也完全不同。使用来自经济学和理性选择理论的过度简化模型，存在这样一个问题：每当它们面对一种全新的情况，就必须设想出一套抽象的、独立的、与历史脱节的全新公民设定。故此，如果想动员孩子去做不同的任务（比方抗拒小饼干的诱惑去解数学题），就立刻忘了先前通过玩游戏鼓励帮助老人的那种孩子—许多软件和项目就是这么干的。但孩子们显然不能像计算机那样重新启动；我们需要孩子两者都做，我们需要他们一点一滴地积累经验，而不是让经验互相抵消。构建一个只有最有效结果（而非实现这些结果的过程)的世界，不太可能让孩子们意识到人类激情、尊严和尊重的深度。收集勋章带不来尊严；在本可以别有选择的情况下以高贵的态度做事，才能带来尊严。修补了这块精神牧场，其他的选择说不定就消失了体现尊严的可能性也就随之泯灭。

智能的工具，愚蠢的人类

361

另一些思想家同样认识到了流程、框架和程序在促进人类繁荣、便利民主辩论方面的重要性。伊恩·博格斯特在论述视频游戏的时候指出，视频游戏最有利于审议的地方不是内容，而是所谓的“过程逻辑”(procedurallogic)。“视频游戏等过程性媒体通过加载有关事物内在流程的争论，切中核心。”博格斯特写道。“我们创建视频游戏的时候，就是在对这些过程发表主张，哪些过程我们赞扬，哪些我们忽略，哪些我们想要质疑。等玩这些游戏时，我们会对这些主张提出询问，进行思考，将之整合进我们的生活，并将之付诸未来的人生经历。”

博格斯特举了《霍华德·迪恩角逐爱荷华》(Howard Dean for IowaGame)的例子，这是2004年，在霍华德·迪恩参加总统竞选时推出的一款游戏。游戏的目标是为迪恩阵营招募尽量多的志愿者；招募就是它关键的过程。玩游戏的时候，你有可能会得出结论，游戏仅仅是一个数字游戏，而无关候选人在论辩议题上的立场：你招募的志愿者越多，筹集的资金越多，你获胜的概率就越大。这款游戏成功吗？好吧，如果它没有为迪恩的竞选活动拉到更多的实际资金或支持，那么它恐怕算不上成功。但博格斯特认为，这样的标杆说不定是错的。“游戏不是要拉人赞同，这一点可以用是或否来衡量，而是想要带来思量和审议，这意味着不立刻赞同，也不立刻反对。”这款游戏本身对政治和民主辩论进行了批判。而一款让你点击新闻标题、获取勋章的游戏却做不到。

同样，法律理论家朱莉·科恩（JulieCohen)也强调，在版权政策和隐私语境下，流程和结构非常重要。一些结构会变成壁垒和边界，但对自我的浮现同样重要(尽管许多极客并不这么看)。“计算机科学家和技术设计师总是倾向于认为，互动操作性上的技术障碍，是需要克服的人为限制。”科恩写道。她认为，这种信念部分地源于极客们“在智性和美学上都推崇无缝的互动操作设计，而这种推崇深深地扎根在计算机科学与工程学的技术性文化当中。”若是考虑到Facebook对“无障碍分享”的迷恋（以及，早在20年前，微软就对“无障碍资本主义”产生了迷恋)，还有苹果公司“无缝”计算的承诺，科恩恐怕是对的。但她立刻又指出，“问题不在于是否应该存在限制，而在于采用怎样的方式找到限制，能够最有效地促进人类方方面面的繁荣。找到限制之后，我们可以质疑它们，但这并不意味着，所有的限制一定都是不合理的。”

362

枝术至死

在隐私的帮助下，我们获得了一种能力，可以在自我成形的空间周围设置、维持此类限制，可因为自我跟踪、终身记录的增多，外加无处不在的计算，隐私不断受到侵犯。这些限制画出了我们精神牧场的场界，便利了我们个性的浮现没有个性，我们就只是茫茫人海中的一员。隐私的目标不是要保护自我免受侵蚀，而是要创造边界，让自我浮现、变异，并逐渐稳定下来。这里，重要的是框架(或过程)，而不是结果或内容。换句话说，限制和约束，也可能有正面作用哪怕整个“互联网”历史都持相反的主张。

真实性问题也存在类似的情况：我们不是通过表达有关自我的某些内在真相来实现真实(早在18世纪，卢梭就曾揭穿过这种关于真实性的说法)，而是靠在传统和惯例（由我们所从属的群体里的其他成员设置)的约束之下行为自主且一致来表现真实。一如哲学家伯纳德·威廉姆斯(BernardWilliams)在《真理和真实性》(TruthandTruthfulness)一书中指出，只有在此类社会限制之下，我们才能理解真实性项目；没了社会限制，真实性项目就丧失了一切意义。从表达真实性是一种自由选择这个角度来看，如果人在荒岛上孤独出生、长大，是无所谓真实性的。

智能的工具，愚蠢的人类

363

因此，和谢丽尔·桑德伯格的主张相反，我们不应当以为Facebook只是在便利我们表达真实的自我，而是应当问清楚Facebook是怎样居间调解真实性这一条件的（它有时候靠的是树立新障碍和新限制条件，但更多的时候，则是靠摧毁障碍和限制)。

数字技术极大地扩展了我们进行自我实验的小房间的门与窗，我们如今已经来到了这样一个时刻：这些房间马上就要变成玻璃房子了。科学史学家彼得·盖里森(Peter Galison)和法律学者玛莎·米诺(Martha Minow)甚至警告我们，有可能出现一种在技术和法律推动下的“下行螺旋”，影响人的自我感觉也就是自我表达、自我试验的空间感，尊严和沉着感，无需当众陈述的轻松和宽慰感。”

所有这些概念都有历史，故此不应当看成是不可改变的。但我们不能因此就偏离眼下最紧迫的任务，也即识别出它们在我们生活中所发挥的促进作用，并争取捍卫它们。或许，现在是时候考虑这样的可能性了：如果人们放弃隐私（换取优惠券或者更个性化、更高效的搜索），那么，他们放弃的东西可能远超自己的想象，他们交出了属于自己、且不应当变卖的东西。在隐私和尊严领域，我们需要类似“大自然保险丝”式的项目：我们有这么多人乐于用隐私交换更好的搜索，因为这么做的后果，我们尚未完全看清。我们并不知道，公布自己健康信息的决定，是否会对某个患病的人造成影响。除非我们意识到自己应该替别人承担起这样的考量，要不然，我们是不太可能在做决定的时候想到他们的。

不足为奇，由于自我显现的过程仍然很难追溯，很多人仍然相信，自己有着稳定、完全自主、永不改变的自我。但在我们等待此类项目出现的时候，不妨听听盖里森和米诺的意见，放弃过度简化的功利主义理论，为自我显现和繁荣保留一定的空间。盖里奇和米诺写道，“考虑到自我的复杂性，将隐私概念简化成纯功利性的框架，就像是把一尊雕像压扁，在二维空间理解其本质一样。这种扁平化举动，或许会让安全及隐私看起来像是简单的平衡动作(在天平的左右两边各放上12盎司的砝码)，但它无助于承认人们所需的审议空间，无助于尝试新的行为方式或不同的讨论方式。”

364

枝术至死

更深刻地认识到自我的动态和突变性质，还有助于我们更好的评估各种新兴技术。举例来说，“自动勾勒”(automatedprofiling)指的是依靠数据挖掘技术，预测我们的某些特点，并将此类知识用来对我们浏览的网站、接收的在线广告进行更好的个性化定制。法国哲学家保罗·利科(PaulRicoeur)在名作《作为他者的自我》(OneselfasAnother)中提出，我们自我意识，是通过站在别人的角度，远距离观察自我这种方式来部分构建的。要有所行动，我们首先要预计他人对我们的期待，并尝试预测他们会对我们的行为赋予什么样的意义。随着我们拒绝或自觉地投入我们认为他人对我们的看法，我们的身份也就形成了。但比利时法律哲学家米雷·希尔德布兰特(MireilleHildebrandt)在利科之后指出，要是我们的个人轮廓由计算机而非真人构建，“我们就再也无法访问这些轮廓了。我们无法质疑它们，抗议它们的使用，修改其内容而面对替我们做侧写的真实的人，我们可以这么做。”

当然，我们会竭尽全力通过Facebook呈现最好的自我肖像（讽刺的是，这或许只是因为我们担心，要是不自己上传资料，别人会误解我们)，但我们或许再也不具备预见他人对我们期待的能力了，因为我们不光不知道网络上到底流传什么样的有关自己的数据，也不知道不同的算法会从这些数据里得出怎样的见解。这似乎是我们身份构建方式上的重大转变—没有理由认为，这种不确定性会造就更好的人类。

智能的工具，愚蠢的人类

365