技术至死 数字化生存的阴暗面

犯罪将成为遥远的记忆，而法院却变得人员过剩，没多少事儿可干。墙、马路、门、登录屏幕这些实体环境和虚拟环境都变“聪明”了。换句话说，它们整合了自追踪设备和社交网络服务所生成的海量数据，如此一来，只需对用户进行分析，它们就可以预测并防止犯罪行为的发生。既然用户甚至都没有机会实施犯罪，那么监狱也就不再需要了。真乃人道之胜利，硅谷之恩惠。

于是乎便有了新“创意市场”的欣欣向荣。最后“市场”这个词也不再像是用词不当；文化机构则对供需法则表现出从未有过的高效率和灵敏反应。报纸不再刊载读者不感兴趣的文章；自追踪与社交网络数据的激增一道，确保大家能读到高度定制化(到单词级别!)的报纸，后者能制造最高的点击率。没有无人点击的故事，也没有不上推特的头条新闻；打开浏览器，点击链接载入页面，只需短短几秒钟，定制化的个人文章就生成了。

书籍的出版量大幅增长，其中大多数是自出版，而效率也堪称完美。许多书甚至许诺提供多个可选结局，基于读者眼球跟踪活动对其情绪做出判断实时的哦！好莱坞继续活得很滋润。由于大家都戴上了智能眼镜，一部影片就可以有无限多的可选结局，这取决于观看者在观影中某个特定时刻的情绪。职业评论家消失了，取而代之的先是“众人”，继而是算法，最终是定制化算法综述这是让影片与定制的可选结局相匹配的唯一方法。甚至连最前卫的文化出版物，也使用算法来为其他算法创作的歌曲撰写评论。然而并非一切都变了样：就拿今天来说吧，系统仍然需要靠不完美的人类来制造点击量，好以此来从广告商处吸金。

xiv

枝术至死

这段简短的素描式的文字并非摘自加里·施特恩斯坦4(GaryShteyngart)的最新小说。它也不是反乌托邦式的科幻小说。事实上，此时此刻，硅谷的什么人很有可能就在向投资人推销上述技术中的一种。有些可能已经造出来了。它不是反乌托邦，许多极聪明的人不管他在不在硅谷，觉得这种无缝未来令人心动且不可避免，他们的备忘录和商业计划书将证明这一点。

而我呢，觉得这样的未来真是太恐怖了，但也许是出于你想不到的原因。太多时候，像我这样的数字异端，都深陷于给最初的乌托邦方案的可行性挑错的泥潭中。出版效率真的可以达到完美吗？所有环境都能变聪明吗？人们真的只是因为玩游戏才愿意出来投票的吗？对上述方案的效力进行这种拷问殊为紧要，我在本书中对其中许多问题多有思考。但我也认为，我们这些所谓的异端，也需要从硅谷创新者的话语中来感受他们，对他们的聪明才智和创造力多一点信心。毕竟就是这些人计划扫描世上所有的书籍，还有到小行星采矿。十年前，这两个主意好像都十分疯狂，而今天，只有一个还可以这么说。

或许我们应当认真考虑，硅谷真有办法实现它的一些最疯狂的计划，将会带来什么后果。也许它无法靠推特颠覆北朝鲜政权，但它仍然可以做很多事。到了这儿，讨论就应当转向一个不同的语域：与其说对创新者方法的效力进行嘲笑，我们更需要对其目标的适当性提出质疑。我的上一本书《网络错觉》(TheNet Delusion)指出威权政体具有惊人的弹性，它们已找到自己的方式来从数字技术中获利。尽管我曾经(而且仍然)对西方国家不遗余力地宣传“互联网自由”心怀不满，但我的大多数批评只针对“互联网自由议程”的方法，而非目的，假设其目的必定能带来更好的言论自由氛围和对人权更加尊重。在本书中，我对此不抱奢望，硅谷为“解决问题”所做的最新探索，我对其手段和目的都表示怀疑。我在此认为，硅谷永恒改良的承诺削弱了我们提出这种质疑的能力。今天谁会疯到对种种美德提出质疑，比如，消灭政治伪善？又或者，提供更多信息（自追踪的直接结果)以帮助决策？寻找新的激励机制来使人们对拯救人类、应对气候变化或参与政治产生兴趣？减少犯罪？质疑这种干预行为的适当性，似乎在质疑启蒙运动本身。

4 俄裔美国作家，现在哥伦比亚大学和普林斯顿大学教授写作课程。2003年出版第一部长篇小说《俄罗斯社交新丁手册》，受到评论界广泛好评，进入《纽约时报》畅销书榜。2006年出版第二部长篇小说《荒谬斯坦》。

引言

xv

但我觉得，这种质疑是必要的。因此，本书的前提是：硅谷力图通过提高效率、透明度、确定性和完美性，消除其邪恶的双生子，如阻力、不透明、模糊性和瑕疵，把我们都装进数字约束衣。而这终将证明是代价高昂的。出于稍后本书所要阐释的各种意识形态的原因，这一高昂成本尚未进入公众视野，而且仍将如此，假如盲目追求硅谷伊甸园的我们，不能从根本上探究，我们为何对“互联网”这个惑人标签下的各种技术如此痴迷。因此，本书试图将这个大家翘首期盼的天堂的真实成本纳入考虑，并将阐述为什么它们一直以来都如此难以核算。

不完美，模糊，不透明，加上出错、犯错、做错事的可能：所有这一切都是人类自由的构成要素，一心铲除它们，也就铲除了自由。如果我们没有力量和勇气摆脱硅谷心态（后者大大激发了当前技术完美主义的追求），我们可能会发现自己置身于毫无价值的政治活动中，人们丧失了道德推理的基本能力，毫无生气的(如果不是垂死的)文化机构拒绝冒险，只在乎自己的财务底线，最可怕的是，我们可能置身于一个严密控制的社会环境中，这不仅会使异议不复存在，甚至连想都不敢想。

本书的结构如下所述。接下来的两章给出一个大纲，批判了两种主流思想我称之为“解决方案主义”和“互联网中心主义”，它们都支持硅谷宏大的改良实验。在随后的七个章节里，我对这两种思想如何在特定实践环境或改革环境中相互影响进行了探索：提高透明度，改革政治系统，提高文化产业效率，依靠智能环境和数据减少犯罪，借助于自追踪和生活记录来量化我们周遭的世界，最终，把游戏激励机制或称游戏化引入公民领域。最后一章对如何超越解决方案主义和互联网中心主义的极限，设计并采用满足人类和公民需求的技术，进行了更具前瞻性的展望。

xvi

枝术至死

既如此，为什么又要反对这种对完美的追求呢？好吧，我认为不是所有可修补的东西都应当被修补即使最新技术让这种修补更容易，更便宜，更难以抗拒。有时不完美也挺不错的，有时它比完美更好。最让我担心的是，如今正是各种唾手可得的廉价的数字化修补在告知我们什么需要修补。道理很简单：我们修补得越多，碰到的问题也越多。相反，与我们的计算机系统颇为类似，在我们的政治、个人与公共生活中，不是所有的漏洞都是漏洞，有些“漏洞”反而是特色。无知可能很危险，而无所不知可能同样如此：有些大学坚持采用不考虑学生支付能力的录取流程，这是有原因的。举棋不定可能有反作用，而深信不疑也可能会这样：如果你所有的朋友都真的告诉你他们在想什么，你可能永远都不会再和他们说话。效率可能有用，而无效率也可以如此：如果一切都很有效率，那谁又愿意费心去搞什么创新呢？

因此，本书的终极目标，是揭开构成解决方案主义思维定式的态度、倾向和冲动之上的盖子，阐明它们如何在具体项目中证明它们改善了人类的生存条件，揭示这些态度、倾向和冲动为什么能够而且应当被抵制、规避和摒弃，以及该怎么做。因为只有摒弃解决方案主义也就是说，超越它强加于我们想象力之上的限制，对抗它的价值体系，我们才能明白，为什么说，不亲身经历人类生存状况的纷乱复杂，不对传统习俗的大千世界进行诠释，即使实现技术的完美，也可能会物有不值。

引言

xvii

目录

后记 371

译后记 379

o1 贪得无厌的解决方案主义001
$\bullet 2$ 互联网什么也没告诉我们(因为它压根
儿不存在）019
$^ { \circ 3 }$ 开放之痛069
$\bullet 4$ 欲毁掉政治，修补它107
$\bullet 5$ 算法“守门人”的危险149
$_ { \circ 6 }$ 更少犯罪，更多惩戒191
$\bullet 7$ 高尔顿的苹果手机239
$^ { \circ 8 }$ 超人条件283
$^ { \circ 9 }$ 智能的工具，愚蠢的人类335

01 贪得无厌的解决方案主义

“未来人们用更少的时间就能让技术运转起来……因为那将是无缝连接的。它就是会在那儿。网络将席卷一切，却又好像不存在，就像电……如果我们把握好这一点，我想我们就能解决这个世界的所有问题。”

——埃里克·施密特“解决方案主义’把问题(诠释)为存在解决办法的谜题，而不是可以答复的问题。”——吉勒·巴盖特1(Gilles Paquet)

“我们明天能造出什么来?’这个
高于一切的问题使我们看不到真正
的问题，即今天的我们对昨天的创
造承担什么样的责任。”
——吉保罗·多里希2(Paul Dourish)和斯科特·梅恩沃林3(Scott D. Mainwaring)

你偷看过朋友的垃圾桶吗？我干过这事儿。即便从未发现过什么值得报告的东西(不是报告克格勃4)，我也总是对自己不知餍足的好奇心感到羞愧。垃圾，就像你的性生活或暂时的饮食失调一样，是最典型的私人事务，对此说得越少越好。尽管马克·扎克伯格坚称一切活动在社会化的方式下会做得更好，而丢垃圾似乎永远都是个例外这是个人反抗扎克伯格社交暴政的攻不可破的堡垒。

唉，就这么个例外也不复存在了：垃圾箱摄像头(BinCam)，来自英国和德国研究人员的一个新项目，正寻求通过把我们的垃圾箱变得更聪明还有——猜猜看更社会化，来实现我们垃圾处理方式的现代化。它是这么工作的：垃圾箱的内盖装有一个微型智能手机，每当有人关上它时它就拍张照片，当然，这都是为了给你刚刚到底丢了什么来个呈堂证供。紧接着一群通过亚马逊土耳其机器人5(AmazonMechanicalTurk)系统招来的薪水微薄的人会对每张照片进行评估。照片中的物品总共有多少?有多少是可回收利用的？有多少食品？当这一数据添加到照片后，它就被上传至垃圾箱主人的Facebook账号，而且还能被共享给其他用户。垃圾箱摄像头的发明者希望，一旦这种聪明垃圾箱走进千家万户，就可以用Facebook来把倒垃圾变成像游戏一样的精彩比赛。每个垃圾箱每周算一次积分，当垃圾箱里的食物垃圾和可循环材料减少时，这户家庭就会赚到金条和树叶。谁赚到最多的金条和树叶，谁就赢了。任务完成，地球得救了！

1 加拿大经济学家，2003-2005年曾任加拿大皇家学会主席。现为渥太华大学管理学院荣誉退休教授和治理中心高级研究员。

2现任加州大学Irvine分校信息与计算机科学学院教授，在计算机科学、人类学和社会学等领域成就卓著。

3 英特尔实验室“互动与体验研究部”(IXR)高级研究科学家，共同领导着加州大学Irvine分校英特尔社会计算科技中心。

4 国家安全委员会，是1954年3月13日至1991年11月6日期间前苏联的情报机构。

贪得无厌的解决方案主义

001

伴随着垃圾箱摄像头的出现，研究人员还同时发表了学术论文。他们提出的方案无疑出自善意，论文里对此也从未提出任何道德上的疑虑。我们应当让一组公民在另一组公民的监视下做正确的事吗？我们应当把游戏激励机制引入一个此前诉诸职责和义务来发挥作用的过程吗？一个人在环保行为上的“善”能用树叶和金条来精确量化吗？它的量化应该与其他日常活动分开吗?如果你不开车是不是就可以不对垃圾做循环分拣呢?对一个人的垃圾箱进行更大规模的公众监督，会不会导致生态警戒主义的蔓延呢？假如参与者的Facebook好友不再看着了，他们会不会就不再做正确的事呢？

问题啊问题。垃圾箱看起来似乎是最普通的人工制品，却充满了哲学难题和困境。它隐藏在复杂人类实践的世界中，在那里，即便是对表面上无关紧要的行为进行微小调整，也可能导致我们行为的深刻变化。对我们的行为进行局部优化（比如在游戏和不断强化的同伴监督的帮助下让人们对垃圾进行循环利用)，其结果很可能是以全局性的次优化行为而告终。换句话说一旦在简单环境下的最佳激励机制消失了，在别的环境下我们可能也不打算再履行自己的公民职责了。一个局部问题可能解决了一却引起了一些我们眼下尚无法认清的全球问题。

5一种众包网络集市，能使程序员借助人类智能来执行目前计算机尚不足以胜任的任务。

002

枝术至死

像垃圾箱摄像头这样的项目在15年前几乎是不可能的。首先，垃圾箱没有传感器能拍照片并且把它们上传到Facebook这样的网站；而现在，微型智能手机就能以低廉的价格做到这一切。亚马逊并没有一支闲得无聊、拿上每小时几便士的薪水就愿意做任何工作的自由职业大军。(而一旦图像识别软件越来越好，就连这些人类自由职业者也可能没有存在的必要了。)更重要的是，我们所有的朋友绝无可能看到我们垃圾箱里的东西。15年前，即便是我们的个人网站从所有熟人(用极客的话说，我们的整个“社交图谱”)那里获得的关注，也无法跟今天我们的垃圾箱从Facebook好友那里得到的关注度相匹敌。既然我们都在用同一个平台Facebook，那么借助社交游戏和竞赛来掌控我们的行为也就成为可能，我们再也不必按自己的步调用自己独有的工具来拯救环境了。标准化就是力量！

今天，我们的生活越来越多地通过智能传感器驱动技术来达成；我们的亲朋好友可以在任何地方关注我们，从而可能产生新型激励机制。这两大创新将深刻地改变社会工程师、决策者和许多其他社会改革家的工作。大家都渴望开发这些新技术的力量，不管靠单干还是靠团队组合，最终解决特定问题，不管是肥胖症、气候变化还是交通堵塞。由于复杂传感器的发明，今天我们已经有了能基于面部亮度的细微变化追踪并显示人的脉搏的智能镜子；而很快我们就会有能接入“社交图谱”的镜子，一旦我们看起来比大多数Facebook好友都要胖，它就会督促我们减肥。

贪得无厌的解决方案主义

003

或者想想看由英国设计师兼活动家克里斯·亚当斯(ChrisAdams)提出的茶壶设计原型。这种茶壶带有一颗能发绿光(茶煮好了)或红光(可能还得等等)的小珠子。是什么在决定其色彩变化呢？是这样，通过一些很容易找到的开源软硬件，这个珠子联上一个叫做“我能打开它吗?”的网站(http://www.caniturniton.com)，该网站每一分钟左右就查询英国国家电网总用电量的统计数据。如果网站返回的频率数字高于50赫兹的基线，珠子就发绿光，更低呢，就发红光。这么做的目的是提供额外信息，以便负责任地使用茶壶。但很容易就能想到，这样的逻辑可以延伸到很远很远，比如垃圾箱摄像头设计。举个例子，为什么不对人们不在用电高峰期使用茶壶的行为给予兼容Facebook的虚拟点数奖励呢？或者为什么不对那些无视茶壶过度使用警告的人进行惩罚呢，比如把他们不负责任的行为在其Facebook朋友圈里公之于众？社会工程师手上可从来没有过如此多的选项。

如今，无需连接社交网络或数据仓库，单靠传感器就能干不少事了。比如说，老年人可能会喜欢智能地毯和智能闹铃，一有人跌倒它们就能立刻侦测到并通知其他人。甚至垃圾箱的智能化也可以采取一种完全不同的方式。于是，一家起了个迷人名字(“BigBelly太阳能”)的创业公司就希望通过生产太阳能垃圾箱来引领垃圾收集行业的革命。借助内置传感器，太阳能垃圾箱能报告垃圾管理员它们的当前容量，预测什么时候需要倒空。反过来这又可以优化垃圾收集路线，节约燃料。费城从2009年起就在试验这种垃圾箱，结果其中心区的垃圾收集出动次数从每周17次减少到每周2.5次，员工数量从33人减少到区区17人，一年就节约了90万美元。

同样，波士顿的市政官员一直在测试“StreetBump”，一个依靠加速传感器(如今许多智能手机都标配这一运动探测装置)起作用的精妙应用，用以标出波士顿路面上的坑洞。司机只需打开应用开车上路就可以了，智能手机将会做剩下的事，一有必要它就会与中央服务器进行通信。凭借一系列算法，这个应用知道如何识别和忽略下水道井盖和减速带，而只是专心致志地标出坑洞。一旦有至少三名司机报告说在同一地点发生颠簸，这个颠簸地点就被识别为坑洞。同样，Google依靠启用了GPS定位系统的安卓手机来生成交通状况的实时信息：只要你启用它的地图并且报告了所在位置，Google就能知道你在哪儿，车开得有多快。这样它就能对路况怎样猜得八九不离十，并且把这条信息反馈到Google地图，好让大家都看得到。如今看起来，光是外出时随身携带手机，恐怕就算得上良好的公民行为了。

004

枝术至死

改良的意愿——无所不包！

智能技术和我们的全部社会关系(更不必说像实时电力消费总量这样的统计资料了)现在都能“嵌入”到我们的每一个日常活动中，从丢垃圾到煮茶无所不包。这似乎值得赞美而不应该深究。同样的，智能手机和社交网站让我们可以试验10年前都不可能做到的干预方式，这似乎也真是一个积极进展。所以如果说硅谷充斥着对几乎是阳光下的一切进行改良的方案：政治、公民、出版、烹饪，这一点也不奇怪。

唉，有太多时候，这无休止的改良探索加拿大人类学家塔尼亚·穆雷·李(Tania MurrayLi)在一个非常不同的语境中称之为“改良的意愿”是短视的，不过是敷衍地表现出对追求改良的活动有兴趣。把所有复杂的社会情况重做表现，让它显得像是有明确可计算解决方案、定义明确的问题，或是透明显见又容易优化的过程(但愿有好算法!)，这种探索很可能得到意想不到的结果，最终甚至造成比它寻求解决的问题更大的破坏。

我把认可并支持这种强烈愿望的思想称为“解决方案主义”。这个词借用自建筑与城市规划领域，带有毫不掩饰的轻蔑，意指痴迷于为极端复杂、易变和有争议的问题提出花哨、宏大而又目光狭隘的解决方案，正是这类东西让TED大会的观众神魂颠倒。仔细研究可以发现，这类问题根本无须采用“解决方案主义者”那种以一概全的定义方式，因此有争议的地方不在于他们提交的解决方案，而是他们对问题本身的定义。设计理论家迈克尔·杜宾斯6(MichaelDobbins)说得好：解决方案主义是假设而非调查其试图解决的问题，“在尚未充分提出问题之前就匆忙寻找答案”。问题如何构成与问题如何解决，无论从哪一点来说都是同等重要的。

贪得无厌的解决方案主义

005