技术至死 数字化生存的阴暗面

把这套逻辑推至极端，如果算法能写文章，谁又需要作家呢？对守门人的这种批评在极客中如此受欢迎，其原因可能与之前提到的对宗教改革（那可以说是今天互联网文化的创世神话)的狂热崇拜有关。正如教堂被看作是多余有害的守门人（它妨碍信徒与上帝直接沟通），出版机构也被认为是对弥母和创意世界进行无中介访问的阻碍。有人满怀信心地说，“互联网”将使弥母摆脱创意人群的压迫，而正是这些人才敢声称，并非所有弥母都生而平等，有些实在是糟透了，或许根本就不该创造出来。

没人比亚马逊创始人兼CEO杰夫·贝佐斯更迷恋这种高度民主化的发展。他喜欢吹嘘说自己致力于消除守门人，因为它们“减缓创新”，阻碍“自助平台”(在此平台上，每个人都能出书，而且用不了几分钟)的发展，而这正是亚马逊自己极其热衷的。贝佐斯对机构的民粹主义式愤怒继承了马丁·路德抨击教堂的优良传统，这一点，在他吹嘘说Kindle畅销书排行榜“挤满了小出版社和自出版作家，而《纽约时报》排行榜则被公认的成功作家所统治”时，得到了完全展示。他没解释为什么这个成就值得庆贺，似乎它是不言自明的，就好像一本书的制作方法和它的思想内容同等重要。Kindle畅销书排行榜上的书，二十年后有多少还有人读呢?和弥母产业的其他解决方案主义弟兄们一样，贝佐斯似乎认为，出版的目的是生产数量最多的书籍，让最多的人读到它们。在文人看来，这是一种有悖常理的功利主义。这些书是数独谜题，还是托尔斯泰小说，根本没有关系，它只关心书籍下载量、页面翻阅量和创造出的弥母。

亚马逊的前途，有赖于解决方案主义者所钟爱的两个修辞策略。第一个策略是“创新对话”策略，所有创新，不管会带来什么样的社会或政治后果，都被视为天然优秀。毕竟，创新是进步，进步怎么能是坏的？第二个策略是“工具对话”，它的目的是把技术辩论重塑为几乎只关乎工具的辩论，并进一步引申为工具以怎样的方式赋予了用户力量。两种对话都使我们关于数字技术的讨论变得贫瘠；两者都必须早点被认识到，并加以抵制。

176

枝术至死

创新对话的危险，可能不会一下子就很明显。创新或许是我们这个时代最典型的一个口号，而它却从未得到本该得到的批判性关注，我们常常想当然地认为它是善意的，却忘记了痴迷于创新如何曲解了我们对过去的阐释。历史学家大卫·艾杰顿在《过去的震荡》(TheShock oftheOld)一书中指出，最近的技术史占主导地位的大多是优先考虑发明创新、而非技术设备实际用途的阐述。我们往往忘记，大多数创新和发明最终都毫无结果，而那些有结果的，为保持运行通常也要进行重大修补和维护。进一步说，我们往往在引入更新、更快和更炫目的选择后，把旧技术所扮演的重要角色抛诸脑后。我们把二战看作是机动运载工具的战争，然而，更有可能的是，它始终是一场马的战争：正如艾杰顿所指出，纳粹德国在入侵苏联时，动用了625,000匹马。

然而，被时下的创新崇拜搞残废的，不仅是技术史。未来政策往往也深受其害。问题是这样的：由于普遍认为创新只有积极影响，几乎没人愿意去检查它意想不到的后果；正因如此，人们普遍认为，不言而喻，大多数创新都是有益的。一个来自斯堪的纳维亚的研究小组考察了20世纪60年代发表的所有创新相关的学术文章。研究发现，在接受考察的所有论文中（几千篇），只有26篇文章提出了创新的负面或不良后果。大约每一千篇文章中有一篇，这个比例自20世纪60年代以来一直没有变化。这类被忽视的统计数据，揭示了大多数学术文献对该主题的“亲创新偏见”。

这种亲创新偏见，使得创新与各种助推因素研究（这一调查领域通常由商学院涉足）与创新后果研究（通常由公共政策和科技研究这类学科进行，但极少采用“创新研究”的名号)产生了清晰的界限。因此，失败或导致灾难性后果的创新，自然就不会算在创新词汇里边；只有成功的、毫无风险的技术才是创新。此外，确然纳入了考量的创新后果，往往颇具线性特征，相当直接。当杰夫·贝佐斯阐述Kindle相关“创新”时，他知道，他的目标受众不可能考虑到任何可能不直接、非预期或不期待的后果；我们大多数人也怀有某种形式的“亲创新偏见”。

算法“守门人”的危险

177

但也并非总是这样。加拿大学者本诺瓦·戈丁(BenoitGodin)一直对作为概念的“创新”思想史进行探究，根据他的观点，2500多年来，这个词也曾有过负面含义。“创新者是异端，革命者，骗子，”戈丁说。然后，事情起了变化。“当到处都开始经历变化、尤其是‘革命性’变化，并有条不紊地创造更多变化时，创新就得到了积极倾听。”在20世纪60年代，着迷于现代化议事日程的西方政府，由社会科学家、经济学家和顾问支配，它们剥去了“创新”这个词的政治内容，把它变成了新奇、发明、创意、独创性、有用性的代名词，或哈佛商学院年度聚会上大受欢迎的时髦口号。

如此一来，几乎没有多少学者从事创新伦理研究，也就没什么好奇怪的了；人们想当然的认为，创新成果会公平地造福所有人，因此，这类讨论很少涉及公正性。这是错误的，深入分析制药业创新（及其所牵涉到的知识产权申请)可以表明，对全球正义的思考，对创新探索是否有可能切断穷人和病人药品使用途径的思考，同样会影响到我们讨论创新的方式。正如三位知名学者在最近一篇论述创新扩散公正性的文章中所指出，“从创造了什么、什么人可以获得该物品的角度来看，创新可能会恶化现有的不公平，或制造新的不公平，也可能减少现有的不公平。”当然，这要求我们超越对新颖和效率的痴迷，针对权力、合法性和伦理道德提出有难度的规范问题。工具对话则提出了另一种不同性质的挑战。为更好地理解它们怎么一回事，不妨借鉴一下传播学学者马吉德·泰拉尼安(MajidTehranian)对“技术中立者”和“技术结构主义者”所做的区分。在泰拉尼安看来，技术中立者“往往是顾问，他们没有多少理论主张，也有相当多的利益考量不跟客户对着干。他们总是对后果问题采取中立立场：一方面是这样，一方面是那样。”技术中立者通常第一个承认“互联网”有好有坏，取决于人们如何使用它。他们相信技术自身完全中立，不站队，在正确的人手里，它们能创造奇迹。他们很少关注技术创造者隐秘的或不那么隐秘的议程，以及这些技术会用在什么样的特定条件下。他们认为，在底特律街道上发现的一把枪，与保存在工程博物馆里的枪一样，可能是中立的，也可能导致暴力。这得看情况，他们告诉我们。更具乐观气质的技术中立者，往往主张对具体的技术采取极端自由放任的态度：既然得看情况，不妨给技术一个机会吧！这就是为什么杰夫·贾维斯要求给面部识别技术一个公平审判：“在还没使用和理解一项技术之前就禁止它，这明智吗？想想看，（面部识别技术)在以下场景会多么有用：寻找失踪儿童，或在发生卡特里娜飓风或2011年日本大地震和海啸这样的灾难时，知悉受害者下落。”事实上，尽管他们承诺权衡利弊，技术中立者从未进行过任何深思熟虑：三年里只有一次是出于“善意”目的使用的技术，与每时每刻都是出于“恶意”目的而使用的技术，具有同样的中立性。他们更有可能主张采取解决方案主义措施，因为他们一贯忽视解决方案可能碰到的复杂背景，也想不到这些背景会有许多出人意料的办法削弱解决方案的效力。另一方面，技术结构主义者用截然不同的哲学来探究世界（而不只是技术在其中的地位)。根据泰拉尼安的研究，他们相信技术“源自制度性需求，通过制度性管理和社会力量总能调解其冲击，因为技术本身就是社会力量的一部分。”技术结构主义者认为，信息技术“既非自由技术，也非暴政技术，从根本上说是权力的技术，它锁定在现有或新兴权力技术结构当中。”因此，任何技术，就可以既是集中的，又是分散的，既是单一的，又是复杂的，既能授权，也能除权。

178

枝术至死

因此，特定技术的影响，不要假定它源自技术内在或固有的自然属性，也不要假定它是中立的，因为，一切取决于环境。相反，要推断技术的影响，就要分析特定技术的具体方面（这些方面自身常常处于变动中）会怎样重建政治社会关系，将全新参与者引入博弈中。要慢而耐心地进行分析，不对大写T的“技术”或大写I的“互联网”进行任何华而不实的假设。技术结构主义者会努力避免互联网中心主义和解决方案主义提出的那种轻松修补。

算法“守门人”的危险

179

很容易把技术结构主义者误认为是悲观主义者，但这并不是他们的本来面目。他们并不认为，通过技术实现的这种解放是虚幻的、不合逻辑的，只不过，他们认为这种解放不可能发生在真空中，考虑到方方面面的情况，它实际上甚至可能带来新的束缚。是的，Google的自动驾驶汽车会使驾车变得更容易，甚至减少交通事故致死人数，但合理的交通运输系统应该追求许多其他目标。自动驾驶汽车会让更多人选择开车，让公共交通变得更糟糕吗？既然人们不必亲自驾车，他们就可以在通勤期间处理电子邮件，因而会在车上度过更多时间，这会导致更严重的郊区拥堵吗？

对技术结构主义者来说，亚马逊涉足出版业，不只是个通过更新颖完善的阅读和出版工具、实现更多个人权力的神话。要接受这个神话，就意味着只关注创新带来的直接、预料中的理想结果，无视间接的、意料之外的不良后果，对工具加以神化，忽视工具所促成的实践。还是援引已故的托尼·朱特的话，有时候，别光问什么最优效率，也要问问什么是对什么是错。

一旦不再受制于创新和个人实现的神话，我们就能看到，如果亚马逊无守门人世界的梦想变成现实，那么这个公司自己就会变成一个强权的守门人。一则，通过实质上把出版过程交给变幻莫测的市场，它将使某个书籍项目更有希望(是的，我们想要更多眼镜巫师的故事!)，而其他的则希望更加渺茫(拜托，别又是某个名不见经传的日本将军的传记!)。无需卡尔·马克思我们就能意识到，出版经济学(谁在何时得到什么报酬)决定着可以接受的智力风险范围。相比于不得不先打着零工花十年工夫写书、还指望着项目能填补亏空，如果作者知道自己能收到一笔预付款，名不见经传的日本将军传问世的可能性会更大。是的，偶尔，亚马逊可能会发现一本值得获普利策奖的好书，但在一个由亚马逊控制的世界里，大多数这种书籍可能根本就不会写出来。亚马逊可能是个不情愿的守门人，但它仍然是个守门人。

180

枝术至死

但我们也需要明白，这个关于守门人的讨论到哪里为止。如果十年以后，亚马逊决定让作家们步仓库工人之后尘，被机器人所取代，谁又会真的感到惊讶呢？如果人们一开始就假设，守门人有害，效率有益，那么作家也是守门人：他们暂时束缚了弥母和创意，而实际上买家想从书中得到的，正是弥母和创意(请放心：亚马逊不会消灭同样也在束缚弥母和创意的买家总得有人最终为书买单啊)。

凭借Kindle电子阅读器，亚马逊收集了关于个人读者及跨人口统计特征的阅读习惯等丰富信息；它知道读者在Kindle字典里查询哪些词汇，哪些段落读者最频繁地画线强调，以及读者要读多少次才能读完一本书。在工具对话的优良传统下，所有这一切都被描述为增强读者体验，在这一点上，亚马逊并没有撒谎。但是，除了阅读，这种统计数据还增强了许多其他东西，包括亚马逊进行弥母驱动式的出版能力，这种出版了解受众胜于了解自己，甚至在潜意识里就能迎合其每一个奇思妙想。

没有什么能阻止杰夫·贝佐斯利用这种认识自动化地大量炮制书籍，把作家完全晾在一边，提供这种个性化服务（准准地按中每一个读者的情感和智力按钮），这样一来，凡是购买的书，没有一本不会被读完。越来越多报纸和杂志已经转而借助“叙事科学”这类公司，来为其提供由算法生成的文章(通常是关于运动和金融的)。没有理由认为，亚马逊不会在这一块儿做得更好做得更久。好些规模更小的创业企业已经在挑选并出售没有人工参与而完成的书籍了(当然，它们通常在Amazon.com上销售)。

算法“守门人”的危险

181

如果人们认为，文学的目标就是弥母福利的最大化，或确保所有读者都得到满足（为什么不呢，既然他们读的书本来就反映了他们的潜意识倾向和偏好？)，那么亚马逊就应当被视为文学的救世主。但如果人们认为，有些观点就是比其他观点更糟，有些弥母就应当歇菜而非四处传播，作家身为公共知识分子，扮演着绝对无法外包给算法的重要公民角色，文学的目标之一就是拷问和摧毁，而不只是满足和增强，那么，亚马逊无守门人的幻想世界，实在是没什么好庆贺的。

不加批判的批评家

不管是想改善政治还是文学，解决方案主义者都遭遇了同样的挑战。这种改良计划不可能一开始就赞美工具的力量（或逻辑），不管是开放政府数据库，还是电子阅读器。这些工具可能会消除低效率或模棱两可，而只有忘记或忽略解决方案主义者希望改善的活动的目标和愿望，才能把这看作是件好事情；指望新闻业或出版业靠着更多的数字变得更好，实则是对它们究竟是什么一头雾水。

Yelp这类网站可能会声称，对任意一家餐馆，自己提供的评论都比当地专业餐馆评论家在都市报纸上发表的评论更广、更多、更客观。但把来自Yelp上的意见看得更重，等于是忘记评论家的实际工作；他们的美食品评是以一套截然不同、难于在网上复制的目标和理念为基础的。Yelp不关心你去过一家餐馆一次还是几十次；它也不关心你尝过多少道菜。事实上，它并不关心你到底去没去过那家餐馆；佛罗里达州一家披萨店店主，因为熊抱奥巴马总统的照片而名声大噪。他发现，随着他的生意成了全国新闻，他的Yelp评论数量也从2跳到2500，大多数由从未驻足他小店的人做出。

182

枝术至死

从更广泛的意义上看，Yelp并没有给你提供一种方法，根据一套解释意大利美食应该是什么样的标准来评价意大利餐馆的菜品。相反，你评价意大利菜和评价日本菜都用一样的方法：它们都可归结为一堆星星和一段简洁评论（如果你有兴致写)。成千上万人的判断以这种方式聚合在一起，这其实并非重点，因为，已经处于个人评论层面下，就不太可能捕捉到美食评论家眼里真正重要的东西和品质了。

社会学家格兰特·布兰科(GrantBlank)对现实的评论实践进行了大量研究，出版了《评论家、评级和社会：评论社会学》(Critics,Ratings,and Society:TheSociology ofReviews)一书。正如他在书中所指出，大多数职业食评家至少会在自己评论的餐馆就餐三次；一些人报告说到访多达七次。他们一般会带上几个朋友一道，以便试吃菜单上的各种菜品。为了检验一致性（评价厨师厨艺水平的一个主要标准)，他们会在不同场合点同样的主菜。为了避免被认出并受到有别于其他食客的特殊对待，餐馆评论家往往要化装。按布兰科的研究，标准程序“包括戴帽子、假发、眼镜、墨镜，假装怀孕，用其他假名预订，有几张不同名字的信用卡，请客人用他们的信用卡付账。”丹尼斯·雷·惠顿(Dennis RayWheaton)，长期效力于《芝加哥》(Chicago)杂志的一位餐馆评论家，甚至会在自己身上布线，身藏一台磁带录音机，以便偷偷口录要点又不被逮住。

评论家的一个主要挑战，是评价菜品是否符合特定烹饪风格的外部标准。一直以来，法餐的规则和礼仪都由像乔治·奥古斯都·爱斯克菲(GeorgesAuguste Escoffier)的《烹饪指南》(Le Guide Culinaire)这类书来整理，它首次问世于1903年，现在仍在出版。“法餐之复杂，在于酱汁与食材的搭配；味道很重要，但纹理与色泽同样如此。更复杂的是，评论家不能只评判单一项目，而必须根据每道菜在味道、纹理、色泽上的平衡与协调进行评判，”布兰科指出。克雷格·克莱伯恩(CraigClaiborne)对确立《纽约时报》餐馆评论准则发挥了很大作用，像他这样的评论家，不只私下里对爱斯克菲书中的精确标准非常熟悉，对烹饪过程也是烂熟于心：他用自己的退伍军人津贴报名了瑞士一家备受赞誉的烹饪学校，他自己就个优秀的厨师。

算法“守门人”的危险

183

当然，Yelp绝不是第一家向餐馆评论家发出挑战的创业企业，现在归Google所有的Zagat，凭借用餐问卷拔得头筹；据其创始人的说法，它所提供的，“是你能得到的最接近科学的结果”(他们真的很跟Google很搭调)。但起初由Zagat，现在由Yelp提供的科学，是有关美食体验评论聚合的科学；它远不及惠顿或克莱伯恩所实践的那种餐馆评论，因为它实在没有办法用复杂术语来定义卓越。在Yelp上得到较差评分的餐馆，不太可能从餐馆评论家那里收获好评(两者也就这点共同之处），至于差的服务，也跟差的菜品一样很容易发现。然而，好餐馆之所以好，有整整一套原因(从菜品水平一致到遵守整套烹饪标准)，非专业评论家可能根本看不出来。如果目标是吸引消费者就餐，向Instagram上传照片，向Twitter发送更新，在这之间的空隙里用美食填满他们的胃，那么Yelp堪称完美。但如果人们把烹饪视为拥有独特卓越标准、独特知识与工艺传统的艺术，如果人们认为烹饪同时还有教育和召唤的使命，那么Yelp或许是失败的。在美食评论家看来，即便是“数据库里没收录的餐馆”(借用作家约书亚·科恩的有趣表达)，可能也值得造访；至于你这种典型Yelp用户，如果它不在Yelp上，好吧，那它就根本不存在。

这不一定就要变成一场“业余Vs专业”的争吵，为此引发的互联网辩论实在太多了。创作新闻报道或百科全书条目所要求的专门知识，与写餐馆评论所需的知识，可能完全不同。我们不应当屈服于互联网中心主义，臆想“互联网”什么也没有毁灭，或“互联网”毁了一切。我们也不应当因为它带给我们的便利，就把它当作偶像崇拜起来。

184

枝术至死

然而，互联网专家确实把一切对Zagat和Yelp这类网站固有缺陷的批评，变成了某种精英蔑视大众的宏大元叙事。按这个逻辑，“互联网”带来的几乎全是破坏。数字新技术和解决方案所提供的东西和它们尝试解决的问题之间无疑存在着某种不匹配，而互联网中心主义的极大破坏性体现在，它把人们对这种不匹配的种种真实顾虑，统统刻画成了卢德主义和保守派抵挡技术变革的例子。

2000年，食评家史蒂文·肖(StevenShaw)在《评论》(Commentary)杂志上发表了一篇叫做“Zagat效应”的挑衅性文章。肖对Zagat进行了连篇累牍的抱怨，直指其运营过程中某些结构性问题。肖的异议之一是，Zagat对卓越的定义在餐馆评论行业看来是不正确的。他指出，联合广场咖啡店成为Zagat纽约第一餐馆的原因，是因为在调查问卷里“你最喜欢的纽约餐馆是?”一问中，回答该餐馆的人数最多。就算在Zagat自己的排名榜上，从食物、装饰和服务方面（传统餐馆评论的标志），都有餐馆得分比联合广场咖啡馆高。由此肖得出结论，“如果你想知道一家餐馆有多好，平均分具有严重误导性。”

把联合广场放到第一位，等于是说《美国派》是1999年最佳电影，因为40%受访者把它列为他们当年最喜欢电影，而《美国丽人》、《黑客帝国》和《搏击俱乐部》(都在同一年上映)每部只得到了20%的投票。肖的观点不是说这种衡量毫无意义，而是说不管它们在衡量什么，都绝非餐馆评论家所追求的卓越。因此肖写道，“联合广场咖啡店的确是家非常不错的餐馆，是家因为友善服务而为许多纽约人所钟爱的餐馆，在这座城市还算好的餐馆里，它或许是最平易近人的了，还有它简单而滋味浓郁的美食。但考虑到同样受欢迎的老牌餐厅，把它排在几十家其他就餐场所前面显然很是荒谬，尤其是纽约还有一些世界级餐馆，比如Lespinasse、JeanGeorges和Daniel。”

算法“守门人”的危险

185