技术至死 数字化生存的阴暗面

克莱·舍基在《认知盈余》里讲了同样的故事，他的版本里充满了民粹派和反正统派对职业评论家的愤怒，预言凭借“互联网”的帮助，民众终于摆脱了美食评论家们其自命高雅的做作。舍基抱怨说，“肖完全没有说清楚，为什么喜欢联合广场咖啡店胜过与Lespinasse就显然荒谬，他称Lespinasse为世界级餐馆，只是在回避问题的实质。”然而，肖的确指出了为什么这是荒谬的：根据Zagat自己的排名，联合广场咖啡店在食物、装饰和服务方面输给了Lespinasse,而结果它还是成了纽约市的顶级餐馆。这并不是因为肖是个憎恨普通食客的精英分子，而是因为，就连普通食客，也根据大量他们认为与就餐体验相关的标准，给其他餐馆打了更高的分数。

然而，在舍基笔下，肖对Zagat方法固有偏见的犀利批评变成了对普通人的攻击。因此，秉承互联网中心主义的优良传统，舍基对精英评论家发表了长篇大论的攻击性演说。舍基抱怨说，肖“不愿把联合广场咖啡店宣判为差餐馆；它只是不为他这样的食客所偏爱，这就是说，职业性地在餐馆就餐的人，他们喜欢拿点儿小恐吓当开胃菜。然而如果他抱怨得太明显的话，便有可能败坏其引导受众的初衷。”这番对肖的厉声批评，不过是舍基在为激昂的断裂对话清扫道路。这套对话向我们承诺，旧世界已经消失，新的数字世界正在形成。“回到餐馆评判只能参考职业评论的时代，这一区别没有多大关系(对受众的严重藐视并不那么明显)，但在今天，对你最喜欢的餐馆是哪家？’这个问题，人人都能找到聚合式答案，我们想要的就是这种信息，我们甚至可能更喜欢它，而非由职业评论家发表的评判。”

作为互联网专家的典型代表，舍基甚至都不愿费心问一问，除了为单个消费者提供含糊不清的权力实现的感觉，这个趋势是有利还是有害。他也没有兴趣搞明白，是什么使前Zagat和前Yelp时代的餐馆评论如此有价值，甚或值得去捍卫。让我们把舍基的失败主义与肖为烹饪这种社会活动所做的辩护比较一下吧：

186

枝术至死

是伟大厨师的精妙想象力，最终创造了有教养的消费者，和之后对烹饪越来越高的要求。在Zagat风格的调查的影响下……一家想要生意兴隆的餐馆，将不得不使主动迎合大众口味，就好比一位英文助理教授，身负在学生评价表上得高分的压力，势必给学生布置更简单更受欢迎的课文。要得到Zagat选民的称赞，餐馆不是靠推出具有挑战性的、复杂的或超前的烹饪菜肴。要收获Zagat读者的爱戴，餐馆靠的是提供金枪鱼汉堡(一如联合广场咖啡店，它提供的金枪鱼汉堡非常好)。

如今，人们可能并不认同肖关于烹饪的目标、宗旨和社会功能的观点，然而值得注意的是，舍基在这些方面毫无建树；他的主要兴趣在于针对“互联网”发表论述，把“互联网”当作他最喜欢的因果解释。这里的操作逻辑很简单：前互联网时代意味着专家意见，后互联网时代意味着平民主义；我们是后互联网，因此，我们是平民主义。在舍基看来，事情就这么发生了(要知道这是革命，所以一切抵抗都是徒劳的!)，只要人们似乎还一切尽在掌控，这就肯定是件好事情。

按照这种逻辑，我们该推崇大众文化参与，认为这本身就值得追求，而不管它对文化做了什么，就算是我们在iTunes和Spotify上给唱片和歌曲的评分，可能也比那些职业乐评人的评分更好。解决方案主义者该乐坏了：这种评分不仅给艺术提供了更多“客观”意见，并且在这一创造(或者至少是评分)文化的过程中把公众卷入其中；因而它们更具民主性和参与性。所以，即便乐评人消失了，照此逻辑，也没有多少人会怀念他们。

算法“守门人”的危险

187

这种观点有几个问题。首先，它对文化参与的褒奖往往远胜于对文化本身的褒奖。这种方式是由后勤物流而非过程方法的考量来推动的。也就是说，它似乎并不在意人们在听什么(不管是贾斯汀·比伯，还是斯特拉文斯基)，只要他们有办法投票支持或反对，创造弥母，并从中搞出个YouTube视频。社会学家南希·韩拉汉(NancyHanrahan)对这一问题尤其敏感:

无法否认的是，由新技术造成的对文化专门知识的侵蚀，至少在某种意义上是民主的，因为在创造和评价文化的过程中，有了更加广泛的参与。如果民主像CD销量或网站点击量那么容易量化，这种观点倒也可以站得住脚。然而，必须仔细思考的不只是参与，还有参与的条件。如果通过数字技术和网络结构带来的更多文化参与只有利于市场，却阻止了艺术创新，或者是牺牲了对艺术的批判性反思，还有什么理由认为这是民主的？另一方面，如果民主意味着扩展了审议、公开或者真正多样性的机会，目前的情况还差得很远。

另一个民粹派解决方案主义者经常遗漏的重要观点是，职业乐评人(这同样适用于影评人和书评人)承担着许多无法轻易委托给大众的其他功能。这种功能之一，就是识别出创新的、甚或是有争议性的高质量音乐行为，向公众解释为什么它们值得欣赏，因为，正如阿多诺曾说过的，“没有专门知识，没有内行的习惯性知识，就几乎无法理解正在形成的新知识。”

在iTunes为歌曲写评论的人，不太愿意费心把他们评分的每首歌曲跟经典作品进行比较，也不太愿意费心尝试预测从中可能会出现什么新风格。传媒学者莱恩·吉里斯皮担心，“对评论的消费心态，鼓励人们把艺术和娱乐仅仅当作实现愉悦目标的手段，却消除了对挑战性、实验性先锋派作品的鉴赏与沉思。”他是对的。

188

枝术至死

在大多数情况下，普通人写评论的原因与职业评论家不同；他们通常感兴趣的是对自己的体验进行评论，而不是从给定作品中总结意义。作家丹尼尔·门德尔松(DanielMendelsohn)对此间的区别深得真髓，他写道，“所有的评论都是基于这个等式：知识+品位=有意义的评判。这里的关键词是有意义。对一件作品有强烈反应(大多数人都会这样），却不具备为评论增添分量的广博学问，这样的人不能算是评论家。”

这不是说，没有iTunes评论或Yelp的世界会更好。理想情况下，我们会认识到，扩大公众文化参与，同时捍卫甚或补贴职业评论家所发挥的重要公民职能，具有重要意义。屈服于解决方案主义者的诱惑，把新技术平台说得更客观更有效，是对低效的、靠人力驱动的陈旧技术进行升级，等于是选择了一条对抗性的、南辕北辙的道路，它拒绝承认，主观性、低效率和无知，在我们整体的文化和政治生活中一直扮演着无比重要的角色。“互联网”并不是那些“缺陷”的解决方案，因为它们根本就不是缺陷；相反，它们是我们应该加以捍卫的重要而脆弱的成就。

算法“守门人”的危险

189

o6 更少犯罪，更多惩戒

随着最新技术的采用，警察们获得了光明的未来这不光是因为他们可以用Google监视潜在的犯罪嫌疑人了。还有其他几种不那么明显的发展趋势，必然会令得他们的工作更轻松、更高效。但这几种趋势，同时也对隐私、公民自由和执法程序提出了棘手的问题。

首先，警察执法，正是利用“大数据”受益的有利地位。随着摄录设备成本不断下降，实时发现罪行、做出反应，现在技术上已经做得到了。以加利福尼亚州奥克兰这样的城市为例。和美国其他许多城市一样，今天，奥克兰城里覆盖着数百个隐蔽的麦克风和传感器，这是一套名为“枪声定位”(ShotSpotter)系统的组成部分，它不光能提醒警察出现了枪声，还能对枪声来源进行三角定位。校验了声音确属枪声之后，人类操作员会通知警方。这套系统并不便宜据报道，“枪声定位”系统每年每平方英里的费用是四万到六万美元但在罪案侦破领域，它们还算不上最时髦的东西。智能手机就能做得很好的工作，何必使用昂贵的麦克风呢？归根结底，设计一套吸引人、又不给人添乱的应用程序，创造合适的激励动机（比如唤起公民的道德良知，或者把犯罪报告变成一款游戏)，让市民完成犯罪传感器、容易分心的人类操作员的部分任务，这不就行了吗？

1 德裔加拿大教育家、作家、女权运动家。

更少犯罪，更多惩戒

191

改善“枪声定位”系统的其他方法，并不难于想象。从原则上说，枪声定位系统是被动式的；它们也许有助于阻止或者迅速应对犯罪，但无法根除犯罪。计算成本的下降，传感技术的大幅进步，接入庞大在线数据库的能力，可以让我们从事发时识别犯罪(也就是“枪声定位”系统所做的工作），发展到事发前预测犯罪。更智能的新设备无需预测枪声，而是着眼于检测过去枪响之前出现的声音。这就是技术和大数据意识形态再次登场的地方；它许诺说，能够通过对过去发生罪案的数据进入更深入、更庞大的分析，再结合先进复杂的算法，预测、阻止罪案的再次发生。这种做法，称为“预测警务”(predictivepolicing)，虽说才出现短短几个年头，就有许多人吹捧它是警务工作的革命。它是“解决方案主义”的缩影；说到应用技术和大数据来彻底消除罪案、解决犯罪问题，再也没有比它更合适的例子了。它看起来太容易、太合乎逻辑了；谁不想在事发前预防犯罪呢？

美国警方对“预测警务”(获选《时代》杂志2011年最佳发明)的前景尤感兴奋；以英国为首的欧洲人也正在慢慢赶上。举个洛杉矶警察局(LAPD)的例子。他们使用一种名为“PredPol”的软件。该软件分析了历年来官方公布的财产犯罪(如入室盗窃、汽车盗窃)统计数据，将巡逻地图分为500平方英尺见方的区块，计算实际犯罪的历史分布和频率，接着告诉警官哪些区块要严加巡查。

192

枝术至死

事前预防犯罪比事后执法、调查效果更好，也更廉价。因此，虽说巡警们不见得能在案发过程中抓住罪犯，但他们在恰当的时间出现在恰当的地点，仍然有助于震慑犯罪活动。不过，有时候，警方真的能赶上正在发生的罪案。2012年6月，美联社报道，洛杉矶警察局的一位队长看到“PredPol”建议他派警官到所属巡逻区的边缘地带，进入某个监控网格区域。但他吃不准这个建议的可靠性。一如队长预料，警官们什么也没发现；但几天过后的夜里，他们回来巡逻，逮到有人正在砸窗户。该算“PredPol”得了一分？

“PredPol”和类似的软件都是近期才开始试运行，尚不足以得出任何确凿的结果。不过，过渡期间的结果看起来甚为可观。在洛杉矶，5家警察分局在人口约为130万的巡逻区域采用“PredPol”技术之后，犯罪率下降了13%。圣克鲁斯市(The City ofSantaCruz)，如今同样采用了“PredPol”系统，入室盗窃案下降了近30%。在全美各地的诸多警察部门，都可发现类似令人振奋的统计数据。目前正在建设的另一些强大系统，也能轻松地进行重新配置，满足更多的预测需求。以纽约警察局最新的创新为例。这项技术名为“车牌识别系统”，它将逮捕记录、911报警电话、车牌识别技术、辐射探测器等数据，全部同步到全市3000个闭路摄像头上。它可以对场景进行实时监控，根据大量的数据理解现场发生了什么事情。从这一步飞跃到预测现场即将发生什么事情，应该费不了太大功夫。

如果说“PredPol”的“预测”听起来挺耳熟，那是因为它采用的方法，灵感得自那些著名的互联网公司。2009年，洛杉矶警察局的一位高级警官在《警长》(ThePoliceChief)杂志上盛赞亚马逊公司“理解客户群中不同的类别，归纳其购买模式，”这种能力令得该公司“不仅可以预期、甚至可以促进或者塑造(客户)未来的行为。”因此，正如亚马逊的算法能够预测你下一次有可能购买什么书，类似的算法应该也能够告诉警察哪一种类型的犯罪有多大的可能再次发生，在哪里发生。你以前偷过自行车?那么你兴许也有意抢劫杂货店。

更少犯罪，更多惩戒

193

在这里，我们碰到了算法上的一个老问题：它们的客观性来自一种假设，极度缺乏透明性。我们无法检验亚马逊的算法；它们完全不透明，从不受外界审查。亚马逊称，保密有助于他们维持竞争力。当然，这么说也许是有道理的。但同样的逻辑能应用到治安领域吗？如果没人能检验算法(如果预测警务软件来自私人企业，那很有可能是这样)，我们就不知道算法里预设了什么样的偏见和歧视性做法。此外，算法还逐渐主导了我们法律制度的其他许多领域；比如，人们还用它们来预测某个罪犯获得假释或缓刑后，有多大的杀人(或被杀)概率。宾夕法尼亚大学的一位教授开发了这种算法，并已经在巴尔的摩、费城和华盛顿特区进行过测试。这种概率信息能够影响量刑建议和保释金额，所以绝不是什么微不足道的小事。

但我们又怎么能知道用来预测的算法并未反映创作者的偏见呢？举例来说，犯罪往往发生在贫困和种族多元化的地区。算法，还有它们假定的客观性，会不会带来更大的种族定性？如今，在大多数民主地区，警察要拦下街上的行人并进行搜查，是得有原因的(不能光是猜测，还需要证据)。但配备了这类软件之后，警察能够单纯地说，是算法叫他们这么做的吗？如果是这样，算法又该怎样出庭作证呢？技术中立主义者很可能会忽视这类问题，侧重于算法警务带来的抽象利益；反过来说，技术构造主义者对现代警务工作中普遍存在的问题、限制条件和偏见已经有了若干基本的了解，可能是更为关键的人物。法律学者安德鲁·格思里·弗格森(AndrewGuthrieFerguson)对预测警务做了详尽研究。他并不否认预测警务可以用到更多的地方，但同时也警告说，不要对算法抱持太大的信心，屈从于信息简化论。他指出，“预测算法不是预测未来犯罪的魔法盒子，恰恰相反，未来事件的概率模型，是建立在当前环境的脆弱性上的。”

194

枝术至死

但算法为什么能发挥作用呢？弗格森指出，将来会出现犯罪，不是因为过去出现了犯罪，而是因为“激发了第一次犯罪的环境脆弱性仍未得到解决。”比如说，算法预测又将发生一起蓄谋偷车事件，而警察正好看到一个人在预测地区之一带着一把螺丝刀，这就能作为拦下此人的合理怀疑(这样一来，在法庭上，警察拦截此人的合法性是很难遭到质疑的)。但是，正如弗格森指出，如果警察前一天就逮捕了之前发生罪案的责任人，但模型尚未反映出这一信息，那么，它做出的预测就不相关，而警察也需要另外拿出理由来拦截此人。如果他们拦截了该路人，也不能够在法庭上说，“这是模型告诉我们的。”然而，这对遭到警察拦截检查的人来说可能不是那么好理解，毕竟这个人并不熟悉预测软件及算法。

再有就是报案率低的问题。尽管大多数凶杀案会报案，但很多强奸和家庭闯入事件并未报案。即便并未报案，但每当负责街区出现怪事，当地警察仍能够通过一些途径听到风声。反过来说，预测警务可能会对统计数据的综合实力抱有天真的信念，取代这类直觉认识。如果只用已经报案的罪案数据来预测未来犯罪、指导警务工作，某些类型的罪案就会无人研究，无人追查。

那么，该怎么运用算法呢?如今很少有人探讨这件事，但在这方面，我们可以从财政部门汲取不少经验教训。举个例子，2012年8月，算法交易造成了两起灾难性事故后，香港和澳大利亚的金融监管当局起草了建议书，要求对算法交易所用的计算机系统在设计、开发和修订上进行定期的独立审计。这样，就像财务审计师可以证实公司的资产负债表，算法审计师也可以验证算法是否运转正常。随着算法进一步融入我们的日常生活(从Google的自动完成技术²到“PredPol”)，将之交由合格的、热心公益的第三方定期审查，

2也即在Google的搜索框中输入几个字，它便可根据先前的搜索对其进行补完。

更少犯罪，更多惩戒

195