技术至死 数字化生存的阴暗面

遗憾的是，克里克对技术至上思维的批判，受到的关注不如同时代其他一些学者提出的类似批判：比如简·雅各布斯对缺乏想象力的城市规划的批判，以赛亚·伯林(IsaiahBerlin)对所谓“强求一致作风”的批判，弗雷德里克·哈耶克对中央规划的批判，卡尔·波普尔(KarlPopper)对历史主义的批判，以及迈克尔·奥克肖特对理性主义的批判，一下子都浮现在我脑海里。这些对规划者和改革者的自大自负所做的重要批判，大多有一个共同的主题：在人与其他人共同生活在城邦的体验中，有些东西本质上无法用公式化表达，也无法用优化技术来约减。思考和审议不可避免；哪怕是最完美的算法也不能让我们省掉它们，否则我们的政治文化将陷入枯竭。

因此，现代改革者的思维定式(一如其批判性倾向)有着广泛的知识分子传统“互联网”只是存在已久的冲动与欲望的激活器和巧妙的遮瑕霜。然而，否认过去二十年带来了一波前所未有的创新浪潮，激增了不计其数修补政治的新方法，那将是徒劳无益的。

好的意图，即便批着令人兴奋的混搭外套，也无法为天真正名。自克里克写下对技术思维的批评之后，有一个事实不曾改变：不先彻底理解是什么和为什么就去修补政治，仍然是非常危险的举动。或者，说得直白些，按照愚蠢的想法行事，代价永远小不了。政治思维还有政治道德需要培养；它不是自发产生的，硅谷天才也不例外。1993年，普林斯顿大学社会学家米格尔·安吉尔·森特诺(MiguelAngelCentento)对技术专家统治论的思维定式做了一番研究，他说得非常好，“高级学位或许可以帮助我们当代的利维坦’们(Leviathans，传说中的怪物和恶魔)构建这样的社会，人的寿命更长，痛苦更少。即便这样，那也没有理由认为，这种专业知识能阻止利维坦把我们变得更加野蛮。”

146

枝术至死

欲毁掉政治，修补它

147

05算法“守门人”的危险

“是的，廉价设备正趋向民主化，从这个意义上说，互联网正日趋民主化。但足球很便宜人人都能踢，并不意味着人人都是罗纳尔多。”——弗兰妮·阿姆斯特朗，
英国纪录片制片人

有一天，时任高雅在线杂志《格尔尼卡》(Guernica)总编的约珥·惠特尼（JoelWhitney)突然收到一封来自Google的邮件。作为一本涵盖政治、文学和艺术的杂志，《格尔尼卡》的作者来源广泛，从诺姆·乔姆斯基1(NoamChomsky)到阿米塔夫·戈什²(Amitav Ghosh)，从阿马蒂亚·森3(Amartiya Sen)到梅根·欧罗克4(MeghanO’Rourke)。这不是普通的匿名Tumblr微博客，但它也并非大手笔投资的文学渠道；他们就是能花很少的投人办很多事。

Google的电子邮件通知惠特尼，《格尔尼卡》的AdSense广告体系(Google这个项目使加盟网站能通过运行自动生成的定向广告赚钱，这些广告是针对网站内容和受众设计的。)成员资格将被撤销。对《格尔尼卡》这类网站来说，每月读者只有区区六位数，AdSense收入虽少，但却比较稳定——这还只是Google对文学世界众多不太引人注目的积极影响之一。

1美国语言学家，转换-生成语法的创始人，麻省理工学院语言学的荣誉退休教授。

2著名的印度人类学家、历史学家和小说家，著有《罂粟海》、《烟河》等小说。

3以对福利经济学的贡献，获得诺贝尔经济学奖（1998年）。

4美国诗人和评论家。

算法“守门人”的危险

149

Google愤怒邮件的导火线，是一篇名为“早期性体验”的短篇小说，它几个星期前出现在《格尔尼卡》，刊登在“创新传记写作”这期专刊上，编辑是知名作家戴博·奥林·安弗斯(DebOlinUnferth)。这篇短篇小说为同样有名的作家克兰西·马丁(ClancyMartin)所写，其作品曾发表在《纽约时报》和《哈泼斯》杂志上。这是个第一人称、1500字的有关早期性体验的故事，其中提到了手淫和失贞。Google，或者更确切地说，是其古板算法，把这篇小说标为不合时宜，与Google行为准则相抵触。Google算法认为《格尔尼卡》是色情文学，然后这家公司听从了它的判断。《格尔尼卡》刚得知这项决定后没多久，它网站上运行的Google广告就给关掉了。Google有一套申诉流程，但在格尔尼卡这个案例里，它根本没起什么作用。惠特尼说，“我们甚至咨询了一位朋友（他去年买过我们的筹资餐会门票，是位义务支持者），同时也是Google的雇员，他告诉我们这是由算法决定的。反正Google还是拒绝了我们的申诉。”还有哪个神智清醒的小在线出版商还敢出版克兰西·马丁这样的自传呢，如果这意味着放弃一个稳定的收入来源？

《格尔尼卡》并非孤立事件。2011年底，生活在纽约的尼日利亚流亡人士奥摩耶尔·索沃（Omoyele Sowore)收到一封来自Google的类似电子邮件。索沃经营着一个叫做“撒哈拉记者”的网站，该网站发表有关尼日利亚事态的社论文章和公民记者网络提供的现场新闻报道。有一篇报道聚焦该地区的警察暴行，并上传了一些新闻图片。Google算法发现这些图片太暴力，就通知索沃，暂停该网站参与AdSense的资格。向Google提出的申诉如石沉大海。

150

枝术至死

直到保护新闻委员会一名高层出面干预后，Google才同意重新考虑对“撒哈拉记者”的处理(大概是考虑到，这件事如果被激进主义言论自由组织传出去，会起到很坏的宣传效果)。

表面上看，这两件事似乎没那么有争议。毕竟Google是家私有公司，它可以按照自己喜欢的方式运营它的广告业务；不可避免会有人试图利用其广告系统非法赚钱。或许不该允许宣扬种族暴力或恋童癖的网站借助Google赚钱。因此，如此令人担忧的，并非Google选择生意对象这件事。甚至不是Google对创新小说的过分拘谨(人们可以料想，即便是詹姆斯·乔伊斯(JamesJoyce)，也不会从Google AdSense中赚到多少钱，如果他选择在博客上连载《尤利西斯》的话)。甚至也不是Google把如此重要的决定外包给算法这件事。这里真正令人气愤的，是Google对其算法的所谓中立和客观性的坚持。它不承认自己的算法可能存在缺陷和偏见应予修正，而是表现得很偏执，似乎允许人们偶尔评论其算法，都像是要它完全放弃自己对人工智能的信仰。

Google不愿承认算法有时可能会出错，这让它摆脱了许多棘手的伦理问题。以Google的“自动完成”（Auto complete)为例，这个功能很有用，用户仅输入几个字符，Google就能提出若干备选项，补完搜索查询。通过借鉴其他用户的历史搜索，“自动完成”能预料，如果你输入“罗马不是”，很可能会以“一天建成的”结尾。干嘛不干脆省下输入整句的这几秒钟呢？既然他们的搜索查询有如此多相似，干嘛不为用户节约其宝贵时间呢？

唉，我们不光是Google信息图书馆的主顾，我们还是其许多书里的主角。Google不断修补其算法，增加新特色，这些书也就不断发生着变化。Google“自动完成”这类服务带来的一个间接后果是，现在任何人都能看到，针对特定主题的哪类搜索最热门。当我在Google中输入“布兰妮·斯皮尔斯是”，“自动完成”基于大多数其他用户的历史搜索给了我四条建议。原来，有人曾询问布兰妮是不是“邋遢鬼”，她是不是“死了”或“很丑”，或者我最喜欢的，她是不是“三个脑袋的外星人”(进一步调查发现，这是一本书的标题)。

算法“守门人”的危险

151

布兰妮·斯皮尔斯是一位公众人物，这里的争论充其量也是没什么实际意义的争论。但是想象一下，你有个处心积虑想要诋毁你名声的敌人，出钱让用户以“恋童癖”这个词和你的名字为关键词来进行搜索。通过Craigslist和亚马逊土耳其机器人招募的狂热水军所制造的搜索量，足以让这个新查询项取代其他几个关联你名字的更正面的查询项。现在，每个搜索你名字的人，同时也被告知，你可能是一个恋童癖者，还有，记住，你没地方可以申辩，因为现在由Google算法说了算，它们永远不会出错。

很难说德国前第一夫人贝蒂娜·沃尔夫是不是类似众包式抨击事件的受害者，但在2012年9月，她起诉Google“自动完成”搜索结果把她的名字跟“妓女”和“伴游女郎”这种词放在一起。沃尔夫案只是这个搜索引擎巨人所面临的众多法律挑战之一。Google坚持认为，其算法为获知真相提供了一个无中介的客观途径，却在欧洲和亚洲屡屡遭遇法律上的麻烦，并且已经在法院输了好几场官司。这些官司的原告，大多是激怒的个人和机构，他们发现自己的名字和品牌跟各种恶意词语和影射关联上了。在日本，一个日本人控告Google“自动完成”结果把他跟自已从未犯过的罪行建立链接，Google被勒令予以修改。同样，在法国，它暗示某人是“恶魔崇拜者”和“强奸犯”，遭到起诉后，Google同样被勒令修改其“自动完成”结果。Google在意大利也输了一场类似的官司。

在几乎所有案子里，Google都援引了算法的中立性，声称“自动完成”的结果只不过反映了其他人搜索过什么内容。正如该公司发言人回应其中一起诉讼时所说，“我们认为Google不应当为出现在“自动完成”中的词语负责，因为它们是由计算机算法基于用户历史搜索预测的，而不是由Google自己。”Google当然知道其算法可能会被愚弄：在2010年，一个名叫布伦特·佩恩(BrentPayne)的商人求助于亚马逊土耳其机器人上的廉价人类劳动力，给愿意执行其指定搜索的个人提供小额报酬。他的聪明把戏的结果是，任何在Google上搜索“布伦特·佩恩”的人都会看到，“布伦特·佩恩搞了这个小把戏”成了“自动完成”的推荐选项之一。这个恶作剧起作用了，直到佩恩把他的经历公之于众为止。

152

枝术至死

并非每个受到Google“自动完成”影响的人都会跟这家搜索引擎巨头对簿公堂。采取一套更人性化的政策对人会有什么坏处，一时半会儿说不明白(或许Google的底线例外)。这实际上并非言论自由问题，因为没人要求Google从搜索索引里移除攻击性信息；如果它们真的存在，实际包含这种信息的页面就还能找得到。但Google完全可以主动拒绝展示负面推荐结果，比如“白痴”和“魔鬼”这一类的。那些想要“约翰·史密斯是魔鬼”这个结果的人，只能输入整个查询语句，干嘛要给他们节约时间?事实上，Google对文件共享网站的态度已经是这样；如果你想让Google给你提供来自“海盗湾”(臭名昭著的盗版内容交换平台)的链接，Google“自动完成”不会给出任何提示，你只能自己输入整个查询语句。

或者Google能找到办法让公司和个人在网上表明身份，选择删除有关自己的负面自动提示。最低限度，它可以创建提示投诉渠道，既然Google也有自己的社交网络Google+，这就容易多了。这对没钱维护网上名声的小企业来说，可能特别重要。如果竞争者能借助Cragslist或亚马逊土耳其机器人来生成有关这些小企业的“自动完成”结果，这可能与其业务成败利害攸关(类似情况同样发生在另一个叫做Places的Google服务上，使用该服务的一些公司报告说其竞争公司“关门了”，该信息一旦流入Google信息帝国，就可能使其竞争公司失去成千上万潜在消费者)。

算法“守门人”的危险

153

但只要Google坚持认为其算法是对现实的客观反映，这一幕就不会发生。事实上，镜子与反映这类措辞在Google的自我展示里无处不在。玛丽莎·梅耶尔曾长期身为Google高管，后来跳槽成为雅虎一把手，她在谈到其前雇主时曾说，“我们一直试图为世界打造一面虚拟镜子。”当被问到数字平台在2011年席卷英国的暴乱中所扮演的角色时，Google的埃里克·施密特同样援引了镜像这个说法。他说，“一边照镜子，一边又试图打碎镜子，这是错误的。(引起暴乱的)问题不管是什么，互联网都是对这个问题的反映。”

注意，把“互联网”当作统一的社会力量，使施密特避开了任何有关其构成要素的有意义讨论。(在这一点上，Google不是一个人在战斗；Facebook也喜欢躲在这样的镜子措辞后面：“我们在系统里的角色，就是不断创新和更新系统，好让它反映现时社会规范。”)但是，对于把握Google在今天公共领域的角色来说，镜子是个糟糕的比喻。这个公司不仅在反映，它还塑造，创造，甚至歪曲，在此过程中，它采用了各种做法，而这些做法，是无法化简为一套统一的“互联网”逻辑的。社会学家唐纳德·麦肯齐(DonaldMackenzie)对金融模型所做的阐述，同样适用于Google：从它最初如何选择展示和切割现实，同时为自己创造新的现实这一角度来看，与其说它是个照相机，不如说它是个引擎。

把Google工程师和记者做个比较。后者可能会喜欢这个观点，也就是说，他们也只是在详尽反映或记录世界上发生的事情。但要是记者认为新闻工作不会同时改变现实，在政治进程里引入(往往令人不安的)新刺激(比如在视听节目里发言，或高亮显示某人信息中最民粹主义的部分)，那就太天真了。现实可能会得到很好的记录，但报纸、广播电台、电视频道同时也是复杂社会技术系统，成千上万参与者在追求他们自己的议程，这常常与现实记录本身毫无关系。

154

枝术至死

事实上，对当代资本主义制约新闻业发展的各种状况（从对个人职业安全的持续焦虑，到创作成功的在线内容面临越来越大的压力)有一个更好的认识，才能给我们一个更好更负责任的新闻业。与其说躲在“客观”或“中立”的标签后面，假装任何持记者证的人都自动认同这些价值观，更有建设性的做法，是去调查，究竟是什么样的障碍(不管是文化上的还是经济上的)阻碍了这些价值观。如果“客观”和“中立”仍然被认为在从事新闻活动的环境中有用，那么支持它们冲破所有障碍的努力，一开始就可以诚恳些。

同样，Google也应当从镜子和反映的说辞后面走出来，承认自己在塑造公共领域的巨大作用，以更负责任的方式扮演这个角色。“客观”是个艰苦的工作；不是说把重要工作委托给算法就万事大吉。新的算法霸主不能指望着扮演伦理机器人；只有通过自我反思和道德想象，它们才能不辜负其公民责任的重担。

哎，他们的现有态度远远及不上这个理想。《连线》的史蒂文·列维在他为Google所写的圣徒言行录式的传记里说，“布林和佩奇深信，如果Google算法决定了何种结果为最佳，并且长期点击率也显示该算法满足搜索者需求，这些搜索者就会干扰搜索结果。”他们真的相信这一套，但史蒂文·列维干嘛不费点儿心调查一下为什么?我们的技术记者是时候学学控制一下自己为圣徒代言的冲动，质疑一下硅谷滔滔不绝的这类故事了。

为什么布林和佩奇相信这个相信那个，他们又是怎么让几乎所有人都跟着相信的，我们需要对此加以解释，而不是视为理所当然。不能认定这种信仰不言自明地正确，就好像仅凭给定算法的技术效力，就足以解释google的成功似的。每个工程师都知道，达到同样目的，通常有很多种方式。为什么其中一些方式，即使其呈现方式是纯技术的、毫无问题的，光用效力这一看似永恒的概念解释不清楚；为什么这类概念硬要给自己贴上永恒和值得追求的标签；“互联网”理念是如何改变这类概念的诉求的；为什么是“镜子”而不是“引擎”成为解释Google的首选隐喻，这些都是我们关于技术的公共对话必须解决的谜题。

算法“守门人”的危险

155