新黑暗时代：科技与未来的终结

2012年，一对来自韦莱斯的兄弟创建了HealthyFoodHouse.com网站，并在网站上面塞满了从网络各处搜集来的许多减肥窍门和另类疗法，在此后几年中吸引了越来越多的访问者。他们的Facebook主页有200万粉丝，每个月还有1000万访客通过谷歌链接到诸如《如何用21天摆脱背部和体侧赘肉》和《5种瞬间缓解疼痛的坐骨神经按摩舒缓精油》这样的文章页面。随着访客滚滚而来的还有谷歌广告带来的收入：兄弟俩已经成为当地名人，在跑车和韦莱斯夜店的一瓶瓶香槟上挥金如土。

韦莱斯的其他孩子群起仿效，很多人辍了学，把时间都投入到他们如雨后春笋般兴起的网站之中，堆砌着抄袭来的似是而非的内容。在2016年初，这些孩子发现网络新闻随便什么新闻——最大也最饥渴的消费者就是特朗普的支持者们，他们聚集在Facebook上，所在群组人数众多，很容易辨认。就像YouTube上未经认证的频道一样，韦莱斯人建立的网站和互联网上到处弹出的成千上万非主流新闻网站一样毫无辨识度——可信程度也差不多，都是对特朗普拒绝承认主流媒体的一种响应。多数情况下，有没有区别并不重要：正如我们所见，社交媒体上的所有信息来源看上去都差不多，耸人听闻的标题与确认性偏差对保守派受众的影响，就像是YouTube算法对“艾莎蜘蛛侠手指家庭颜色学习真人秀”这一串字符所作出的反应一样，反复点击就能将这类故事在Facebook的内部排名中推得更高。几个大胆的少年尝试将同一套把戏用在伯尼·桑德斯（BernieSanders）的支持者身上，但效果要差得多。“伯尼·桑德斯的支持者属于我见过最聪明的那部分人,”其中一人说道，“他们不相信任何东西，帖子得有证据才能让他们相信。”16

第九章并发

232

253

在几个月中，类似希拉里·克林顿被起诉或教皇声明支持特朗普之类的标题为韦莱斯带来了源源不断的财富：街上多了几辆宝马，夜店又卖出了不少香槟。美国媒体站在自己的立场上，谴责这些马其顿少年“是非不分”的态度和“自以为是的行为”。17然而在这么做的同时，他们忽视了、或根本没想过助长马其顿假新闻热潮的历史因素与复杂的内在联系——从而也无法理解类似事件的更为广泛而系统化的影响。

韦莱斯曾以铁托韦莱斯为官方名称，当时它还不属于马其顿共和国，属于南斯拉夫。当南斯拉夫及其联盟解体时，马其顿成功避免了那场分裂巴尔干中部国家的血腥冲突。2001年，在联合国的支持下，多数派政府与阿尔巴尼亚族分裂分子达成停火协议，接着马其顿在2005年申请加入欧盟。但它面临着一个重大障碍：与希腊之间的命名争议。马其顿的南部与希腊接壤，而希腊认为，马其顿这一名称属于其同名省份，并指责新马其顿人意图掠夺其领地。争议十余年来无法平息，阻碍着共和国进入欧盟、并最终进入北约组织，也让它离民主革命越行越远。

由于屡受挫折、难以进步，社会分裂随之进一步加剧，族群民族主义也死灰复燃。结果之一便是执政党推行的“复古化”政策：故意美化甚至编造马其顿的历史。18机场、火车站和体育场都被冠以亚历山大大帝（Alexander the Great）和马其顿的菲利普(Philipof Macedon)之名——两者都是希腊的历史人物，并且和斯拉夫马其顿关系不大——还有其他从希腊马其顿照搬过来的地名和人名。斯科普里的大片区域都被推土机铲平，并重建成更为古典的样式，这一工程要耗资几亿欧元，与此同时，这个国家的几项就业数据都在欧洲排名垫底。城市中心立起了巨型雕像，官方只是称为《战士》（Warrior）和《马背上的战士》（WarrioronHorseback），但所有人都知道这就是菲利普和亚历山大。有段时间马其顿国旗上画的是维吉纳太阳（VerginaSun），这是在菲利普位于希腊北部维吉纳的墓葬中发现的一个符号。这种种盗用都受到民族主义言论的支持，并被用于压迫少数群体和中间党派。主张与希腊和解的政治人物和历史学家都遭到了死亡威胁。19简而言之，马其顿这个国家试图将自己的整体身份认知都建立在假新闻的基础上。

新黑暗时代科技与未来的终结

233

254

2015年，据一系列遭到泄露的情报显示，这个推行复古化的政府还资助了本国情报部门的一项大规模线路窃听计划，在逾10年间非法记录了来自超过2万个电话号码的约67万次通话。20不同于美英等被发现窃听自己国民通讯的民主国家，马其顿的这次泄密事件直接导致了政府垮台，这些截获的内容随后都被发给了被窃听对象。记者、议会成员、激进主义分子和非政府组织雇员中的人道主义者都收到了录有好几个小时他们最私密谈话的光盘。21但就像在别的地方一样，这种揭露不会改变任何东西—只会引发更多妄想症。右翼政党指责国外势力策划了这起丑闻，并在民族主义言论上变本加厉。民众对政府与民主制度的信任降至新低。

在这种气氛下，韦莱斯的年轻人们全心投入到炮制假消息的项目中，又有什么奇怪的呢？更何况这种行为还能获得来自所谓代表未来的新式系统的奖赏。假新闻不是互联网的产物，为自身利益而篡改信息的行为一直都存在，只是这次换了新的技术。这是宣传的大众化，越来越多的人能够扮演宣传者的角色。而这最终成为了社会上业已存在的某个群体的扬声器，就像帮派跟踪网站是精神分裂症患者的扬声器。但如果忽略了造就韦莱斯的历史与社会背景，它的物化就标志着我们已无法理解自己亲手建立、并将自己围困其中的机制，标志着我们还在为模糊的问题寻找明晰的答案。

第九章并发

234

255

在很多政治选举中也存在不明势力的影响，每一次都有阴谋与妄想相随。在英国脱欧公投的准备期间，五分之一的选民都相信这次投票会有安保人员合谋操纵。22脱欧派建议选民带上钢笔去投票，以免铅笔书写的笔迹被擦掉。23公投结束后，人们的目光聚焦到了剑桥分析公司（CambridgeAnalytica）的工作上。这家公司属于罗伯特·默瑟（RobertMercer），一位前AI工程师、对冲基金亿万富翁以及唐纳德·特朗普最有力的支持者。剑桥分析的职员将他们的工作描述为“心理战”——利用大量数据来锁定并说服选民。当然，结果表明安保人员确实在操纵投票，实际是这么发生的：剑桥分析向脱欧派“捐赠”自己的服务，而它的董事与员工中包括前英国军事人员，尤其是英军在阿富汗的前心理战指挥官。24在脱欧公投与美国大选中，都有军事承包商运用军事情报技术来影响本国的民主选举。

记者卡罗尔·卡德瓦拉德（CaroleCadwalladr）曾多次强调脱欧派、美国右翼与这家影子般的数据公司之间的联系，她写道：

新黑暗时代科技与未来的终结

235

236

256

(我)试图每天跟踪这一事件，就像是一次无法停止的旋转：一个交织着关系、权力、资助与结盟的蜘蛛网，横跨大西洋两岸，包括数据公司、智囊团和媒体渠道。其中涉及复杂的公司架构，模糊不清的管辖地归属，通过平台技术垄断者的黑箱算法汇聚起来的离岸基金。这种令人目眩的复杂与地域分布的弥散并非巧合。混乱是江湖骗子的朋友，噪声则是其从犯。推特上的胡言乱语就是遮掩黑暗的现成外衣。25

就像在美国大选中一样，人们的视线又一次转向了俄罗斯。调查者发现互联网研究机构也以其标志性的挑拨离间的行径，参与了推特上的脱欧狂欢。有个账户本应属于一位德克萨斯州共和党人，但却因与这一机构有联系而被推特封号。这个账户此前还登上过小报封面，当时它贴出了一张图片，表现一名妇女对伦敦恐怖袭击中的受害者视若无睹。26

除了419个活跃账户被认定属于这一机构，还有数不清的机器人账户。在公投后第二年，一篇报告发现有超过13000个机器人账户在推特上为辩论的正反两方发言—但赞同脱欧的内容是赞同留欧内容的8倍。27在公投后的几个月内，推特删除了这全部13000个账户，但它们的来源仍是个谜。而根据其他报道，在有关2016美国大选的所有网络辩论中，有五分之一是来自于机器人，这些机器人的行为极大地影响了公众意见。28当大量的民主辩论参与者既不担责任、又无迹可循，当我们无法知道他们是谁、甚至是什么的时候，民主制度就在遭到腐蚀。尽管机器人对社会的影响正以指数级增长，但它们的动机与来源却仍不清楚。

第九章并发

237

257

现在已经到处都是机器人。

在2015年的夏天，一个专为已婚人士寻找艳遇的约会网站AshleyMadison.com遭到黑客攻击，3700万用户的详细信息被泄露到了互联网上。通过对网站用户间计费信息的数据挖掘，很快就能发现，尽管网站保证对男性与女性用户进行直接匹配——包括向高级会员保证艳遇成功—但不同性别的用户数量存在着巨大差异。在3700万用户中，仅有500万是女性，而且她们大部分只是开了个账号，之后便再也没有登录过。但有7万异常活跃的女性账户例外，阿什利·麦迪逊称她们为“天使”。天使们会主动与男性用户联系——而他们得付费才能回复——并在几个月间保持交谈，以确保他们继续登录，并支付更多费用。当然，这些天使全都是机器人。29阿什利·麦迪逊聘请第三方用31种语言制作了数百万个假身份资料，建立起精密的系统来管理与操纵它们。有些男人在网站上花了数千美元甚至有人还真获得了艳遇，但绝大多数人在几年时间里只是在花钱和软件进行毫无结果的交谈。这是对机器人反乌托邦的另一种诠释：一个不可能进行社交的社交网站，半数参与者只是幻影，而只有通过付费才能参与其中。正处于系统影响下的人们不可能知道发生了什么，而只是隐约怀疑事情可能不对劲。而除了打破这整个企业所立足的幻想，就不可能对这种怀疑采取什么行动。其基础设施的崩塌这次入侵—昭示了它的破产，但它早已在一个凌虐系统的技术框架中明确出现过。

当我刚开始在网上发表关于YouTube儿童视频的吊诡和暴力的研究时，我收到了一大批来自陌生人的电子邮件和信息。他们都觉得自己知道这些视频的出处，有些花了好几个月在网上追踪这些网站主人和IP地址，有些则拿到了实景拍摄地资料及与之相关的虐待记录。视频来自印度、马来西亚、甚至来自巴基斯坦(每次都有新的地方）；它们被描述成国际恋童癖团伙的养成工具，某家公司的产品，一个变异AI的产物，或者是一个精心策划、由国家势力支持的跨国阴谋，意欲腐化西方国家的青年一代。有些邮件纯属脑洞大开，有些则来自专业的研究人员，但他们都相信自己已经解开了密码。如果只考虑某一部分视频或某一方面特性，他们的评价大部分还挺令人信服，但一旦放在全局下进行检验，则无一例外彻底落于失败。

新黑暗时代科技与未来的终结

238

258

无论是脱欧运动、美国大选还是令人不安的YouTube深处，其共通之处在于，就算有重重怀疑，我们也不可能搞清究竟是谁在做什么、出于什么目的。看着无休无止的视频流、不停滚动的状态更新和推文，想要分清哪些是算法生成的胡言乱语，哪些是为了赚取广告收入而精心虚构的新闻；判断它们究竟是妄想狂的杜撰，是国家行动，是宣传，还是垃圾信息；分清哪些是故意放出的误导信息，哪些又是好意的事实核查，基本都是徒费工夫。这种混乱肯定有助于克里姆林宫间谍和虐童者之流的运作，但它也比任何一个团体所关心的内容都更深、更广：它就是这个世界真实的样子。没人认为世界应该这么演化——没人想要新黑暗时代—但我们已经将它建成了这样，现在只能生活在其中。

第九章并发

239

259

阴云

2013年5月，谷歌邀请了约200位特别嘉宾来到英国赫特福德郡的格鲁夫酒店（GroveHotel），参加其一年一度的“时代精神大会”(Zeitgeistconference)。这个为期两天的聚会自2006年起便年年举办，除了之后在酒店庭院中进行的公众“大露营”活动外，会议本身高度私密，只有某些指定演讲者的视频会被发布到网上。这些年来，在大会上发表演说的有前美国总统、皇室成员、流行明星等，而2013年的嘉宾名单包括多位国家首脑和政府部长、多家欧洲龙头企业的CEO，还有前英国武装部队总司令，再加上谷歌的董事与几位励志演讲者。包括谷歌CEO埃里克·施密特（EricSchmidt）在内的多位参与者还将在一个月后回到同一家酒店，参加汇聚世界政治精英、同时更加私密的彼尔德伯格会议（Bilderberg Group meeting)。12013年大会的议题包括“今天就行动”(ActionThis Day)、“我们的传承”(OurLegacy)、“互联世界中的勇气”(Courage in a Connected World)和“快乐法则”(The Pleasure Principle)，并以一系列演讲来敦促这些全世界最具影响的人物支持慈善行动以及追寻他们自身的快乐。

第十章

241

261

施密特以对科技解放力的一段赞美来亲自为大会开场。“我认为我们缺少一些东西，”他讲道，“也许是因为我们的政治运行机制，也许是因为媒体的工作方式。我们还不够乐观…创新的本质以及在谷歌乃至全球正发生着的事物，将对人类起着非常积极的影响，我们应当更加乐观地看待即将发生的未来。”2

在随后的讨论环节中，有一个问题将乔治·奥威尔(GeorgeOrwell）的《1984》作为这种乌托邦式想法的一个反例，施密特在回应中则以手机——特别是手机摄像头——的普及来展示科技是如何让世界变得更好：

在互联网时代，要实施系统化的犯罪已经非常非常困难，我会给你们举个例子。我们曾到过卢旺达，1994年那里发生过一场可怕的……基本上是种族灭绝式的屠杀。4个月间有75万人被大刀砍死，这种杀人手段惨绝人寰。这需要预谋，需要有人把计划写下来。我在想的是，在1994年，如果每个人都有一部智能手机，就不可能发生这样的事。人们会注意到正在发生什么。计划会被泄露。总有人会推断出实际情况，总有人会作出反应，并阻止这次可怕的屠杀。3

施密特——以及谷歌——的世界观完全是基于这样一个信念：透明可见就能带来改善，而科技正是提高可见性的工具。这个观点已在全世界盛行，然而它不但完全错误，而且无论是在整体上、还是在施密特所举的特例中，都极具危险性。

242

新黑暗时代|科技与未来的终结

262