智人之上：从石器时代到AI时代的信息网络简史

https://doi.org/10.1177/03064220211012282; Anastasiya Astapova, “In Search for Truth: Surveillance Rumors and Vernacular Panopticon in Belarus”, Journal of American Folklore 130, no. 517 (2017): 276-304; R. Hervouet, “A Political Ethnography of Rural Communities under an Authoritarian Regime: The Case of Belarus”, Bulletin of Sociological Methodology/Bulletin de Méthodologie Sociologique 141, no. 1 (2019): 85- 112,https://doi.org/10.1177/0759106318812790; Allen Munoriyarwa, “When Watchdogs Fight Back: Resisting State Surveillance in Everyday Investigative Reporting Practices among Zimbabwean Journalists”, Journal of Eastern African Studies 15, no. 3 (2021): 421-441;Allen Munoriyarwa, “The Militarization of Digital Surveillance in Post-Coup Zimbabwe:‘Just Don’t Tell Them What We Do’”, Security Dialogue 53, no. 5 (2022): 456-474.

1. “Iran: International Community Must Stand with Women and girls Suffering Intensifying Oppression”, Amnesty International, 26 July 2023, https://www.amnesty.org/en/latest/news/2023/07/iraninternational-community-must-stand-with-women-and-girlssuffering intensifying-oppression/; “Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

1. Johnson, “Iran Says Face Recognition Will ID Women Breaking Hijab Laws”, Wired.

1. “Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International.

1. “Iran: Doubling Down on Punishments Against Women and Girls Defying Discriminatory Veiling Laws”, Amnesty International; Shadi Sadr, “Iran’s Hijab and Chastity Bill Underscores the Need to Codify Gender Apartheid”, Just Security, April 11, 2024, https://www.justsecurity.org/94504/iran-hijab-bill-genderapartheid/; Tara Subramaniam, Adam Pourahmadi and Mostafa Salem, “Iranian Women Face 10 Years in Jail for Inappropriate Dress after ‘Hijab Bill’ Approved”, CNN, September 21, 2023, https://edition.cnn.com/2023/09/21/middleeast/iran-hijab-lawparliament-jail-intl-hnk/index.html; “Iran’s Parliament Passes a Stricter Headscarf Law Days after Protest Anniversary”, AP News,September 21, 2023, https://apnews.com/article/iran-hijabwomen-politics-protests-6e07fae9 90369a58cb162eb6c5a7ab2a? utm\_source=copy&utm\_medium=share.

1. Christopher Parsons et al., “The Predator in Your Pocket: A Multidisciplinary Assessment of the Stalkerware Application Industry,” Citizen Lab, Research report 119, June 2019,citizenlab.ca/docs/stalkerware-holistic.pdf; Lorenzo Franceschi-Bicchierai and Joseph Cox,“Inside the ‘Stalkerware’ Surveillance Market, Where Ordinary People Tap Each Other’s Phones,”Vice , April 18, 2017,

第八章可能出错：谬误百出的网络

亚历山大·索尔仁尼琴在《古拉格群岛》中记述的历史，除了涉及苏联劳改营本身，还涉及创建并维持这些劳改营的信息网络。这部作品部分源自他痛苦的个人经历。第二次世界大战期间，索尔仁尼琴担任红军大尉。当时，他和以前的同学还有信件往来，他偶尔会在信里批判斯大林。为了安全起见，他并没有指名道姓，而是以^“那个留着络腮胡子的人^”指代。这没什么用。秘密警察拦截并读了他的信。₁₉₄₅年₂月，他在德国前线服役时被捕。接下来的₈年，他是在劳改营里度过的。索尔仁尼琴许多来之不易的见解与故事对于我们理解₂₁世纪信息网络的发展仍然具有重要意义。

书中的一个故事发生在莫斯科省的一次地区党代表会议上，当时正值苏联肃反运动高峰（₂₀世纪₃₀年代末）。会议结束时，代表们要向斯大林致敬，在场代表（当然清楚有人在密切监视他们）掌声雷动，但过了₅分钟，^“手都拍疼了，抬起的手臂也开始发酸，上了年纪的人开始喘不上来气_……但谁敢第一个停下来呢？^”索尔仁尼琴解释说，^“内务人民委员部的人也站在那里鼓掌，看谁会第一个停下来！^”掌声持续不断，₆分钟，₈分钟，₁₀分钟。^“他们在因心脏病发作而倒下之前都不能停手_……区领导们强颜欢笑，绝望地面面相觑。他们肯定会一直鼓掌，直到倒地不起。 ,9

终于在第₁₁分钟的时候，一个造纸厂厂长豁出去了，停止了鼓掌，坐了下来。其他人立刻照着做。当晚，秘密警察逮捕了那位厂长，判他在古拉格劳改营服刑₁₀年。^“审讯他的人要他记住，永远不要第一个停止鼓掌！

这个故事让我们看到一个关于信息网络（特别是关于监控系统）的重要且让人毛骨悚然的事实。正如前文所述，与天真的信息观相反，信息常常被用来创造秩序而非发现真相。表面上，地区党代表会议上的秘密警察想通过这次^“鼓掌测试^”来揭示关于代表们的真相，其实就是个忠诚度测试^——你鼓掌越久，就越爱斯大林。在很多情况下，这种假设也不见得没道理，但如果在₂₀世纪₃₀年代末的莫斯科，鼓掌这件事的本质则变了。正因为代表们清楚有人在监视他们，也知道表露任何一丝不忠会有什么后果，所以他们鼓掌根本不是出于敬爱，而是出于恐惧。造纸厂厂长之所以停止鼓掌，很有可能不是因为他最不忠诚，而是因为他最诚实，或者只是因为他的手最疼。

虽然^“鼓掌测试^”并没有揭示关于这群人的真相，但却很有效率地把一套秩序强加在这群人身上，逼他们一定要遵守某种行事方式。时间慢慢过去，这套秩序会培养出奴性、虚伪、对他人的不信任与悲观。在量子力学中，光是观察亚原子粒子，就会让这些粒子的行为发生改变。观察人类的行为也是如此：我们的观察工具越强大，可能造成的影响越大。

苏联曾打造了强大的信息网络，收集并处理了大量关于公民的资料，还声称在领导人的正确领导下，对人性有深刻理解。事实上，苏联的信息网络忽略了人性的许多重要方面，并且认为这些政策不会给公民带来磨难。这套信息网络带来的智慧有限，更多的是服务于秩序的建立；它也没能揭示关于人类的普遍真理，反而提出了一个新概念，即苏维埃原人。

苏联哲学家、讽刺作家亚历山大·季诺维也夫定义的苏维埃原人是一群奴性、悲观、不信任他人的人类，无论多荒谬的指令，他们都会遵守，对自 己行为造成的结果也漠不关心。苏联的信息网络正是通过监控、惩罚与奖励创造了苏维埃原人。举例来说，该网络把造纸厂厂长送进古拉格劳改营，等于告诉其他在场代表，乖乖跟大家一致是件好事，想当出头鸟则是不明智的。虽然这套网络并未揭示关于人类的真理，但却非常擅长创造秩序，这让它征服了世界的一大片地区。

^“点赞^”的独裁

类似的动态也可能影响₂₁世纪的计算机网络，创造出新型人类或新型反乌托邦。一个典型的例子就是社交媒体算法正让民众走向偏激与极端。当然，这些算法所用的方法完全不同于苏联内务人民委员部，也没有直接的胁迫或暴力。正如苏联秘密警察通过监控、奖励与惩罚创造了顺从的苏维埃原人，脸书与YouTube的算法也通过奖励人性里某些基本本能，同时惩罚人性里某些善良的部分，而创造出互联网喷子。

第六章曾经简单说明，企业在要求算法提高用户参与度的时候，就开始了一个走向偏激与极端的过程，这种情况不仅发生在缅甸，而且发生在全世界。例如，₂₀₁₂年，YouTube在全球的总观看时长约为每天₁亿小时。但公司高层还不满足，于是给算法确立了一个充满野心的目标：到₂₀₁₆年，这一数据要达到每天₁₀亿小时。经过对数百万人的实验，不断试错，YouTube的算法发现了脸书的算法也掌握的那套模式：只要激起人们的怒火，就能提升参与度，而走中庸节制的路线则行不通。于是，YouTube的算法开始向数百万观众推荐各种让人惊骇、愤慨的阴谋论，同时无视那些较为中庸、理性的内容。₂₀₁₆年，YouTube每天的总观看时长达到₁₀亿小时。

那些想博人眼球的YouTube主播发现，如果发布满是谎言、让人愤慨的视频，会受到算法青睐，视频会被推荐给大量观众，于是自 己的人气会飙升，收益也会增加。相较之下，如果不刺激人们愤怒的情绪，坚持只谈事实，算法常常对他们的作品视而不见。经过几个月的强化学习，算法让许多YouTube主播都成了喷子。

这会造成深远的社会与政治影响。比如，记者马克斯·费希尔₂₀₂₂年的著作《混沌机器》（The Chaos Machine）就提到，YouTube的算法成了推动巴西极右翼势力崛起的重要引擎，也把雅伊尔·博索纳罗从边缘人物一路推上巴西总统宝座。虽然这场政治动荡不乏其他诱因，但值得一提的是，博索纳罗有许多主要支持者与助手最初都是YouTube主播，他们因为算法的恩赐而得到声誉和权力。

卡洛斯·若尔迪就是一个典型的例子。他在₂₀₁₇年还是尼泰罗伊这个小城市的议员。野心勃勃的他靠拍摄煽动性的YouTube视频得到国人关注，观看量高达数百万人次。比如，他的许多视频会警告巴西人，要小心老师搞阴谋，洗脑儿童，迫害保守派学生。若尔迪在₂₀₁₈年以博索纳罗最忠实的支持者之姿，赢得巴西众议院（巴西国会的下议院）的席位。接受费希尔采访的时候，若尔迪坦言：^“要是没有社交媒体，我不可能站在这里，博索纳罗也不可能当上总统。^”后半句可能有点夸张，但不可否认，社交媒体确实在博索纳罗的崛起过程中发挥了重要作用。

同样在₂₀₁₈年赢得巴西众议院席位的YouTube主播是基姆·卡塔吉里，他是^“自由巴西运动^”（Movimento Brasil Livre，MBL）的领导者之一。卡塔吉里一开始以脸书作为他的主要平台，但他的帖文连脸书也觉得过于极端，并将其部分帖文认定为不实信息而移除。于是卡塔吉里转向管制较为宽松的YouTube。在圣保罗的^“自由巴西运动^”总部接受采访时，卡塔吉里的助理与其他一些活动人士向费希尔解释说：^“这里有一种我们所谓的^‘点赞的独裁^’。^”他们表示，YouTube主播之所以越来越偏激，并发表一些虚假而不顾后果的内容，^“正是因为那些东西能带来观看量和参与度_……一旦那扇门打开了，你就永远无法回头，只能越来越夸张_……地平论者、反疫苗者、政治阴谋论者在本质上是一样的，他们随处可见^”。

当然，并不是YouTube的算法编造了谎言或阴谋论，或者创作了偏激、极端的内容。至少在₂₀₁₇^—₂₀₁₈年，这些内容还是由人类创作的。然而算法所做的，是鼓励人类往这个方向走，并且不断推荐这些内容，以最大限度地提升用户参与度。根据费希尔的调研，许多极右翼活动人士正是在看了YouTube的算法自动推送的视频，才首次对极端主义政治有了兴趣。尼泰罗伊的一位极右翼活动人士告诉费希尔，他本来对任何政治话题都没什么兴趣，直到有一天，YouTube的算法自动给他推送了一部卡塔吉里发的政治视频。他说：^“在那之前，我并没有什么特定的意识形态或政治背景。^”他认为这套算法为他提供了^“政治启蒙^”。说到其他人是怎么加入这场运动的，他说：^“每个人其实都是这样_……大多数人都是因为YouTube和社交媒体才加入的。 ,,