智人之上：从石器时代到AI时代的信息网络简史

1. “Canadian Man Faces Weapons Charges in Attack on PM Trudeau’s Home,” Al Jazeera,July 7, 2020, www.aljazeera.com/news/2020/7/7/canadian-man-facesweapons-charges-in attack-on-pm-trudeaus-home. 也请参见： Mack Lamoureux，“A Fringe Far-Right Group Keeps Trying to Citizen Arrest Justin Trudeau,”Vice , July 28, 2020, www.vice.com/en/article/dyzwpy/a-fringe-far-right-group-keepstrying-to-citizen-arrest-justin-trudeau.

1. Camila Domonoske, “QAnon Supporter Who Made Bigoted Videos Wins Ga. Primary, Likely Heading to Congress,” NPR, Aug. 12, 2020, www.npr.org/2020/08/12/901628541/qanon supporter-who-made-bigoted-videos-wins-ga-primary-likelyheading-to-congre.

1. Matthew Weaver, “AI Chatbot ‘Encouraged’ Man Who Planned to Kill Queen, Court Told,”Guardian, July 6, 2023, www.theguardian.com/uk-news/2023/jul/06/ai-chatbotencouraged man-who-planned-to-kill-queen-court-told; PA Media, Rachel Hall, and Nadeem Badshah,“Man Who Broke into Windsor Castle with Crossbow to Kill Queen Jailed for Nine Years,”Guardian, Oct. 5, 2023, www.theguardian.com/uknews/2023/oct/05/man-who-broke-into windsor-castle-withcrossbow-to-kill-queen-jailed-for-nine-years; William Hague, “The Real Threat of AI Is Fostering Extremism,”Times, Oct. 30, 2023, www.thetimes.co.uk/article/the real-threat-of-ai-is-fosteringextremism-jn3cw9rd3.

1. Kwang W. Jeon, The Biology of Amoeba (London: Academic Press, 1973).

_46. ₁平方英尺约等于_0.093平方米。^——编者注

_47. ₁加仑约等于_4.546升。^——编者注

1. International Energy Agency, “Data Centers and Data Transmission Networks,” last update July 11, 2023, accessed Dec. 27, 2023, www.iea.org/energy-system/buildings/data-centers anddata-transmission-networks; Jacob Roundy, “Assess the Environmental Impact of Data Centers,” TechTarget, July 12, 2023, www.techtarget.com/searchdatacenter/feature/Assess theenvironmental-impact-of-data-centers; Alex de Vries, “The Growing Energy Footprint of Artificial Intelligence,”Joule 7, no. 10 (2023): 2191–94, doi.org/10.1016/j.joule.2023.09.004;Javier Felipe Andreu, Alicia Valero Delgado, and Jorge Torrubia Torralba, “Big Data on a Dead Planet: The Digital Transition’s Neglected Environmental Impacts,” The Left in the European Parliament, Nov. 15, 2022, left.eu/issues/publications/big-data-on-a-deadplanet the-digital-transitions-neglected-environmental-impacts/.关 于对水源的要求，参见：Shannon Osaka，“A New Front in the Water Wars：Your Internet Use，”Washington Post，April 25， 2023，www.washingtonpost.com/climateenvironment/2023/04/25/data-centers drought-water-use/.

1. Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (New York: PublicAffairs, 2018); Mejias and Couldry, Data Grab;Brian Huseman (Amazon vice president) to Chris Coons (U.S. senator), June 28, 2019,www.coons.senate.gov/imo/media/doc/Amazon%20Senator %20Coons\_\_Response%20 Letter\_\_6.28.19%5B3%5D.pdf.

1. “Tech Companies Spend More Than € 100 Million a Year on EU Digital Lobbying,”Euronews, Sept. 11, 2023,

www.euronews.com/my-europe/2023/09/11/tech-companies spend-more-than-100-million-a-year-on-eu-digital-lobbying; Emily Birnbaum, “Tech Giants Broke Their Spending Records on Lobbying Last Year,” Bloomberg, Feb. 1, 2023, www.bloomberg.com/news/articles/2023-02-01/amazon-applemicrosoft-report-record-lobbying spending-in-2022.

1. Marko Köthenbürger, “Taxation of Digital Platforms,” in Tax by Design for the Netherlands,ed. Sijbren Cnossen and Bas Jacobs (New York: Oxford University Press, 2022), 178.

1. Omri Marian, “Taxing Data,”BYU Law Review 47 (2021); Viktor Mayer-Schönberger and Thomas Ramge, Reinventing Capitalism in the Age of Big Data (New York: Basic Books, 2018); Jathan Sadowski, Too Smart: How Digital Capitalism Is Extracting Data,Controlling Our Lives, and Taking Over the World (Cambridge, Mass.: MIT Press, 2020);Douglas Laney, “Unlock Tangible Benefits by Valuing Intangible Data Assets,”Forbes,March 9, 2023, www.forbes.com/sites/douglaslaney/2023/03/09/unlock-tangiblebenefits by-valuing-intangible-data-assets/?sh=47f6750b1152; Ziva Rubinstein, “Taxing Big Data:A Proposal to Benefit Society for the Use of Private Information,”Fordham Intellectual Property, Media, and Entertainment Law 31, no. 4 (2021): 1199, ir.lawnet.fordham.edu/iplj/vol31/iss4/6; M. Fleckenstein, A. Obaidi, and N. Tryfona, “A Review of Data Valuation Approaches and Building and Scoring a Data Valuation Model,”Harvard Data Science Review 5, no. 1 ( 2023), doi.org/10.1162/99608f92.c18db966.

soviet-union-235368/; Benjamin Peters, “The Soviet InterNyet,”Eon, Oct. 17, 2016, eon.co/essays/how-the-sovietsinvented-the-internet-and why-it-didnt-work; Benjamin Peters, How Not to Network a Nation: The Uneasy History of the Soviet Internet (Cambridge, Mass.: MIT Press, 2016).

1. Fred Turner, From Counterculture to Cyberculture: Stewart Brand, the Whole Earth Network,and the Rise of Digital Utopianism (Chicago: University of Chicago Press, 2010).

第七章永不停歇：网络永远持续运行

人类对于被监视这件事已经习以为常。几百万年来，我们一直被其他动物或其他人观察着、追踪着。家人、朋友和邻居总想知道我们在做什么、想什么，我们也总是很在意他们懂不懂我们、对我们有何看法。不论是谈到社会等级、政治手腕还是浪漫关系，都需要我们不断努力去解读别人的感受与想法，偶尔也得把自 己的感受与想法隐藏起来。

人类发展出的中央集权式官僚网络，其最重要的功能之一就是对全民进行监控。秦朝的官员想知道人民有没有缴纳赋税，有没有密谋反抗；天主教会想知道人民有没有缴纳什一税，在家有没有偷偷自慰；可口可乐公司想知道怎样才能说服我们买它的产品；至于统治者、商人或各个宗教的神职人员，也都想知道我们的秘密，以便对我们加以控制、操纵。

当然，各种有利民生的服务同样需要监控机制的配合。帝国、教会或企业想为民众提供保障、支持与民生必需品，没有信息肯定不行。在现代国家，卫生官员想知道民众从哪里取水、到哪里排便；医疗保健官员想知道民众想摆脱哪些疾病、食量有多少；福利部门官员则想知道民众是否失业、有没有受到配偶的虐待。没有这些信息，他们就无法帮助我们。

为了了解我们，不论好的还是坏的官僚机构都需要做两件事：第一，收集大量关于民众的数据；第二，分析所有数据，找出其中的规律模式。所以从古代中国到现代美国，各个帝国、教会、企业与医疗保健体系都会收集并分析几百万人的行为数据。但无论古今中外，监控从来都没有做到滴水不漏。现代美国这样的民主政体，为了保护隐私与个人权利，监控行为有法律限制；而像中国秦朝或现代苏联这样的政体，虽然没有法律的阻碍，却有技术的限制。不管那些专制者有多么残暴，他们都没有足够的科技能够随时随地永远监控所有人。所以就算是在希特勒时期的德国，民众通常也是有一定程度的隐私的。

格奥尔基·约瑟费斯库是罗马尼亚第一批计算机科学家，他还记得，₂₀世纪₇₀年代首次引进计算机的时候，政府对这种陌生的信息技术非常不安。₁₉₇₆年的某一天，约瑟费斯库走进政府的计算机中心上班，却看到有个陌生男人穿着皱巴巴的西装坐在那里。约瑟费斯库向他打招呼，他没回应。约瑟费斯库又自我介绍，他还是嘴巴紧闭。于是约瑟费斯库回到自 己的工位上，打开一台大型计算机开始工作。那个陌生人这时拉着椅子靠了过来，就这样观察着约瑟费斯库的一举一动。

一整天，约瑟费斯库多次想跟那个陌生人搭话，问他叫什么名字、为什么在这里、到底想知道些什么，但他始终一言不发，只是睁大眼睛看着一切。等到晚上约瑟费斯库下班时，那人才起身离开，连一声道别也没有。约瑟费斯库很清楚最好别再问下去了，那个男人显然是个特工，隶属于罗马尼亚国家安全局（以下简称国安局）。

约瑟费斯库第二天一早上班，那个特工已经到了。他再次在约瑟费斯库旁边坐了一天，默默地在一个小记事本里做着笔记。这种情况一直持续了₁₃年，直到₁₉₈₉年东欧剧变。与这位特工多年共处一桌，约瑟费斯库甚至连他叫什么都不知道。

约瑟费斯库知道，办公室外面可能还有特工在监视他。因为他掌握着一项强大且可能具有颠覆性的技术，所以他成了重要的监控目标。但事实上，当时的罗马尼亚政府相当偏执，把罗马尼亚₂₀₀₀万公民都当成监控的对象。如果当时做得到，他们应该会持续监控所有人，而且他们还真的朝这个方向迈了几步。₁₉₆₅年，国安局在布加勒斯特只有一个电子监控中心，其他省级城市有₁₁个。但到₁₉₇₈年，光是布加勒斯特就有₁₀个电子监控中心，各省监控中心总数达到₂₄₈个；另外还有₁₀₀₀个便携式监控装置，用来窃听偏远的度假地点与村庄。

₂₀世纪₇₀年代晚期，国安局特工发现有些罗马尼亚人会写匿名信给自由欧洲电台，批评罗马尼亚政府。于是他们发动了一项全国活动^——收集₂₀₀₀万罗马尼亚公民所有人的笔迹。从大学到中小学，所有学生被迫交出写的小论文或作文作业。雇主必须要求所有员工呈交手写履历，转给国安局。

但就像斯大林当政时期的苏联，罗马尼亚政府也不可能真的一天₂₄小时监控所有公民。因为就算是国安局特工也得睡觉，所以如果真想持续监控罗马尼亚₂₀₀₀万公民，大概得有₄₀₀₀万名特工才做得到。而国安局特工人数只有大约₄万。就算罗马尼亚政府真有办法召唤出₄₀₀₀万名特工，也只会引出新的问题：难道特工就不需要有人监控吗？解决方案之一是让人民彼此监控。所以除了₄万名专业特工，国安局还有₄₀万个民间线人。但不管秘密警察能找来多少线人，这样收到的资料还是不足以创造出一个全面监控的政体。假设国安局成功招到足够的特工与线人，能够每天₂₄小时监控所有人。等到一天结束，每个特工与线人把观察到的情况写成报告，结果就是国安局每天都会收到₂₀₀₀万份报告，相当于每年₇₃亿份，国安局会直接被报告淹没。而且要是没有分析，这些报告也只会是废纸。但国安局能上哪儿找到足够的分析师，每年细细审查比较₇₃亿份报告呢？

正因为收集与分析信息如此困难，就算是₂₀世纪最极权的国家，也无法有效监控全民。在罗马尼亚与苏联，公民的大部分言行仍然能够躲过罗马尼亚国安局与苏联克格勃的注意。就算是某些细节真的被记到了档案里，也常常就是摆设，无人问津。国安局与克格勃真正的力量并不在于能够持续监控所有人，而在于能够激发民众对于^“自 己可能正被监控^”的恐惧，进而对自 己的一言一行都格外小心。

不用睡觉的特工

如果一切监控只能靠人的眼睛、耳朵与大脑（就像约瑟费斯库上班时旁边坐着的那位特工），那么即使像约瑟费斯库这样的首要监控目标也会保有一点儿隐私，特别是没人能看到他的脑子在想什么。然而，正是约瑟费斯库这些计算机科学家的研究，让事情出现了变化。₁₉₇₆年，约瑟费斯库桌上的那台计算机虽然还很原始，但已经比旁边椅子上坐着的国安局特工更懂得怎么处理数字了。而到₂₀₂₄年，计算机网络已经无所不在，有能力每天₂₄小时监控全国公民，而且不需要雇用和培训数百万的人类特工，只要靠着数字特工就能做到。网络甚至不需要自 己负担这些数字特工的成本：公民不但心甘情愿地付钱，走到哪里还都带着它们。

那位监控约瑟费斯库的特工并不会跟着约瑟费斯库进厕所，在约瑟费斯库做爱的时候也不会坐在床边。但我们现在的智能手机却常常能做到这一点。此外，有很多在约瑟费斯库的时代与计算机无关的活动（比如看新闻、和朋友聊天、买东西吃），现在都是在线上完成的，因此网络也更容易知道我们在做些什么、说些什么。我们成了自 己的线人，把自 己的原始数据提供给了网络。现在就算是不用智能手机，也几乎逃脱不了某些摄像头、麦克风或追踪设备的监控，不管是求职、买票还是看病，甚至只是走在路上，都常常需要和计算机网络互动。目前大多数人类活动都是通过计算机网络来联结的，几乎所有金融、社会或政治交易都离不开计算机。因此，就像伊甸园里的亚当和夏娃，我们也躲不开云端的眼睛。

计算机网络既不需要几百万的人类特工来监控我们，也不需要几百万的人类分析师来找出我们这些数据的意义。国家机构里的那片纸海并不会自我分析，但现在的计算机有了机器学习与人工智能的魔力，已经能够自行分析它们收集来的大部分信息。一般以英语为母语的人每分钟能够阅读大约₂₅₀个英文单词。所以分析师如果每天轮班₁₂小时，整年不放假，在他₄₀年的职业生涯中，大概可以阅读₂₆亿个英文单词。但在2024年，像ChatGPT与Meta公司的Llama这些语言算法，每分钟就能处理数百万个单词，要^“读完^”₂₆亿个英文单词也花不了几小时。这些算法处理图像、录音与视频片段的能力同样是人类远远不及的。

更重要的是，这些算法在海量数据里找出规律和模式的能力也远远高于人类。要找出规律和模式需要两种能力：创造准则的能力，以及做出判断的能力。举例来说，人类分析师如何判断某个人是^“疑似恐怖分子^”，必须格外注意呢？第一，他们会创造一套通用准则，比如^“读极端主义的作品^”、^“与已知的恐怖分子交朋友^”，以及^“拥有足以制造危险武器的技术知识^”。第二，他们需要判断某个人是否符合标准，从而标记为疑似恐怖分子。假设某人上个月在YouTube上看了₁₀₀部极端主义影片，他有个朋友是已定罪的恐怖分子，目前还在某个存有埃博拉病毒样本的实验室里攻读流行病学博士学位，这个人该不该被列入^“疑似恐怖分子^”名单？如果他是个生物系大学生，上个月看了₅₀部极端主义影片，这又该怎么判断呢？

在₂₀世纪₇₀年代的罗马尼亚，只有人类能够做出这样的判断。但到₂₁世纪₁₀年代，人类越来越多地把这种事交给算法了。₂₀₁₄^—₂₀₁₅年，美国国家安全局启用了一套名为^“天网^”（Skynet）的人工智能系统，它能够依据民众的通信、写作、旅行与社交媒体发帖形成的电子行为模式，判断某人是否需被列入^“疑似恐怖分子^”名单。据一份报告称，这套人工智能系统^“对巴基斯坦的移动电话网络进行了大规模监控，再通过一套机器学习算法分析₅₅₀₀万人的蜂窝网络元数据，评估每个人是恐怖分子的可能性^”。一位曾担任美国中央情报局与国家安全局局长的人士表示：^“我们根据元数据杀人。^”虽然天网的可靠性一直遭到严厉批评，但到₂₁世纪₂₀年代，这样的科技已经变得更精密了，采用的政府也越来越多。算法分析大量数据之后，就能找出全新的^“嫌疑人^”判断准则，逮住过去人类分析师可能抓不到的漏网之鱼。在未来，算法甚至可能只要研究已知恐怖分子的生活模式，就能创建出一套全新的模型，用来判断人的偏激程度。当然，计算机仍然可能出错（这一点在第八章还会深入讨论），把无辜的人误判为恐怖分子，或者创造出错误的偏激度模型。在更基本的层面上，这些算法对于像恐怖主义这种事物的定义是否真的客观，也值得商榷。各国政权把所有反对人士都贴上^“恐怖分子^”的标签，也早就不是一两天的事了。所以，在人工智能把某人标记为^“恐怖分子^”的时候，有可能反映的只是意识形态上的偏见，而不是客观的事实。创造准则的能力，以及做出判断的能力，都必然与犯错的能力密不可分。就算算法没有犯下任何错误，光是拥有在海量数据里找出规律和模式的超人类能力，就可能极大增强许多恶意行为者的力量，包括帮助独裁者识别异见人士，或是协助诈骗犯找出容易上当的^“肥羊^”。