智人之上：从石器时代到AI时代的信息网络简史

创业者与企业也常常对资讯科技抱持同样乐观的看法。早在₁₈₅₈年，《新英格兰人》（The New Englander）就有一篇社论谈到电报这项发明：^“既然已经创造出这样的工具，让全世界所有国家的思想得以交流，过去的偏见与敌意必将无以为继。^”在经过将近两个世纪以及两次世界大战之后，马克·扎克伯格则表示，脸书的目标^“是帮助大众分享更多信息，好让世界变得更加开放，以及促进人与人之间的理解^”。

著名未来学家、创业家雷·库兹韦尔₂₀₂₄年出版的新书《奇点已更为临近》（The Singularity Is Nearer）回顾了信息技术的发展史，并得出结论：^“现实情况就是，随着科技指数级的改进，生活的几乎所有方面都在变得更好。^”书中回顾了人类历史上的重大发展，列举了印刷术的发明等例子，认为信息技术从本质上倾向于产生^“一种良性循环，让人类福祉的几乎所有方面都得到改进，包括识字、教育、财富、卫生、健康、民主和减少暴力^”。

最能够简洁表达出这种天真信息观的，或许就是谷歌的使命宣言：^“整合全球信息，使人人皆可访问并从中受益。^”面对歌德的警告，谷歌显然认为虽然一个学徒偷走老师的魔法咒语可能造成灾难，但如果很多学徒能够自由获取世界上所有的信息，这些学徒就不但能创造出人人受益的魔法扫帚，还能学会明智地使用这股力量。

谷歌与歌德

这里必须强调，很多时候，拥有更多的信息确实能让人更加了解世界，更明智地运用手中的力量。以儿童死亡率的大幅下降为例，歌德是全家₇个孩子里的老大，但只有他和妹妹柯妮莉亚庆祝了₇岁生 日。其他孩子多半因病夭折，赫尔曼·雅各布₆岁时死于疾病，凯瑟琳娜·伊丽莎白活到₄岁，约翰妮·玛丽亚活到₂岁，乔治·阿道夫只活了₈个月，还有一个弟弟来不及取名便胎死腹中。最后柯妮莉亚在₂₆岁病逝，全家这一代只剩歌德一人。

歌德自 己后来也生了₅个孩子，但除了长子奥古斯特，其余的孩子都在出生后两周内夭折。夭折的原因很可能是歌德和妻子克里斯典娜的血型不兼容，让她在第一次成功怀孕后，体内出现了对抗胎儿血型的抗体。这种病被称为Rh血型不合溶血病，目前已能有效治疗，死亡率不到_2%，但在₁₈世纪₉₀年代，这种疾病平均死亡率高达_50%，等于给歌德后来的₄个孩子都判了死刑。

₁₈世纪末，歌德家族堪称德国的富裕家庭，但他家这两代的儿童存活率只有可怜的_25%，₁₂个孩子中只有₃个活到成年。这个可怕的统计数据并非个例，歌德在₁₇₉₇年写下《魔法师学徒》时，估计德国儿童只有_50%能活到₁₅岁，而且当时全球大多数地区的情况大概也是如此。到₂₀₂₀年，全球儿童有_95.6%能活到₁₅岁，这个数据在德国更是高达_99.5%。之所以能有这项重大的成就，当然是因为收集、分析和共享了关于血型等要素的大批医学数据。所以就这个案例而言，天真的信息观其实说得没错。

然而，天真的信息观并未见到事物的全貌，现代历史可不只是儿童死亡率降低而已。在近几个世代里，信息生产的数量与速度都经历了前所未有的最大增长。现在任何一部智能手机储存的信息量都能超越古代的整座亚历山大图书馆，还能让用户实时与世界各地几十亿人建立联系。然而，随着这些信息以惊人的速度传播，人类却比过去任何时候都更接近自我毁灭。

人类坐拥大量数据（或许也正是这个原因），却还是在不断向大气排放温室气体，污染河海，砍伐森林，破坏栖息地，让无数物种灭绝，甚至还危及自 己这个物种的生态基础。人类还在生产着越来越强大的大规模杀伤性武器，从热核弹到末日病毒，无所不包。人类领导者的手中并不是没有关于这些危险的信息，但他们非但没去合作寻找解决方案，反而让大家越来越接近一场全球战争。

这个时候，坐拥更多信息是会让事情变好还是变得更糟，我们很快就会知道。目前，许多企业与政府都在争先恐后地研发人类历史上最强大的信息技术^——人工智能。一些知名企业家，比如美国投资人马克·安德森，相信人工智能最后能够解决人类所有的问题。₂₀₂₃年₆月₆日，安德森发表了《为何人工智能能拯救世界》（Why AI Will Savethe World）一文，文中充满了大胆的言论，比如，^“我要告诉大家这项重要的好消息：人工智能非但不会毁灭世界，而且还可能拯救世界^”“人工智能能让我们关心的一切变得更好^”。他最后总结道：^“人工智能的发展与普及，非但不是我们该担心的风险，反而是我们对自己、对孩子、对未来该承担的道德义务。 ”

雷·库兹韦尔也同意这种说法，他在《奇点已更为临近》一书中表示：^“人工智能这项关键技术，将让人类得以应对各种迫在眉睫的挑战，包括克服疾病、贫穷、环境退化，以及人类的所有弱点。而我们就该负起道德上的责任，实现新技术的承诺。^”库兹韦尔很清楚这项技术的潜在危险，也对这些危险进行了详尽的分析，但他相信这些危险都可以被成功化解。

但其他人就没那么相信了。除了哲学家与社会科学家，许多重要的人工智能专家与企业家（例如约书亚·本吉奥、杰弗里·辛顿、山姆·奥特曼、埃隆·马斯克、穆斯塔法·苏莱曼）都警告公众：人工智能可能会摧毁人类文明。本吉奥、辛顿与许多其他专家在₂₀₂₄年共同撰写的一篇文章中指出：^“不受控制的人工智能发展，最后可能造成大规模的生命损失与生物圈伤害，以及人类的边缘化甚至灭绝。^”一项₂₀₂₃年的研究调查了₂₇₇₈名人工智能研究者，结果显示，有超过_1/3的人认为，先进的人工智能有至少_10%的可能会造成等同于人类灭绝一样可怕的后果。₂₀₂₃年，包括中国、美国与英国在内的近₃₀个国家和欧盟签署了关于人工智能的《布莱切利宣言》，其中就承认：^“这些人工智能模型所具备的最重要的功能可能会造成严重的甚至是灾难性的伤害，无论是有意的还是无意的。^”虽然以上使用的是这种仿佛描述世界末日的语词，但专家与政府并不是让人联想到那些好莱坞电影的画面，好像有机器人造反，在街上奔跑射杀人类。这种情节一来实在不太可能发生，二来只会让人们忽略真正的危险。专家真正要警告的是另外两种情况。

第一，人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。正如₂₀世纪冷战时期的铁幕分隔出几个彼此敌对的势力，₂₁世纪的硅幕（不再是铁丝网，而是由硅基芯片和计算机代码组成的）也可能区隔出不同的敌对势力，引发一场新的全球冲突。这场人工智能军备竞赛将会制造出更具破坏性的武器，于是即使只是一个小小的火花，也可能引发灾难性的大火。

第二，硅幕所分隔的或许不是彼此敌对的人类，而是一边为所有人类，另一边为我们新的人工智能霸主。不论在哪里生活，我们都可能被一张看不透的算法大网束缚，控制着我们的生活，重塑着我们的政治与文化，甚至是去改造我们的身体与思想，但人类却再也无法理解这些控制着我们的力量，更别说加以阻止了。如果₂₁世纪真会有某个极权主义网络成功征服世界，其背后的掌控者可能并不是人类的独裁者，而是某种非人类智慧。有些人以为，如果人类将会迎来极权主义噩梦，主要来源应该是俄罗斯或后民主时代的美国等国，但这是对极权主义威胁的一种误解。事实上，不管是俄罗斯人、美国人还是其他人，真正面对的可能是由非人类智慧引发的极权威胁。

有鉴于这种危险的严重性，人工智能应该引起全人类的共同关注。虽然不是每个人都能成为人工智能专家，但我们都该知道，人工智能是历史上第一个能够自行做决策、创造新想法的技术。人类过去的所有发明，都只是在为人类赋予更强大的力量：过去的新工具无论多么强大，使用的决定权都握在人类手中。刀和炸弹并不会决定要杀死谁，它们只是不会思考的工具，没有处理信息、做出独立决策时所必需的智能。相较之下，人工智能能够自行处理信息，因此也就能够代替人类做出决策。人工智能不是工具，而是能够做出决策的行为者。

由于能够掌握信息，人工智能就能在各种领域独立产生新的想法，从音乐到医学无所不包。在过去，留声机能播放人类谱写的音乐，显微镜能显现人体细胞的秘密，但留声机无法谱写新的乐曲，显微镜也无法合成新的药物。但人工智能能够自行创造艺术，找出新的科学发现。接下来的几十年里，人工智能甚至可能创造出新的生命形式，方式可能是编写遗传密码，也可能是发明某种非生物的代码，从而赋予非生物实体生命。

当下，就算这场人工智能革命还在萌芽阶段，计算机也做出了各种影响人类的决定：要不要核准某人的贷款，要不要雇用某人来工作，要不要把某人送进监狱。这种趋势只会愈演愈烈、越来越快，让我们越来越难以掌控自 己的生活。我们真的能相信计算机算法会做出明智的决定，并创造一个更美好的世界吗？这个赌注可比相信魔法扫帚会打水要冒更大的风险，而且这里赌上的不只是人类的生命。人工智能不但可能改变人类这个物种的历史进程，还可能改变所有生命形式的演化历程。

信息成为一种武器

我在₂₀₁₆年出版了《未来简史》，这本书指出各种新信息技术对人类造成的一些危险。书中认为，历史真正的主角一直都是信息，而非智人，而且科学家已经越来越懂得采用信息流的观点，除了用来看历史，也能用来看生物学、政治学和经济学。不论是动物、国家还是市场，都可以算是信息的网络，都会从环境中吸收资料数据，据以做出决策，进而又释放出更多资料数据。这本书也发出警告，虽然我们都希望随着信息技术的改进而为人类带来健康、快乐和力量，但事实上，信息技术得到提升之后，反而可能让人类失去力量，同时损害人类的身心健康。《未来简史》还假设，人类要是再不小心，就可能像泥土落入滚滚河流，直接消融在信息的洪流之中；同时放眼万事万物，人类只不过是宇宙数据流里的一个小小涟漪。

自《未来简史》出版以来，事物发展变化的速度不断加快，权力也确实已经从人类转到了算法手中。许多在₂₀₁₆年听起来还像是科幻小说的场景，比如算法能够创造艺术、假装成人类、会做出让人一辈子受到重大影响的决定、比我们更了解我们自 己，在₂₀₂₄年都已经成为现实。

自₂₀₁₆年以来，还有许多事也发生了变化。生态危机加剧，国际紧张局势升温，而一波民粹主义浪潮甚至让全球最强大的几个民主政体也为之动摇。民粹主义也对天真的信息观造成严重的挑战。不管是唐纳德·特朗普、巴西前总统雅伊尔·博索纳罗这样的民粹主义领导人，还是像匿名者Q和反疫苗者这样的民粹主义运动与阴谋论者，都认为有些传统机构制度只是声称自 己在收集信息、找寻真理与真相，以此取得权力，但其实都是在说谎。在他们看来，那些官僚、法官、医生、主流记者和学术专家就是一个精英阴谋集团，他们对真相没有半点兴趣，总在故意传播虚假信息，牺牲^“人民^”的利益来谋取自 己的特权。像特朗普这类政治人物以及匿名者Q这类运动的崛起，有着₂₁世纪₁₀年代末期美国所特有的政治背景。但如果说到民粹主义作为一种反建制的世界观，其实早在特朗普之前便已登场，而且与过去和未来的许多情景息息相关。一言以蔽之，在民粹主义者眼里，信息就是一种武器。

信息权力

民粹的信息观

更极端的民粹主义会认为世上根本没有什么客观真理，每个人都有自己的真理，并想以此来压倒对手。这种世界观认为，只有权力才是唯一的现实。所有的社会互动都是权力斗争，人类真正感兴趣的也唯有权力。声称自 己对其他事物（比如真理或正义）感兴趣，只是用来取得权力的策略。无论何时何地，当民粹主义成功地让人们觉得信息就是一种武器而进行传播时，语言本身就会受到损害。不论是^“事实^”这样的名词，还是^“准确的^”“真实的^”这样的形容词，都会变得语义模糊，似乎无法指向一个共同的客观现实。这种时候，只要一谈到^“事实^”或^“真相^”，就会引起一部分人质疑：^“你说的是谁的事实、谁的真相？

但这里应该强调，这种重视权力、对信息持高度怀疑态度的信息观其实由来已久，绝不是反疫苗者、地平论者以及博索纳罗或特朗普支持者等人的发明。早在₂₀₁₆年之前，有人就已经提出了类似的观点，而且有些还是史上最聪明的一群人。比如在₂₀世纪末，就有米歇尔·福柯和爱德华·萨义德这样的左翼知识分子认为，医院与大学这样的科学机构不是为了追求什么永恒客观的真理，而是利用权力来决定什么是真理，为资本主义与殖民主义精英服务。这些激进的批评者甚至有时候会认为，^“科学事实^”也只是资本主义或殖民主义的^“话语^”，当权者永远不会真正对真理与真相感兴趣，也绝不能相信这些人会承认并改正自 己的错误。

左翼革命派的思想路线可以追溯到马克思。₁₈₄₈年的《共产党宣言》就指出：^“至今所有一切社会的历史都是阶级斗争的历史。自由民和奴隶，贵族和平民，地主和农奴，行会师傅和帮工，简短些说，压迫者和被压迫者，始终处于相互对抗的地位，进行不断的，有时隐蔽，有时公开的斗争。^”这种对历史的二元诠释意味着，人类的每一次互动都是压迫者与被压迫者之间的权力斗争。这样一来，某人说了某句话，最重要的问题不是说的内容是什么、说的是不是事实，而是这句话是谁说的、他为谁的特权服务。

当然，像特朗普和博索纳罗这样的右翼民粹主义者不太可能认真读过福柯或马克思的著作，而且他们也表现出一副强烈反对马克思主义的样子。至于他们在税收与福利等领域所提出的政策也看不出半点儿马克思主义。然而讲到社会与信息，他们的基本观点却出人意料地雷同，同样将所有人类之间的互动视为压迫者与被压迫者之间的斗争。比如，特朗普在₂₀₁₇年的就职演说中就宣称：^“我们国家首都的一小群人攫取了政府的好处，而人民却承担了代价。^”这种言论正是民粹主义的代表，政治学家卡斯·穆德认为民粹主义就是一种^“意识形态，认为社会最终会被分成两个内部同质而互相对立的群体，即^‘洁净的人民^’与^‘腐败的精英^’”。正如马克思主义者总在声称的，媒体是资产阶级的喉舌，大学等科学机构散布虚假信息，是为了延续资本主义的控制；民粹主义则是指责这些机构以牺牲^“人民^”的利益为代价，促进^“腐败精英^”的利益。

但就像前几个世代的激进反建制运动，如今的民粹主义同样有逻辑不连贯的问题。如果权力是唯一的现实，信息也只是武器，那这对民粹主义本身意味着什么呢？他们是不是一心只想夺权，是不是也总在对我们说谎以骗取权力？

面对这个难题，民粹主义试着用两种方法来解决。有些民粹主义运动声称自 己坚持现代科学的理想，恪守经验主义对一切抱持怀疑态度的传统。他们告诉公众：你们永远不该相信任何机构制度或权威，包括那些自封的民粹主义政党与政治人物。相反，你们应该自 己去研究，只相信自 己直接观察到的东西。这种激进的经验主义立场认为，虽然我们确实无法永远相信政党、法院、报纸、大学这些大型机构制度，但个人要是足够努力，还是可以找出真相的。

这种方法或许听起来很科学，也能吸引那些个性自由奔放的人，但还是有个问题无法解决：要是真这么做，人类社群怎样才能真正合作，比如打造出医疗保健系统或是通过环境法规？这些目标的背后都需要有大规模的组织制度配合才行。如果只有一个人，难道他真的可能完成所有必要的研究，确定地球气候是否正在变暖，并找出可行的应对措施？如果只有一个人，他怎么收集世界各地的气候数据，更不用说取得过去几个世纪的可靠记录了。只相信^“自 己的研究^”可能乍听之下很科学，但其实这等于相信世界上没有客观真理。我们在本书第四章就会看到，科学绝不是一种个人的追求，而是机构制度的合作。

民粹主义提出的另一种解决方法，是放弃现代科学通过^“研究^”寻找真相的理想，转而依赖神启或神秘主义。基督教、伊斯兰教、印度教等传统宗教，常常把人类描绘成不值得信任、渴求权力的生物，唯有依靠某些神性智慧的介入，才能了解真理与真相。在₂₁世纪₁₀年代到₂₀年代初，从巴西到土耳其，从美国到印度，各地的民粹主义政党都与这类传统宗教牵起了手，一方面彻底质疑现代的机构制度，另一方面却全然深信古代的经文典籍。这些民粹主义者声称，你在《纽约时报》《科学》报刊上读到的文章只是精英主义者用来取得权力的策略，但你在《圣经》《吠陀经》上读到的内容则是绝对真理。

这种解决方法的另一种形式则是呼吁公众信赖像特朗普或博索纳罗这样的魅力领袖。他们的支持者将这些领袖描绘成上帝的使者，或者说他们和^“人民^”有着某种神秘的联系。如果是一般政客，他们就会对人民说谎，只为了获得自 己的权力；如果是魅力领袖，他们则成了人民的代言人，非但不会出错，还会揭露一切谎言。所以，民粹主义反复出现的悖论之一，就是一开始的时候总在警告大家，所有人类精英都是为了争权夺利，十分危险，但常常到头来又要求人民把所有权力都交给某位充满野心的人。

第五章会更深入地探讨民粹主义，此处我想强调的一点是，人类目前正在面临生态崩溃、全球战争、技术失控等生存挑战，但民粹主义却在此时侵蚀着我们对大型机构制度与国际合作的信任。民粹主义者不相信复杂的人类机构制度，他们的建议就像法厄同神话与《魔法师学徒》给我们的启示一样：^“相信会有神祇或伟大的魔法师介入，让一切恢复正常。^”如果我们接受了这种建议，从短期来看，控制我们的可能就是那些对权力欲望旺盛而且是其中最糟糕的一群人，从长期来看，控制我们的可能就是新的人工智能霸主。还有一种可能，随着地球变得不再适合人类生存，我们会发现自 己根本无处可去。

我们如果不想把权力交给某个魅力领袖或是高深莫测的人工智能，首先就得更加了解^“信息^”究竟是什么，了解信息如何协助建立起人类网络，了解信息与真理、真相以及与权力的关系。民粹主义的正确之处在于对天真的信息观抱持怀疑态度，但偏激之处则在于认为只有权力是唯一的现实，以及信息永远就是一种武器。事实是，信息既不能说肯定能带来真理与真相，但它也不只是一种武器。在这两种极端之间其实还有足够的空间，能让我们以更细致也更充满希望的观点来看待人类的信息网络，看待人类明智地运用权力的可能。本书就是希望能探索这样的中间立场。

前方的道路

本书第一部分将会概述人类信息网络的历史发展进程。这里并不是要按照世纪的进展，全面讨论文字、印刷术、无线电等信息技术，而是希望通过研究几个范例，探讨各个时代人们在建立信息网络时所面临的关键困境，并研究了当时解决这些困境不同的答案怎样塑造出截然不同的人类社会。有些冲突的成因，我们一般会认为是意识形态或政治上的不同，但实际上往往是信息网络的类型不同。

在第一部分，我最先考察的是对于大规模人类信息网络至关重要的两个概念：神话故事和官僚制度。在第二章与第三章，我描述了大规模信息网络（从古代王国到现代国家）是如何同时有赖于神话编造者与官僚制度的。举例来说，《圣经》中的故事当然对基督教会至关重要，但要是没有教会的官僚来策划、编辑和传播这些故事，《圣经》也不会有这样的地位。每个人际网络都会面临一个困境，那就是神话编造者与官僚制度常常会往不同的方向发展。各种机构制度与社会的定义，常常取决于它们如何在神话编造者与官僚制度的需求冲突之间达到平衡。例如，基督教就分裂成了天主教和新教等不同的教会，不同的教会正是在神话故事与官僚制度之间取得了不同的平衡。

第四章的重点是谈论错误信息的问题，以及维持各种自我修正机制（例如独立司法、同行评议期刊）的好处与坏处。这一章将比较不同的机构制度：一类自我修正机制较弱，比如天主教会；另一类自我修正机制较强，比如科学学科。如果自我修正机制较弱，有时候如早期现代欧洲猎巫这样的历史灾难就会出现；但如果自我修正机制较强，有时候它则会从内部破坏网络的稳定性。如果从延续、传播与权力的角度来看，天主教会可以说是人类历史上最成功的机构，尽管其自我修正机制相对较弱（但这或许也是促成其成功的原因）。