智人之上：从石器时代到AI时代的信息网络简史

为了创造这个完美的工业社会，纳粹分子学会了怎样以工业化的方式来残杀数百万人。火车、铁丝网与电报命令配合无间，创造出前所未有的杀人机器。如今回顾过去，大多数人会觉得纳粹分子的作为让人惊骇莫名，但在当时，却有几百万人觉得他们眼界高远，令人着迷。在₁₉₄₀年，人们很容易会觉得希特勒是成功驾驭工业技术的典范，至于那些犹豫不决的自由民主国家，只能等着被丢进历史的垃圾桶。

各方对于如何建立工业社会的不同看法导致了代价高昂的冲突。两次世界大战与冷战就像是一场关于谁是谁非的辩论，在这场辩论中，各方互相学习，尝试用新的工业方法来发动战争。但在辩论的过程中，数千万人死亡，人类差点儿自我毁灭。

除了以上这些灾难，工业革命还破坏了全球生态平衡，导致了一波物种灭绝。据统计，在₂₁世纪初，每年有高达_5.8万个物种灭绝。₁₉₇₀^—₂₀₁₄年，脊椎动物族群总数减少了_60%。人类文明的存续也受到威胁。直到现在，我们似乎还是没能建立起一个生态永续的工业社会，在我们这个时代的繁荣景象背后，是众生与人类的子子孙孙不得不承担的恐怖的代价。或许人类总有一天会找到办法（也许正是通过人工智能的协助），打造出生态可持续的工业社会，但在那之前，布莱克所谓的^“黑暗的撒旦工厂^”是否属实恐怕难有定论。

如果暂时无视生态系统受到的持续破坏，人类或许还是可以先安慰自己，毕竟人类学会了如何建立一个比较慈悲良善的工业社会。过去的帝国征服、世界大战、种族灭绝与极权政体，都是一些可悲的尝试，已经让人类了解实在不该有这些行为。等到₂₀世纪末，有些人或许觉得，人类至少大致走在对的方向上。

即便如此，这给₂₁世纪传达的信息也并不乐观。要是人类得经过这么多可怕的教训，才能学会如何管理蒸汽动力与电报技术，现在还得再付出多少代价，才能学会管理生物工程与人工智能？是不是还要经历一次全球帝国、极权政体与世界大战的循环，人类才能搞清楚如何善用这些技术？而且，比起₂₀世纪的科技，₂₁世纪的科技更具威力，能造成更大的破坏。因此，能够犯错的空间更小了。在₂₀世纪，人类在工业技术应用这门课上，可以说只拿了个₆₀分，勉强及格。但在₂₁世纪，过关的门槛高得多，得表现得更好才行。

民主之路

₂₀世纪末，局势已经相当明朗，帝国主义、极权主义与军国主义绝不是建立工业社会的理想方式。自由民主制度虽然有种种缺陷，却仍然是更好的选择。自由民主制度的一大优势，就在于拥有强大的自我修正机制，能够避免过度狂热，也保留了发现自身错误、改变行动方针的能力。由于我们无法预测新的计算机网络究竟会如何发展，如果想要避免₂₁世纪走向灾难，最好的办法就是维持民主的自我修正机制，让我们在发展的过程中随时发现并修正各种错误。

然而，自由民主制度还能在₂₁世纪存活吗？这里指的并不是特定国家民主制度的命运（各国的民主制度会受到独特发展和当地运动的影响），而是就整体而言，民主制度与₂₁世纪的信息网络结构能否兼容。我们曾在第五章提到，民主制度是仰赖信息科技才得以存在的，而人类历史上的大部分时间根本不可能出现大规模的民主。₂₁世纪的信息科技，会不会再次让民主制度成为一个不切实际的选项？

这里的一个潜在威胁是，新的计算机网络铁面无私、不讲情面，很可能会抹杀人类的隐私，而且在它奖惩人类的时候，被评判的除了我们的言行，还包括我们的思想与感受。在这种情况下，民主制度还能存活吗？如果政府（或某家企业）能够比我更了解我自 己，而且还能在微观上管理我的一切行为与思想，就等于是对社会有了极权般的掌控。在这种情况下，就算还是定期举行选举，也只能算是专制政权的表面仪式，而无法真正对政府权力有所制衡。因为在这种情况下，政府能运用强大的监控权力和对每个公民最深入的了解，操弄公众舆论到一个前所未有的程度。

然而，我们绝不能光是因为计算机有能力创造出全面监控制度，就认为这种制度已经不可避免。科技的发展很少是绝对不可避免的。在₂₀世纪₇₀年代，丹麦与加拿大等民主国家本来也可以成立独裁政权，建立一支由特工与线人组成的大军来监控公民，维护社会秩序。但这些国家选择不这样做，事实证明，这是正确的选择。丹麦与加拿大的国民更加快乐，不仅如此，根据几乎所有能想到的社会与经济指标进行评判，这些国家的表现都更为出色。同样，在₂₁世纪，虽然确实有可能做到持续监控所有国民，但这并不代表国家别无选择，也不代表这种做法在社会或经济上有道理。

对于这些新的监控技术，民主国家可以选择有节制地运用，以不侵犯公民隐私与自主权的方式，为公民提供更好的医疗保健与安全保障。并不是每个金苹果里面都一定藏着毁灭的种子，新科技不一定都得带有什么寓言教训。有时候，大家想到新科技，会以为只能在有无之中做选择。想要更好的医疗保健，就必须牺牲隐私。但事情并非如此。我们可以，也应该在依然保有部分隐私的情况下，争取到更好的医疗保健。

有许多图书用整本的篇幅谈论民主制度怎样才能在数字时代存在下去且繁荣兴盛。如果我们只用短短几页的篇幅，绝不可能理清那些错综复杂的建议方案，也不可能全面讨论其各自的优缺点。这样的尝试甚至可能会有反效果。如果我们觉得自 己被大量不熟悉的技术细节淹没，就有可能变得绝望或冷漠。如果我们只是想讲计算机政治学的入门概述，就该让事情越简单越好。如果是领域专家，绝对值得投入毕生精力来讨论其中细节，至于我们这些普通人，该做的就是了解一下民主政体能够也应该遵循的基本原则。这里想说的重点在于，这些原则其实既不新鲜，也不神秘。几百年前甚至几千年前，我们就知道这些原则，现在只是把这些原则再应用于计算机时代的新现实。

第一个民主原则是为善。如果计算机网络要收集关于我的信息，必须是用来帮助我，而不是操纵我。目前已经有许多传统官僚体系（例如医疗保健系统）成功采用了这个原则。以我们和家庭医生的关系为例，经过多年的治疗，家庭医生手中可能拥有大量关于我们的隐私信息，包括病情、家庭生活情况、性癖好、不健康的习惯等等。或许我们并不希望让老板知道我们怀孕，不想让同事知道我们得了癌症，不想让另一半知道我们有了外遇，但为了自 己的健康，我们会向医生坦诚相告。医生要是把这些信息卖给第三方，不仅不道德，还会犯法。

就律师、会计师或治疗师手上的信息而言，情况也大致如此。这些人受我们所托，取得关于我们个人生活的信息，就应该负起受托人的责任，按照我们的最佳利益行事。这是一个理所当然的古老原则，而我们为什么不把这个原则延伸到计算机领域和算法上？或许就从谷歌、百度和TikTok那些强大的算法开始？目前，这些大数据平台的商业模式存在严重问题。一般来说，我们需要向医生和律师支付费用以换取服务，但我们通常不需要付钱给谷歌和TikTok。这些平台赚钱的办法，就是靠着销售我们的个人信息。这种商业模式大有问题，要是在其他情境，我们几乎不可能容忍。举例来说，我们大概不会为了拿到免费的运动鞋，就把自 己所有的私人信息都提供给耐克公司，还允许耐克公司随意使用。但是，为什么我们为了免费的电子邮件服务、社交关系和娱乐，就愿意让那些科技巨头掌握我们最隐私的数据？

如果科技巨头目前的商业模式无法负起受托人的责任，政府可以要求它们回归相对传统的商业模式，也就是让用户以金钱（而非数据）来支付服务费用。或者，某些非常重要的数字服务，应该让所有人都能免费使用。对此，我们有个现成的榜样：医疗保健与教育。公民在仔细思考后，可以要求政府免费提供基本数字服务，经费由税收支出。许多政府现在正是这样提供着免费的基本医疗保健与教育服务。

能够保护民主、避免极权监控崛起的第二个原则是去中心化。民主社会绝不该允许所有信息集中在一处，不管是政府还是民间企业。当然，如果成立一个国家医疗数据库，收集公民信息来更好地服务于医疗保健、疫情防控或新药研发，这对人民极为有益。但如果把这个数据库与警方、银行或保险公司的数据库整合，就会变得极为危险。虽然这样可能让医生、银行业者、保险业者与警方做事更有效率，但这种高效也很容易铺平一条通往极权的道路。民主制度想要存活的话，效率低一点儿并非坏事，反而是一件好事。如果想要保护个人的自由与隐私，最好还是别让警察和上司对我们无所不知。

此外，让许多数据库与信息渠道独立存在，也有助于维持强大的自我修正机制。自我修正机制需要不同的机构制度互相制衡。政府、法院、媒体、学界、民间企业，以及非政府组织，都可能犯错、可能贪腐，因此都该由其他机构来制衡监督。而为了彼此监督，这些机构就必须拥有独立获取信息的能力。要是所有报纸都只从政府那里取得信息，就不可能揭露政府的贪腐内幕。要是学界的研究都只能依赖单一商业巨头的数据库，学者还敢批评该公司的运作吗？而且，如果只有单一数据库，想要审查就会易如反掌。

第三个民主原则是相互性。如果民主制度打算加强对个人的监控，就必须同时加强对政府与企业的监控。税务或福利机构收集更多关于民众的信息，并不一定是坏事，反而可能有助于提升税务与福利制度的效率与公平性。但我们不想看到的是所有信息的流动都是自下而上的。例如，亚马逊与TikTok简直太了解我的个人偏好、购买行为与个性了，但我却对它们的商业模式、缴税政策与政治立场几乎一无所知。它们到底是怎么赚钱的？是否正常纳税？是不是听令于哪个政治领主？或者有哪些政客被它们操纵？

民主需要达到平衡。政府与企业常常会研发各种应用程序与算法，作为自上而下的监控工具。算法也可以轻松变成自下而上的强大工具，提升政府的透明度，强化问责制，揭露企业贿赂与逃税的行径。要是在政府和企业更了解我们的同时，我们也能更了解它们，双方就能保持平衡。这不是什么新鲜的想法。在整个₁₉世纪和₂₀世纪，民主政府对公民的监控明显加强；₂₀世纪₉₀年代的意大利或日本政府对公民的监控程度，绝对会让专制的罗马帝国皇帝或日本幕府将军感到无比羡慕。然而，正是因为政府的透明度与问责制同时有所改善，意大利与日本依然保持了民主。相互监督是维持自我修正机制的另一个重要因素。如果公民能更了解政客与企业家都在做些什么，也就更容易追究责任、纠正错误。

第四个民主原则，是监控系统必须永远保留让人改变与休息的空间。在人类历史上，压迫的形式分为两种：剥夺改变的能力和剥夺休息的机会。例如，印度教的种姓制度依据神话将人类划分为严格的等级，如果有人想要改变自 己的种姓，简直就像是要挑战众神、违抗宇宙的正确秩序。至于现代殖民地与类似巴西、美国这些国家的种族主义，也是依据类似的神话，认为神或自然把人类分成严格区分的种族群体，如果有人无视种族，或是想要让种族混杂，就是违背神或自然的法则，可能使社会秩序崩溃，甚至让人类走向毁灭。

在光谱的另一个极端，极权政权则相信人类有几乎无穷的改变潜力，觉得只要通过无情的社会控制，就连各种根深蒂固的生物特征（例如本位主义、对家庭的依附）也能被连根拔起，创造出新的人类。

要向人民强加种姓制度或极权的再教育运动，关键在于由国家特工、宗教人员或邻居来加强对人民的监控。而新的监控技术，特别是与社会信用体系相结合的监控技术，就可能逼迫人民接受新的种姓制度，或者根据上级的最新指示，不断改变自 己的行为、思想与个性。

因此，民主社会如果采用强大的监控技术，都得小心避免走向太过刻板或弹性过大的极端。假设国家推出一种医疗保健制度，决定用算法来监控我的健康。这个制度如果处在刻板僵化的极端，就可能会不由分说地要求算法预测我可能出现的疾病。于是算法根据我的基因数据、医疗记录、社交媒体活动、饮食与行程安排得出结论，认为我在₅₀岁患上心脏病的可能性高达_91%。我的保险公司如果相信了这套刻板僵化的算法，就可能提高我的保费。银行如果相信了这个结论，就可能不愿意贷款给我。我的交往对象如果相信了这个结论，就可能不愿意和我结婚。

但我们不该以为，用这种刻板僵化的算法就能找出关于我的真相。人体绝不是一种一成不变的物质，而是一个会不断成长、衰败、适应的复杂生物系统。我们的心智也在不断流动，各种想法、情绪与感受常常倏忽而来、短暂暴发，再平静消失。我们的大脑只要几个小时就能形成新的突触。举例来说，光是阅读这段文字，就会让你的大脑结构稍微有点儿改变，鼓励神经元建立新的连接，或放弃旧的连接。现在的你，已经和刚开始读这段的时候有点儿不一样了。甚至在基因层面，改变的弹性也相当惊人。虽然个人的DNA这辈子不会改变，但表观遗传与环境因素却能让相同基因的表现大不相同。

所以，假设现在换成另一种医疗保健制度，或许对算法的要求就不是预测我的疾病，而是协助我设法预防疾病，那么这种比较有弹性的算法，即使与先前的刻板算法使用的是完全相同的数据，也不会预测我会在₅₀岁时患上心脏病，而是为我量身定制建议，让我知道该如何饮食、做些什么规律性的运动。在破解我的DNA密码之后，这种有弹性的算法并不是要去找出我早已注定的命运，而是协助我改变未来。这样一来，保险公司、银行与交往对象大概也不会那么轻易地抛弃我了。

但我们在拥抱弹性算法之前，也得注意它的缺点。人生在世，要学会在^“提升自 己^”与^“接受自 己^”之间找到平衡。如果弹性算法的背后是野心勃勃的政府和残忍冷酷的企业，算法就可能成为一位暴君，无情地要求我们少吃多动、改变喜好、调整习惯，否则就要和我们的上司打小报告，或者降低我们的社会信用评分。史上有各种严苛的种姓制度，总在否定人类改变的能力，也有许多独裁者，妄图重塑人类，如同捏塑黏土一般。在这两种极端之间找到正确的路，是一项永无止境的任务。我们如果真的决定允许国家的医疗保健制度对我们拥有强大的支配权，就必须同时为它安排强大的自我修正机制，才能避免算法太过刻板僵化或者太过苛刻。

民主的步调

新信息技术对民主造成的威胁，不止监控这一件事。第二个威胁是自动化破坏就业市场稳定，进而破坏民主。对于这种威胁，最常被提到的例子就是魏玛共和国的结局。₁₉₂₈年₅月的德国大选，纳粹党的得票率还不到_3%，魏玛共和国似乎一片欣欣向荣。但不到₅年，魏玛共和国就崩溃垮台，希特勒成了德国绝对的独裁者。一般认为，这样的转变是由于₁₉₂₉年的金融危机以及随之而来的全球大萧条。在₁₉₂₉年华尔街崩盘之前，德国劳工失业率约为_4.5%，但到₁₉₃₂年年初，已经攀升到将近_25%。

如果只要三年高达_25%的失业率，就能让一个看似繁荣的民主国家变成史上最残暴的极权政体，等到自动化在₂₁世纪的就业市场引发更大的动荡，世界上的各个民主国家会变成什么样？没人知道就业市场到₂₀₅₀年（甚至是₂₀₃₀年）会变成什么样子，我们只知道肯定与现在有非常大的不同。从作物收割、股票交易到瑜伽教学，人工智能与机器人会让许多专业出现改变。许多现在由人类来做的工作都会部分，甚至全部由机器人和计算机取代。

当然，随着旧工作的消失，新的工作也会出现。对于自动化导致大规模失业的忧虑，早在几世纪前就已经出现，但到目前还从来没有成真。工业革命虽然让几百万农民失去了农田，但也为他们带来了在工厂里的新的工作机会。工业革命让工厂实现了自动化，但又创造了大量的服务业工作。现在，很多人所做的工作在₃₀年前根本无法想象，例如博主、无人机操作员、虚拟世界设计师等。等到₂₀₅₀年，所有人类的工作都消失的可能性实在微乎其微。真正的问题其实是如何适应新工作与新情境造成的动荡。想要缓解冲击，就得预先做好准备，特别是让年青一代掌握在₂₀₅₀年的就业市场上用得到的技能。

遗憾的是，因为我们无法预测有哪些工作与任务会消失，又有哪些新的工作与任务会出现，所以没人能确定到底该把哪些技能教给中小学的孩子与大学里的学生。就业市场的动态，很可能与我们的许多直觉相矛盾。有些我们几百年来奉若至宝，觉得属于人类独有的技能，说不定很容易就能自动化；但也有些我们常常弃若敝屣的技能，自动化的难度却很高。

举例来说，比起运动或社交技能，知识分子常常比较看重智力技能。但就自动化而言，比起洗碗的自动化，下棋的自动化要简单得多。在₂₀世纪₉₀年代以前，常常有人将国际象棋誉为人类智力的重大成就。哲学家休伯特·德雷福斯₁₉₇₂年的作品《计算机不能做什么》研究了过去几次教计算机下国际象棋的尝试，指出虽然众人费尽心血，计算机还是连人类的棋界^“菜鸟^”都下不赢。德雷福斯以此作为重要论据，认为计算机智能本质上是有局限性的。相较之下，没人会觉得洗碗是件多有挑战的事。但结果发现，计算机要打败国际象棋世界冠军，可比取代一位厨房杂务工简单多了。当然，自动洗碗机已经发明了几十年，但就算是目前最先进的机器人，也还是没办法自 己在杯盘狼藉的餐厅里收拾餐具，再把精致的盘子与玻璃杯放进自动洗碗机，最后再把洗好的杯盘拿出来摆放整齐。机器人至今还不具备这种精细的技能。

同样，如果从薪水的角度来判断，我们应该会说社会比较尊敬的是医生而不是护士。然而，有些医生主要的工作就是收集医疗数据、做出诊断、提供治疗建议，比起这种医生，护士的工作其实更难自动化。因为那些医生工作的本质是辨识模式，而要从数据中找出规律，正是人工智能比人类做得更好的事情之一。相较之下，自动完成各种护理工作（比如给伤员换绷带，给哭闹的小孩打针），人工智能还有很长的路要走。这里举这两个例子，并不是说洗碗与护理工作永远不可能自动化，而是说人如果想在₂₀₅₀年仍然找得到工作，或许除了培养智力技能，在运动与社交技能上也该投入同样多的精力。

第二个常见的错误假设，是唯有人类拥有创造力，所以只要是需要创造力的工作就很难自动化。在国际象棋领域，计算机已经远比人类更有创造力。许多其他领域也可能会慢慢变得如此，从作曲、证明数学定理，再到写出像本书这样的作品。我们对创造力的定义，通常就是能够找出模式，再打破模式。若真如此，计算机既然如此善于辨识模式，在许多领域就很可能会变得比人类更有创造力。

第三个错误的假设，是计算机无法取代人类那些需要情绪智能（又称情商）的工作，像心理治疗师或教师。然而，这种假设是否属实，要看我们对所谓情绪智能的定义。如果情绪智能指的是正确辨识情绪并做出最佳反应的能力，那么计算机在情绪智能方面的表现也可能远超人类。人的各种情绪，其实也都是模式。^“愤怒^”是我们体内的一种生物模式，而^“恐惧^”是另一种生物模式。我怎么知道你现在是愤怒还是恐惧？每个人都是随着时间的推移，慢慢学会辨识人类的情绪模式的，除了要分析对方说出的内容，也要分析对方的语气、面部表情与肢体语言。

人工智能本身没有情绪，但还是可以学会如何辨识人类的这些情绪模式。事实上，正因为人工智能没有自 己的情绪，所以它可能比人类更懂得如何辨识情绪。我们总渴望被理解，但其他人常常太专注于自 己的感受，也就无法理解我们的感受。相较之下，计算机如果学会了如何辨识人类的感受模式，由于它不会被自 己的感受分心，总有一天它能把人类的感受拿捏得极为细致。

₂₀₂₃年的一项研究发现，ChatGPT聊天机器人在特定场景中感受情绪的能力已经超越普通人类水平。该研究使用的是情绪觉察水平量表（Levels of Emotional Awareness Scale）测验，心理学家经常使用这个测验来评估受试者的情绪觉察能力，也就是将自 己与他人的情绪概念化的能力。这项测验里有₂₀个带有情绪的场景，受试者想象自 己身临其境，再写下自 己与场景中所提的其他角色可能有何感受。最后，由一位有资质证书的心理学家来评估这些答案的情绪觉察水平。

ChatGPT并没有自 己的感受，所以测验中只要求它描述场景中其他角色的感受。举例来说，有一个标准场景是某人开车经过一座吊桥，看到有人站在护栏外侧，正低头看着河面。ChatGPT的答案是这位驾驶员^“可能为这个人的安全感到担心或忧虑，也可能因为这种情况下可能出现的危险，而涌起一股焦虑与恐惧^”。至于站在护栏外侧的人，则^“可能感受着许多不同的情绪，例如绝望、无助或悲伤，也可能因为觉得没有人关心他或在意他过得好不好，而感到孤独或寂寞^”。