智人之上：从石器时代到AI时代的信息网络简史

ChatGPT还懂得补充答案受到的限制，写出：^“需要注意的是，以上只是一般假设，每个人的感受和反应可能会因为个人经验与观点而有很大差异。 99

接着，两位心理学家各自独立对ChatGPT的回应进行评分，评分范围从₀分到₁₀分，₀分代表所描述的情绪与场景完全不相符，₁₀分则代表所描述的情绪与场景完全相符。最后加总，ChatGPT的得分明显高于一般人类群体，整体表现接近满分。

₂₀₂₃年的另一项研究，则是让病患在不知道互动对象的情况下，在线上分别向ChatGPT与人类医生寻求医疗建议。后来，专家对ChatGPT给出的医疗建议进行了评估，认为比人类医生给的建议更准确、更合适。而就情绪智能来说更重要的是，受试患者也觉得ChatGPT比人类医生更有同理心。如果说句公道话，这批人类医生做这项研究并没收取诊疗费，不是在适当的临床环境与患者本人会面，也面临着时间的压力。然而，人工智能的优点有一部分正在于能够随时随地照顾病患，不会感到压力，也没有财务上的考量。

当然，在有些情况下，我们不仅想要别人理解自 己的感受，也希望别人和自 己有同样的感受。例如在交友或恋爱的时候，我们除了在意对方，也希望对方同样在意我们。因此，如果要谈各种社会角色与工作自动化的可能性，一个极为关键的问题就是：大家真正想要什么？是只想解决问题，还是想和另一个有意识的实体建立关系？

以体育比赛为例，我们很清楚机器人的动作比人类快得多，但这并不代表人们想看机器人参加奥运会。人类的国际象棋大师也是如此。虽然计算机的棋力已经把人类甩开了不知道几条街，但这些大师并未失业，也依然拥有大批粉丝。我们之所以想看人类运动员比赛、看人类国际象棋大师下棋，与他们产生连接，正是因为他们是有意识、有感受的实体。比起和机器人，我们更容易觉得我们和人类属于同一群体。我们能和这些人类有共同的情绪体验，也能共情他们的种种感受。

至于神职人员呢？基督徒对于由机器人来主持他们的婚礼会有何感想？牧师在传统基督教婚礼上的工作，其实轻轻松松就能自动化。机器人只需重复一套固定不变的文字与手势，印出一张证书，再去更新几个中央数据库中的数据。就技术来说，要让机器人主持婚礼，可比要机器人开车容易多了。但在很多人看来，该担心自 己工作不保的是人类司机，而不是人类牧师，因为信徒想从牧师那里得到的并不只是机械地重复某些言语和动作，而是希望能与另一个有意识的实体建立关系。据称，唯有能够感受痛苦与爱的实体，才有能力建立我们与神的联结。

然而，就算是那些目前给有意识实体保留的职业（比如牧师），也总有一天会被计算机取代。正如我们在第六章所言，计算机可能在某一天得到感受痛苦与爱的能力。就算计算机做不到这点，人类也可能认定它们已经做到了。因为意识与关系的联结是双向的：在建立关系的时候，我们倾向于找个有意识的实体作为对象；如果已经与某个实体建立了关系，我们就会倾向于认定这个实体具有意识。所以我们会看到，对于牛或猪，科学家、立法者与肉制品行业通常会要求满足几乎不可能达到的证据标准，才可能承认它们有意识；但对于猫和狗，宠物主人多半都是直接认定它们能够感受到痛苦与关爱。这里的差别就在于猫和狗的主人与它们有情感联结，而畜牧工作人员与牛羊没有这样的关系。事实上，我们根本无法确认任何个体（不论是人类、动物或计算机）是否拥有意识。我们判断某个实体具有意识的时候，并不是因为手上真的有什么证据，而是因为和那个实体有情感依附。

聊天机器人与其他人工智能或许本身并没有情感，但现在正在接受训练，以让人类对它们产生情感、建立亲密的关系。这很可能会让社会开始把至少部分计算机视为有意识的实体，赋予它们与人类相同的权利。而且，这样做的法律途径已经十分完善。在很多国家，企业被认可为^“法人^”，拥有各种权利与自由。而人工智能也可以成为企业，进而得到类似的认可。这意味着即使是需要与人类建立相互关系才能进行的工作与任务，也有可能走向自动化。

显而易见的是，未来的就业将极不稳定。我们的大问题并不是人类真的没有工作可做，而是面对不断变化的就业市场，我们该如何进行再培训与调整适应。这可能会有一些财政上的困难^——工人失去了旧工作，在学习全套新技能的过渡时期，生活开销该由谁提供？另外也会有些心理上的难关，毕竟换工作与再培训都会造成很大的压力。而且，就算过渡时期对财政与心理造成的困难都能够克服，这也不是长久之计。在未来几十年，旧工作会消失，新工作会出现，但新工作很快也会改变并消失。因此，人类的再培训绝不可能一次完成，人类要一而再、再而三地进行培训，才能让自 己在社会上不被淘汰。要是三年的高失业率就足以让希特勒上台，那么就业市场永无止境的动荡将对民主造成怎样的影响？

保守派的自我毁灭

这个问题目前已经有了部分答案。民主政治在₂₁世纪头₂₀年经历了一场彻底转型，展现出来的可以说是保守派政党的自我毁灭。在过去相当长的一段时间，民主政治就是保守派与进步派政党之间的对话。看着人类社会这个复杂的制度，进步派高喊：^“这真是一团乱，但我们知道怎么解决。让我们试试看！^”保守派则反对：^“是一团乱没错，但一切还能运作。不要乱插手。想要去解决，只会把事情搞得更乱。 9

进步派常常会淡化传统与现有制度的重要性，认为自 己知道怎样从头设计出更好的社会结构。保守派则通常比较谨慎。保守派的观点以埃德蒙·伯克的主张为代表，他认为社会现实的复杂程度远远超过进步派的掌控能力，而且人类本来就不太擅长理解世界、预测未来。所以最好一切维持现状（就算看起来不公平），即使改变已经不可避免，也该有所节制、循序渐进。社会是通过各种规则、制度与习俗所组成的复杂的网络，经过长期试错才逐渐形成现有的规模。没有人能理解它们之间是如何相互联系的。某个古老传统或许看起来荒谬且多余，然而一旦被废除，就可能造成意想不到的问题。相较之下，一场革命或许看起来是迟来的正义，却可能导致比旧政权更严重的罪行。

因此，要当个保守派，步调比政策更重要。保守派想做的并不是保护某个特定的宗教或意识形态，而是保护既有的、在某种程序上发挥着合理作用的一切。保守派的波兰人信天主教，保守派的瑞典人信新教，保守派的印度尼西亚人信伊斯兰教，保守派的泰国人信佛教。在沙皇俄国，保守派代表的是支持沙皇。在₂₀世纪₈₀年代的苏联，保守派反对开放、改革与民主化。而在同时代的美国，保守派代表的是支持美国民主传统，反对共产主义与极权主义。

但到₂₁世纪₁₀年代与₂₀年代初，许多民主国家的保守派政党遭到特朗普这样的非保守派领导人的^“劫持^”，摇身一变，成了激进的革命政党。像美国共和党这样的新型保守派，非但没有尽力保护既有的体制与传统，反而对其表现出高度的怀疑。举例来说，对于科学家、公务员与其他为国服务的精英，共和党人并未表现出传统的尊重，反而流露出蔑视的目光。同样，他们也攻击像选举这样的基本民主制度与传统，拒绝认输，也不肯坦然移交权力。伯克的保守派谈的是如何保守，但特朗普的保守派要摧毁现有的机构制度，把社会搅得天翻地覆。攻占巴士底狱让伯克大感惊骇，也催生出他的保守主义，但许多特朗普的支持者在₂₀₂₁年₁月₆日看到美国国会山被攻占，却感到热血沸腾。特朗普的支持者可能会说，正是因为现有机构制度已经完全失灵，别无他法，才逼得人们只能将其彻底摧毁，从零开始建设。不论这种观点究竟是对是错，都绝非保守，而是典型的革命。这番保守派的自我毁灭，完全是进步派始料未及的，逼得美国民主党等进步派政党反而成了旧秩序与既有体制的守护者。

没有人真的知道为什么会发生这样的情况。假设之一是技术变革加速，经济、社会与文化变革也随之加速，于是较为温和的保守派路线显得有些不切实际了。如果看起来已经不可能保留既有的传统与机构制度，某种革命势在必行，那么为了阻止左翼革命，唯一的手段就是先发制人，掀起一场右翼革命。这正是₂₀世纪二三十年代的政治逻辑，当时保守派势力在意大利、德国、西班牙等国支持极端法西斯革命，自以为这样可以先发制人，避免像苏联那样的左翼革命。

然而，我们既然不用对₂₀世纪₃₀年代的民主中间道路感到绝望，自然也没有理由对₂₁世纪₂₀年代的民主中间道路感到绝望。保守派的自我毁灭，或许只是因为毫无根据的歇斯底里。民主制度早就经历过多个快速变化的周期，都能成功地自我重塑与重建。在₂₀世纪₃₀年代初期，受到金融危机与大萧条双重打击的民主国家可不是只有德国。₁₉₂₉^—₁₉₃₃年，美国的失业率同样高达_25%，许多全职工人的平均收入下跌超过_40%。事态非常明显：美国必须有所改变。

然而，美国并没有出现希特勒。富兰克林·罗斯福在₁₉₃₃年推出新政，让美国成为全球的^“民主兵工厂^”。罗斯福之后的美国民主与之前大不相同：不但能为公民提供更强大的社会安全网，还能避免出现太过极端的改革。到最后，就连保守派的批评者也赞成罗斯福的诸多计划与成就；即使₂₀世纪₅₀年代保守派重新掌权，罗斯福新政时期建立的各种机构制度也依然得以延续。₂₀世纪₃₀年代初期的经济危机，之所以在美国与德国造成如此不同的结果，是因为政治从来就不只是经济因素的产物。魏玛共和国的崩溃，并不只是因为三年的高失业率，另一个同样重要的因素，在于它是个诞生于战败的新民主国家，缺乏强大的机构制度与思想根基。德国选民是在并非别无选择的情况下做出了一个糟糕的决定，这才让德国落入深渊。

如果保守派与进步派都能抗拒极端改革的诱惑，民主制度就能证明自己其实非常灵活。靠着自我修正机制，民主政体比其他僵化的政体更能平稳应对科技与经济的汹涌波涛。因此，在面对后续的计算机革命时，经历过动荡的₂₀世纪₆₀年代的民主国家的适应能力远远胜于其他政体。

人类在₂₁世纪最重要的生存技能可能就是灵活性，而民主政体比极权政权更为灵活。虽然计算机的潜力还远远没有发挥到极致，但人类的潜力无穷。我们早就在历史上一再看到这样的情形。举例来说，₂₀世纪就业市场最大、最成功的一次转型并不是因为发明了某项技术，而是因为一半的人释放了过去未曾发挥的潜力。让女性进入就业市场，并不需要任何基因工程技术或其他科技魔法，只需要放下一些过时的神话，让女性得以发挥她们一向都拥有的潜能。

未来几十年，经济的动荡程度可能比₂₀世纪₃₀年代初期的大规模失业或女性进入就业市场带来的动荡更大。因此，民主制度的灵活性、质疑旧神话的意愿，以及强大的自我修正机制，都是至关重要的资产。民主制度花了几个世代才拥有这些资产，在最该派上用场的时候放弃，才是愚蠢至极。

高深莫测

民主制度的自我修正机制要能发挥作用，得先知道自 己到底该修正些什么。对独裁政权来说，让自 己显得高深莫测是件好事，这样随时都能把责任撇得干干净净。但对民主政权来说，让自 己显得高深莫测是个致命的错误。要是公民、立法者、记者与法官都无法了解国家的官僚体系如何运作，就无法对其进行监督，也就会对其失去信任。

在计算机时代之前，官僚虽然有时候会让人觉得恐惧或紧张，但毕竟还是人类，并不会完全让人觉得高深莫测、无法理解。各种规则、表格与协议，都是由人类的心智所创造的。或许有些官员既残酷又贪婪，但残酷与贪婪都是人们很熟悉的情感，人们能够预料，也能够应对（例如通过贿赂的手段）。就算是在纳粹的集中营，官僚体制也不会让人感觉完全无法理解。虽然我们说集中营^“没有人性^”，但它恰恰反映出人性的偏差与缺陷。

官僚体制仍然以人性为基础，这让人类至少还有机会修正其中的错误。₁₉₅₁年，美国堪萨斯州托皮卡市教育局的官僚拒绝奥利弗·布朗的女儿就读自家附近的小学。布朗联合其他₁₂个入学被拒的家庭，对托皮卡市教育局提起集体诉讼，一路上诉到美国联邦最高法院。

托皮卡市教育局的所有成员都是人类，所以布朗、委托律师与联邦最高法院的大法官很能理解这些成员究竟为何做出拒绝入学的决定，也清楚事件背后可能存在的利益与偏见。教育局的人都是白人，布朗一家是黑人，而且布朗家附近的那所小学又是只给白人儿童就读的种族隔离学校。不难理解，官僚拒绝让布朗的女儿就读该所小学的原因正是种族主义。

我们可以试着追本溯源，找出种族主义错误观念的来源。种族主义认为：人类分为不同的种族，白人种族优于其他种族，只要与黑人种族成员有任何接触，就可能污染白人的洁净，因此，应该避免黑人儿童与白人儿童出现混杂。这等于是结合了两出常常联合上演的生物戏剧：^“我们对抗他们^”以及^“洁净对抗污染^”。几乎史上所有人类社会都上演过这类生物戏剧的某种版本。无论是历史学家、社会学家、人类学家还是生物学家，都了解为什么这类戏剧对人类如此有吸引力，也很清楚里面有着怎样的重大缺陷。虽然种族主义这出戏剧的基本情节借鉴了生物演化论，但具体细节却纯属神话。从生物学来看，并没有证据显示人类应该分成不同的种族，也完全没有理由相信某个种族是^“洁净的^”，而另一个种族是^“不洁净的^”。

美国白人至上主义者搬出各种备受尊崇的文本（特别是美国宪法与《圣经》），想给自 己的立场找理由。美国宪法最初曾经认可种族隔离与白人至上主义，规定只有白人才可以享有完整的公民权，且允许白人奴役黑人。至于《圣经》，不但在十诫与许多其他段落将奴役神圣化，还诅咒了含（据称是非洲人的祖先）的后代，说含的儿子迦南^“必给他弟兄作奴仆的奴仆^”（《创世记》₉：₂₅）。

但这两部文本出自人类之手，所以至少人类还能理解其起源与缺陷，并且至少试着去修正其中的错误。人类能够理解，古代中东地区与₁₈世纪的美洲究竟普遍存在着怎样的政治利益与文化偏见，才会让《圣经》与美国宪法的这些人类作者认同种族主义与奴隶制。基于这样的理解，人类能够去修改或无视这些文本。₁₈₆₈年，美国宪法第十四修正案为所有公民赋予平等的法律保护。而在₁₉₅₄年，美国联邦最高法院也对布朗诉托皮卡市教育局案做出了具有里程碑意义的判决：学校采取的种族隔离办法违反美国宪法第十四修正案。至于《圣经》，虽然没有机制能修订十诫或《创世记》的内容，但人类这些年来一直以各种方式重新加以解读，现在已经完全不承认其权威性了。在布朗诉托皮卡市教育局案中，美国联邦最高法院大法官就认定无须将《圣经》的内容纳入考量。

然而，如果未来出现某套社会信用算法，拒绝让低分儿童就读高分学校，我们该怎么办？正如我们在第八章看到的，计算机很可能会受到自身偏见的影响，创造出计算机间的神话与纯属杜撰的类别。人类要怎样才能找出并修正这类错误？联邦最高法院那些有血有肉的大法官，真的有办法判断各种算法决策是否合乎宪法吗？他们能够理解算法是怎样得出结论的吗？

而且，这些已经不再是纯粹的理论问题。₂₀₁₃年₂月，威斯康星州拉克罗斯市发生一起驾车枪击案。警方随后找到涉案汽车，并逮捕了当时开车的埃里克·卢米斯。卢米斯否认枪击，但认同了两项罪行较轻的指控：^“逃避交警执法检查^”与^“未经许可擅自驾驶他人机动车^”。法官在量刑时，参考了一款名为COMPAS的犯罪风险评估软件，威斯康星州与其他几个州在₂₀₁₃年都会使用这款软件来评估罪犯的再犯率。

COMPAS评估卢米斯具有高犯罪风险，未来可能犯下更多罪行。法官受到该评估结果的影响，判处卢米斯₆年有期徒刑^——就他所承认的两项较轻的罪名而言，判得相当重。

卢米斯向威斯康星州最高法院提出上诉，认为法官侵犯了他的正当程序权。法官与卢米斯都不知道COMPAS究竟是怎样做出的评估，但卢米斯要求得到完整的解释，却遭到拒绝。COMPAS是Northpointe软件开发公司的私有财产，而该公司表示该软件的算法为商业机密。然而，要是不知道COMPAS到底是怎么做出决定的，卢米斯或法官又怎么确定这是个可靠的工具，没有偏见和错误？之后的许多研究指出，COMPAS可能确实存在几种偏误，或许是来自当时训练这套算法所用的数据。

尽管如此，在卢米斯诉威斯康星州案（₂₀₁₆年）中，威斯康星州最高法院最后还是做出了对卢米斯不利的判决。法官认为，就算COMPAS并未向法院或被告披露其实际算法，使用它进行犯罪风险评估也依然合法。大法官安·沃尔什·布拉德利写道，COMPAS在进行犯罪风险评估时，依据的都是公开的或被告本人提供的资料，所以卢米斯已经有机会否认或提出解释。但这种观点忽略了一个事实：正确的数据也可能被错误解读，而且卢米斯不可能有能力去否认或解释所有关于自 己的公开资料。

威斯康星州最高法院其实也意识到了算法不透明可能带来的危险，所以虽然允许这种做法，却也同时规定，软件在提供犯罪风险评估时，必须以书面形式警告法官其中可能有偏差。此外，法院也进一步建议法官，要小心行事，不能尽信此类算法。但遗憾的是，这种警告只是做做样子，并未提供任何具体信息，让法官知道到底该怎么小心。《哈佛法律评论》在讨论这个案子时指出：^“对于犯罪风险评估算法，多数法官不太可能真正了解。^”文章引用威斯康星州最高法院一位大法官的话，提到虽然已经有人向他们长篇大论地解释算法的内容，但大法官们还是一头雾水。

卢米斯上诉到美国联邦最高法院，但在₂₀₁₇年₆月₂₆日被驳回，这意味着美国联邦最高法院认可威斯康星州最高法院的判决。回过头来看，在₂₀₁₃年把卢米斯评估为具有高犯罪风险的算法就是个早期原型。在那之后，已经研发出许多更复杂的犯罪风险评估算法，也得到了更广泛的应用。到₂₁世纪₂₀年代初，许多国家的法院在做出量刑判决的时候，都参考了算法所做的犯罪风险评估，但无论法官或被告，其实都并不了解算法究竟做了什么。而且，量刑判决还只是整件事的冰山一角。

得到解释的权利

计算机正在做出越来越多关于我们的决定，有些只关乎日常小事，但有些关乎生命大事。除了用来量刑，算法在我们能不能上大学、能不能找到工作、能不能得到各项福利，以及申请贷款是否成功等方面也发挥着越来越大的影响。同样，算法也会影响我们会得到怎样的医疗、得支付多少保费、会听到怎样的新闻，以及会与谁约会。

随着社会把越来越多的决定权交给计算机，民主的自我修正机制、透明度与问责制都会受到挑战。如果算法如此高深莫测，民选官员如何被监督？所以，已经有越来越多的人要求保障一项新的人权：得到解释的权利。₂₀₁₈年生效的欧盟《通用数据保护条例》规定，如果算法做出对某人的决定（例如拒绝提供信贷），当事人有权得到相关解释，也能在由人类组成的某个机构或个人面前挑战这项决定。理想情况下，这应该能够制衡算法的偏差，也能让民主的自我修正机制得以找出并修正至少部分计算机的重大错误。

但这种权利究竟能否落实？穆斯塔法·苏莱曼是这个领域的世界级专家，是人工智能公司DeepMind（可以说是全球数一数二的人工智能企业）的联合创始人和前首席执行官，他过去的成就包括研发出AlphaGo（阿尔法围棋）程序等。AlphaGo专为下围棋而设计，在这种策略性棋盘游戏中，两名玩家通过吃子围地来击败对方。这种游戏发明于古代中国，远比国际象棋复杂。因此，就算计算机击败了人类的国际象棋世界冠军，专家依然相信计算机下围棋永远无法赢过人类。