智人之上：从石器时代到AI时代的信息网络简史

研究历史，除了能够强调人工智能革命与相关决策的重要性，也能警告我们，对于信息网络与信息革命不要采取两种常见但错误的态度。第一，我们必须小心太过天真乐观的信息观。信息并不等于真理，信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理。比如税务记录、宗教经典、政治宣言和秘密警察档案，都能极有效地创造出强大的国家与教会，但这些国家与教会却可能有着非常扭曲的世界观，并且容易滥用权力。于是讽刺的是，有了更多信息，而有时更多的信息只会导致更多的迫害。

我们并没有理由期待人工智能一定能够打破过去的模式，并更为偏向真理。人工智能也有可能犯错。近年来，在缅甸、巴西、以色列等地发生的各种令人担心的事件中，我们能稍微得出的历史教训就是：如果缺乏强有力的自我修正机制，人工智能将有能力宣扬一些扭曲的世界观，助长肆无忌惮的权力滥用，以及煽动让人惊骇的新一轮猎巫行动。

同时，我们也应该避免过犹不及，变得太过犬儒主义而采取一种过于愤世嫉俗的观点。民粹主义常说权力是唯一的现实，认为一切人类互动都只是权力斗争，信息也只是用来打倒敌人的武器。但现实从来不是如此，也没有理由认为人工智能将会造成这样的情形。虽然比起真理，许多信息网络确实更重视秩序，但要是有哪个信息网络真的完全蔑视真理，也绝不可能存活下去。就个人而言，我们常常真的想知道真理，而不是只想追求权力。毕竟，谁不想知道生命的真理。即使是像西班牙宗教裁判所这样的机构，也会出现像阿隆索·德萨拉萨尔·弗里亚斯这种认真追寻真理的人，他没有让无辜的人送命，而是冒着自己的生命危险提醒我们，女巫只是存在于主体间的虚构概念。大多数人都不会觉得自 己是单一的、只在乎权力的生物，那又为什么要觉得别人是这个样子呢？

我们绝不应该认为人类的互动只是零和的权力斗争，在放下这种想法之后，我们不仅能够对过去有更全面、更细致的理解，也能对未来感觉更有希望，态度也更具建设性。如果权力是唯一的现实，要解决冲突也就只能靠暴力。民粹主义相信，人类的观点是由他们所拥有的特权来决定的，如果要改变人民的观点，首先就得剥夺他们的特权，通常也就是通过暴力。然而，由于人类其实是想知道真理的，因此还是有机会通过交谈、承认错误、接受新想法以及修改我们所相信的故事，至少让部分的冲突得以和平解决。这正是民主网络与科学机构制度的基本假设，也是本书写作的基本动机。

最聪明的 反遭灭绝

请让我们回到本书一开头的问题：如果我们真有那么聪明，为什么还会走上自我毁灭的道路？人类其实既是地球上最聪明的动物，也是地球上最愚蠢的动物。我们聪明到能够制造出核弹与超级智能算法，也愚蠢到一股脑地把这些东西都制造出来，甚至还没搞清楚自 己能不能控制它们，说不定还会反受其害。我们到底为什么会这么做？人类的本性里是否有什么逼迫我们走上这条自我毁灭的道路？

本书认为，问题并不在于人类的本性，而在于人类的信息网络。由于人类的信息网络重秩序而轻真理，因此往往带来大量的力量，却没带来多少智慧。例如，纳粹德国创造出高效率的军事机器，却将之用来服务一套疯狂的神话谎言，结果导致大规模的苦难和数千万人的死亡，而且最终带来了纳粹德国的毁灭。

当然，力量本身不是什么坏事。如果使用得当，力量也能用来行善。例如，现代文明就已经有能力预防饥荒、控制疫情、减轻飓风与地震等自然灾害的影响。一般来说，网络取得各种力量，就能更有效地应对外部威胁，但同时也会增加内部的危险。特别值得注意的是，随着网络越来越强大，原本只是内部虚构故事所造成的想象威胁，有可能会变得比真正的自然灾害更加危险。现代国家就算碰上干旱或雨水过多这种自然灾害，通常也能有所应对，避免公民面临大规模饥荒。但如果现代国家被某个人造的幻象所笼罩，就有可能落入一场纯属人祸的大规模饥荒。

因此，随着网络越来越强大，自我修正机制也会越来越必要。如果只是某个石器时代的部落或青铜时代的城邦，就算无法看出并修正自 己犯的错误，潜在的损害也十分有限。大不了就是一座城市灭亡，幸存者到别的地方重起炉灶。即使是铁器时代的帝国，有了提比略或尼禄这样的统治者，受到偏执狂或精神病的困扰，也很少会真的出现灾难性后果。比如罗马帝国，虽然疯狂的皇帝实在不少，却还是能够撑过数个世纪，即使最后崩溃，人类文明也没有就此终结。然而，如果硅基时代的超级大国完全没有或只有薄弱的自我修正机制，那么它危及的可能是整个人类物种与无数其他生命形式的生存。在人工智能时代，人类就像是住在卡普里岛庄园里的提比略，虽然掌握着巨大的权力，享受着罕有的奢华，却很容易被自 己创造出来的事物所操纵，而且等我们意识到危险，可能为时已晚。

令人遗憾的是，虽然自我修正机制会深深左右人类的长期福祉，政客却有着削弱这些机制的动机。正如全书不断提到的，虽然削弱自我修正机制有许多坏处，却可能让人在政治上胜出。用这样的策略，就可能让₂₁世纪的极权者取得巨大的权力，而如果以为得力于人工智能的极权政权尚未对人类文明造成严重破坏就自我毁灭了，这只能说是愚蠢的一厢情愿。就像丛林法则只是个神话谎言一样，认为历史总会走向正义也只是个神话谎言。历史的轨迹无比开放，可以弯向任何方向、走向任何地点。就算智人毁灭了自 己，宇宙还是会运转如常。地球演化花了₄₀亿年，才出现了一个拥有高度智能的猿类文明。如果人类灭亡，需要再演化上亿年，才会出现拥有高度智能的老鼠文明，这种事迟早会发生。宇宙就是这么有耐心。

但还有一种更糟糕的状况。就我们目前所知，在整个宇宙，或许只有地球上的猿类、老鼠和其他有机动物是有意识的实体。我们现在已经创造出一种无意识但又极为强大的非人类智能。要是处理不当，人工智能不仅有可能消灭人类在地球上的主宰地位，更会灭掉这一点意识的星火，让宇宙变成一个彻底黑暗的王国。我们有责任避免这种情况发生。

好消息是，只要我们放下自满、不要绝望，就能够打造有制衡机制的信息网络，不让权力失控。要做到这一点，并不需要发明什么其他的奇迹技术，也不需要想出什么过去世代都想不到的天才主意。想要打造更有智慧的网络，需要的只是我们放下天真与民粹的信息观，摒弃想要绝对正确不犯错的幻想，并且认真投入一项困难但平凡无奇的工作：为各种机构制度打造强大的自我修正机制。这或许就是本书想提供的最重要的启示。

这种智慧的源头，甚至比人类历史还久远，是来自最基本的有机生命的基础。最早的生物并不是由什么绝对正确的天才或神祇所创，而是经过复杂的反复试错而产生的。₄₀亿年来，经过越来越复杂的突变与自我修正机制，地球上演化出了树木、恐龙、丛林，并最终演化出人类。我们现在召唤出了一种人类难以理解的非人类、非生物智能，它有可能逃脱人类的控制，除了可能危及人类物种的存亡，更有可能将无数其他生命形式也卷入危险之中。我们所有人在未来几年所做的决定，将决定召唤这种非人类智能究竟是个致命的错误，还是会让生命的演化翻开一个充满希望的新篇章。

1. Yuval Noah Harari, “Strategy and Supply in Fourteenth-Century Western European Invasion Campaigns,” Journal of Military History 64, no. 2 (April 2000): 297–334; Yuval Noah Harari, The Ultimate Experience: Battlefield Revelations and the Making of Modern War Culture, 1450—2000 (Houndmills: Palgrave Macmillan, 2008).

1. Thant, Hidden History of Burma, 74.

1. Ben Caspit, The Netanyahu Years, trans. Ora Cummings (New York: St. Martin’s Press, 2017), 323–24; Ruth Eglash, “Netanyahu Once Gave Obama a Lecture. Now He’s Using It to Boost His Election Campaign,”Washington Post , March 28, 2019, www.washingtonpost.com/world/2019/03/28/netanyahu-oncegave-obama-lecture-now-hes-using it-boost-his-electioncampaign/.

致谢

就算到了人工智能时代，人类写作和出版图书的速度还是停留在中世纪 我从₂₀₁₈年开始写这本书，而初稿大部分是在₂₀₂₁年与₂₀₂₂年完成的 鉴于技术和政治事件发展的速度，许多章节的含义已经发生了变化，变得更加急迫，传达的信息也出乎意料 但有一件事始终没变，就是联结的重要性 虽然这本书是在国际紧张局势日益升温的情况下写成的，但也是对话 合作与友谊的产物，代表了或远或近许多人共同的努力

没有我在Fern Press的发行人米哈尔·沙维特与编辑戴维·米尔纳付出的心血，这本书永远不可能问世 有很多次我觉得这个项目已经走不下去了，是他们劝我继续完成 有很多次我走错了方向，也是他们耐心又坚定地帮助我回到正确的路上 我衷心感谢他们的付出，以及处理各种香蕉的问题（他们懂得我在说什么）

我也感谢许多在本书写作与出版过程提供协助的人

感谢美国企鹅兰登书屋的安迪·沃德，是他让本书有了最后的样貌，也在编辑过程中提供了非常宝贵的意见，像是一手结束了新教改革一样_。

感谢Vintage的创意总监苏珊·迪安与照片编辑莉莉·理查兹设计英文版封面_。

感谢我在全球各地的出版商与译者，感谢他们提供的意见反馈与想法，也感谢他们的信任与付出

感谢Sapienship（智慧之船）内部研究团队的优秀负责人贾森·帕里，以及团队的所有成员：雷·布兰登_、陈光宇（音译）_、吉姆·克拉克_、科琳娜·德拉克鲁瓦 多尔·希尔顿 王子婵（音译） 从石器时代的原始宗教到当今的社交媒体算法，他们研究了无数个主题，孜孜不倦地检查了数千项事实真伪，统一了几百个注释，并修正了无数个错误与误解_。

感谢Sapienship团队所有无比杰出的成员，感谢各位成为这趟旅程不可或缺的一分子：沙亚·埃比勒 丹尼尔·泰勒 米歇尔·祖尔 纳达夫·纽曼 阿里尔·雷提克 汉娜·夏皮罗 加列特·格特尔夫，以及几位最近加入的成员 感谢各位参与本书背后的写作过程，以及持续为我们所有项目付出心力，一切都是为了完成Sapienship的使命：播下知识与同情的种子，让全球对话聚焦于人类最重要的挑战

感谢Sapienship的首席营销官兼内容总监纳马·瓦滕堡，感谢她总是热情坚定 思想敏锐，并负责本书品牌形象与公关宣传

感谢我们的首席执行官纳马·阿维塔尔，他睿智地引领Sapienship这条船穿越重重风暴与雷区，将能力与同情心完美结合，也塑造了我们的理念与策略

感谢我所有的朋友与家人，感谢他们多年来的耐心与关爱

感谢我的母亲普尼娜和岳母汉娜，她们为我付出了宝贵的时间和经验_。

感谢我的外祖母范妮，她在我写作本书初稿时过世，享嵩寿百岁

感谢我的另一半兼合作伙伴伊茨克，是他创立了Sapienship，他也是我们全球活动与成就背后真正的灵魂

最后感谢我的读者，是你们让这一切努力都值得 书籍是作者与读者之间的联结，让许多心灵能够联结在一起，而这种联结唯有通过阅读才得以存在

@SHAREBOOKS4YOU

感谢Telegram 频道 @sharebooks4you制作 欢迎大家扫码订阅