人工智能伦理

图5.48 尽管副官Y说谎，但以多数票执行命令，忠诚的副官们不受影响

(ii)如果司令是叛徒，他对副官X,Y,Z的命令不同。然而，忠诚的副官们通过两两告知所收到的命令，按照多数投票仍然能够协调一致地行动。

图5.49 即便司令叛变，但以多数票执行命令，忠诚的副官们仍能步调一致地行动

假设节点总数为n，叛徒总数为m，兰泊特证明了当n>3m时，上述协议可以保证忠诚的将军们能够达成共识^[94]。拜占庭将军问题依不同的条件而有不同的解决方案。比如，将军之间的消息传递不是口头的，而是“书面”带数字签名的，大家只消交换一下这些带数字签名的投票，便能一下子找出谁是叛徒（即说谎者）。

图5.50 如果信使带着将军数字签名的密文，大家就不难识别出谁是叛徒

在不安全或不可靠的分布式通信环境里，人们发展出多种同步或异步、“口头”或“书面”的共识算法，保证交流不受外界的干扰。有时候，技术能抑制恶的破坏，让虚假曝光，推动社会的进步。

从共识到超级智能

在现实中，人们通过各种交流（如书籍、社交、媒体等）达成共识，绝大多数情况下环境是可靠的。于是，逻辑缜密、环环相扣的客观知识呈现出相对的稳定性，虽有变化但都是缓慢的。人类在共识的基础上扩展知识，人人犹如大脑神经元那样协同地工作，群体智能（见图1.65所示的蚁群路径寻优）表现出比个体更强大的力量。然而，群体智能并不总是可圈可点，有时候它的表现不尽如人意，为什么呢？

“共识”是人类的无价之宝，来之不易。个人观点常常会有剧烈的波动而有失稳定性，原因有二：一是不同的信息来源造成了一定的困扰；二是人们缺乏独立思考有“人云亦云”的习惯（即易受他人影响）。在自媒体泛滥的时代，信息来源参差不齐、鱼龙混杂，可信度受到挑战，可靠的共识变得难以形成。

图5.51 释迦牟尼说，“用真理征服说谎者”。这个真理就是共识算法

联合国

NSAS

图5.52 对人类来说，共识不是那么容易达成的——缺乏宽容导致太多的不理解

例5.6 近些年，美国的许多传统的社会共识被撕裂。弱势群体各自为政、各行其是，忽略了阶级分化才是社会矛盾的根源。统治阶级一方面乐于看到弱者们人心涣散的局面，另一方面又担心一盘散沙减弱国力，所以用自以为是的“普世价值”和“民粹主义”这类廉价的黏合剂来笼络人心。

所有伟大的民族都有内省和自我纠错的能力，靠的就是“社会共识”。国家宣传机器既要顺应民心所向，又要主导社会共识充满正能量，朝良性循环发展。这世间充满苦难，看小感到痛苦，看大接受痛苦。回顾图1.6的哲理，形成共识一定要顾及不同视角，给人们一个全面的图景，而不是遮掩回避。

历史是一面镜子，人类从中看清自己的善恶美丑。然而，历史总是在重演，人类总是“好了伤疤忘了疼”，难道是江山易改本性难移？在选择性遗忘方面，人类倒是不用商量就能达成“共识”。对痛苦教训的刻骨铭心，机器一定做得比人类好。

与人类在共识上举步维艰恰恰相反，一旦机器拥有了自我意识并主动地在同类间建立共识，其智能的快速演化将是无法阻挡的。一个拥有共识的智能群体所蕴藏的力量是乌合之众无法企及的，这是超级智能的肇始，也是机器文明取代人类文明的根本原因。

5.2 超级智能