人工智能时代：破解人机共存密码（套装共10册）

意识只关心炼化后的骨架，关注顶层的内容，被炼化掉的细节默认成共识或规范，在以后的交流之中能够被自动“脑补”回来。意识的炼化与肌肉的锻炼非常类似，儿童经过不断练习协调动作，就能很准确地使用筷子夹取物体，并不需要明晰夹取的每一个细节（动作路径、力气大小等），而是只要明确了目标，在很多种实现方式的可能中选择其中一种方式实现即可。

人的智能逐项被机器超越

让机器形成理念，接触并开显出认知坎陷是未来人工智能发展的关键。对于机器是否具有意识，一直存在争议，大部分人认为机器没有意识，更谈不上具有自我意识了。我们认为，人们已经赋予机器以人类的意识片段或认知坎陷，并且机器能够将这些认知坎陷连缀在一起从而达成一个更复杂的目标。比如AlphaGo就凝聚了参与其建造过程的所有人的意识，这些过程包括从沙石中提炼单晶硅，从单晶硅生产出芯片，再制造内存、中央处理器、图形处理器，开发操作系统，设计围棋算法等，是所有这些人意识的凝聚^[11]，才使得AlphaGo按照设计者的预想下围棋，战胜围棋大师。^[12]

现在对人工智能还有一个误区，就是以为我们必须先有通用人工智能，才能实现强人工智能，目前离通用人工智能还很远，离强人工智能则更遥远。但事实并非如此。“术业有专攻”，人类的高级智能并非通用的，虽然我们大多数人具有相似的常识，但对个体而言，智能是针对领域的，并不是所有领域都通用。例如，历史学家与数学家、物理学家的思维模式往往并不相通，专业领域难以跨界。

卡特娅·格雷斯^[13]及其研究小组研究调查了全球1 634名机器学习与人工智能领域的相关专家（这些专家均在机器学习领域的两大顶级会议2015年国际机器学习大会与2015年神经信息处理系统大会上发表过论文），并收到352份回复。调查的问题集中在：人工智能将在哪些领域具备哪些技能？人工智能将在何时超越人类？

对于第一个问题，受访的人工智能专家们相信，到2060年，人工智能在各领域有50%的机会超越人类，在120年内，能够实现所有人类工作的自动化。而对于第二个问题，即人工智能将在何时超越人类，不同地区的专家则有着较为显著的差异，亚洲地区的受访专家较北美地区的受访专家相信这一时间节点会更早到来。值得注意的是，该报告虽然发布于2017年，但数据调查和统计于2015年，彼时专家还认为人工智能要到2030年之后才能在围棋方面战胜人类，但就在受访之后短短几个月，AlphaGo就因战胜欧洲围棋冠军棋手樊麾而一鸣惊人。显而易见，人工智能正在以惊人的速度逐项超越人类技能已成为事实，时间节点可能比这项调查的结果还要更早一些。

实际上AlphaGo在短短两年就发展出了4代：2015年10月，AlphaGoFan以5∶0战胜樊麾并登上国际顶级学术期刊《自然》封面；2016年3月，AlphaGo Lee以4∶1战胜围棋世界冠军、职业九段李世石，成为世界上第一个战胜围棋世界冠军的人工智能；2016年12月，AlphaGoMaster与来自中国、日本、韩国的数十位围棋高手进行快棋对决，创造了连续60局全胜的战绩，2017年5月以3∶0战胜人类排名第一的棋手柯洁；2017年10月，DeepMind在《自然》上发表的研究论文展示了全新版本AlphaGo Zero。与前三代的最大不同在于，AlphaGo Zero能从零开始自学，在无任何人类输入或人类棋谱数据的条件下，它能够迅速自学，真正使机器自己学会了围棋规则，逐渐从输、赢以及平局里面自行尝试并调整参数，变得越来越懂得选择有利于赢棋的走法，而不再像前三代那样需要通过海量棋谱数据训练、自我对弈演练和分析对手的特征赢得比赛。AlphaGo Zero的自学机制还成功应用到了日本将棋等其他具有难度的棋类游戏，统称为AlphaZero。在我们看来，AlphaZero就是一个棋类天才，一个真正的强人工智能系统。

蛋白质结构预测的关键性评价（CASP）有蛋白质结构预测“奥运会”之称，该项全球竞赛要求选手仅根据基因序列就预测出蛋白质的3D（三维）结构。2018年12月，AlphaFold首次参赛就一举夺冠，在对总共43种蛋白质的预测中，它获得了其中25种预测的最高分，排名第二的队伍获得最高分数的蛋白质只有3种，人工智能以优异成绩碾压了人类专家。2019年1月，AlphaStar在《星际争霸2》这一风靡全球的竞技游戏中与两位职业选手对抗并获全胜。

当然，人类作为社会群体的智能集合和人作为单独个体的智能不能混为一谈。爱因斯坦、黎曼在物理、数学方面具有卓越的成就，但不代表他们也一定擅长诗词歌赋，不同的人在不同领域有自己的专长，在另一些领域则可能一窍不通，这也是我们生而为人而非全能的“神”或“上帝”的特点。既然人类的智能具有个体差异性、专业性，那么我们又有什么理由要求机器必须方方面面都超越人类才算是真正的强人工智能呢？AlphaZero在棋类游戏方面战胜人类冠军棋手；AlphaFold成功预测蛋白质折叠，远胜人类科学家；AlphaStar在复杂的竞技游戏中让职业玩家屡屡受挫……我们完全可以相信，在可见的将来，人类会在很多领域被机器一项一项超越。这些人工智能并不是要凑足一千个、一万个并关联在一起才能成为真正的强人工智能，而是像我们理解人类智能具有专业性一样，机器的智能也具有专业性，强人工智能已经在逐个领域实现。

机器的能力正在一项项地超越人类，且一旦超越，人类就难以赶超。过去是体力方面的超越，我们可能还乐于享受科技的进步，但现在开始是脑力方面的超越甚至取代，全球企业裁员不断，各地失业率逐年攀升，我们每一个人的前途和命运都与科技进步相关联。科技与人工智能技术的发展不可能停下脚步，面对机器崛起的步步紧逼，我们该向哪里“撤退”？^[14]

有一种观点认为，人是血肉之躯，是一堆分子、原子的组合，构造再怎么复杂其本质也还是分子、原子，依旧满足物理学定律，终归能被研究清楚、被物理还原。假如物理还原主义的观点是对的，那我们就面临这个问题：人的价值到底在哪里？我们人是不是就要自动交出人类的主动权？甚至有人主张，人类虽然把以前那些物种都打败了，但很可能只是一个过渡状态，之后就要交出主动权，未来由人工智能来统治，他们认为人类的缺点很明显，也很多，而相比人，机器没有私心，会更公正，“智力”更高，也不需要顾虑亲情与社会关系，在他们看来好像这是一个自然的结论。

快速发展的人工智能给人类社会带来了两个维度的冲击。其一，对有限规则的游戏或博弈，理性的机器一定会超越人类，如果人是可以被还原的物理系统，那么包括道德和伦理在内的人类存在的意义就会受到质疑。其二，假如人不能简单地被物理还原，那么我们就必须回答：人类的特殊性从何而来？究竟有哪些地方是机器比较难以超越_{人类的呢？}[15] [16]

人类的超越在此岸

我们认为，人类与其他动物、与机器的本质差别就是自我意识的强烈程度。自我意识并不神秘，是从最原初的坎陷发展而来的，最原初的坎陷就是“自我”和与之相对的“世界”。人类因为自我意识的强烈，会更多地去探索这个外部世界的真相，而外部世界的信息也会反过来丰富我们个人的自我意识。意识片段/认知坎陷构成坎陷世界，这也就是我们的意识世界。把这个世界按照坎陷世界与物质世界进行二分，我们就能理解其他框架所不能解释的很多命题。虽然我们不能脱离物理载体，但具有独立行动能力和生命力，具有自我肯定需求（“自然生长倾向”^[17]）。生命的意义就是对“自我”边界的拓展，不同维度的拓展对应不同维度的意义与价值。

究竟有哪些地方是机器比较难以超越人类的呢？我的回答是：那就是人类承载了几十亿年的进化过程。这些过程发生在地球环境里，已经内嵌在我们的身体结构和意识形态中，所以我们与物理世界的关系是非常契合的。在面对前所未有的状况时，在宇宙观、价值观和道德观的指导下，我们还能大概率地做出正确的反应，开显出新的认知坎陷。

机器是由人类设计的，主程序可以被看作机器的“我”，但是这个“我”很脆弱，缺少像人类自我意识对周围环境、对外部世界的统摄性力量。也就是说，机器并不具备能够统摄意识片段的自我意识，因此机器即便能够从人类习得海量的认知坎陷，也无法连续自如地对其掌控。因此，即便现在的机器在某种程度上能够模仿人类，能够把接收到的意识片段全部混合起来创造出新的东西，机器实际上也不能超越人的创造力，至少在最近的将来是如此。

人类是碳基生命，而机器是硅基生命体，那么即使未来形成了某种默契，作为硅基生命体的机器所激发出来的认知坎陷与碳基生命的人类所开显出来的认知坎陷之间很可能存在巨大的差别，或者说机器的坎陷世界是人类难以理解的。

在人工智能高速发展的情况下，在不远的未来我们只需要少数人来设计新的机器，让人的智能和机器的智能融为一体，共同进化变成一个更高级的智能，但这毕竟也只是少数精英有能力处理的事情，大多数人可能无法达到这种技术或思维层次。那么，对普通人来说，生命更深层的意义何在？

我们认为还是要回归到自我的延伸，实现自我的超越、诗意的生存。实际上人类已经有很多自我延伸方式。比如，一名赛车手可以操控赛车飘移，这个时候他与赛车融为一体，他为之感到愉悦，操控赛车是对他自身的一个超越，这就是一种诗意的生存。或许未来在某种程度上，如果我们能控制机器的话，与智能系统融为一体来解决一些复杂的问题，这也将成为我们的一个延伸，同样也是一种诗意的生存。

古人所谓的“修身、齐家、治国、平天下”，也是按照这样一个顺序来延伸自我，修身比较容易，齐家难一些，治国难度更高，平天下是难度最高的延伸方式。这个顺序并非完全不能跳跃，但这是一个更自然的顺序，越是靠前的项目越适合大多数人做，在未来本质上还是如此。

未来，因为我们可用的工具更多，我们可连接的主体更多，我们可以创造的事物更多，我们可以改变的路径更多。在机器崛起的视域下，我们自我延伸的方式也更多，实现人生价值的途径也将会越来越丰富和广阔。我们应对人工智能挑战的当务之急就是对未来要有比较准确的预期，改变人们的认知体系，以顺利过渡到新的时代。

人类生命本身就是对物理世界的一种反叛，这种反叛体现在人具有“超越性”，试图根据主观意志改造物理世界。例如，我们没有翅膀，不能像老鹰一样在天空中自由翱翔，但我们创造了宇宙飞船，将人带入太空。在飞船中，人必须依靠人工条件才能生存，比如需要有模拟地球的空气、温湿度、重力，以及从地球携带食物和饮用水，这些在地球上看似唾手可得甚至理所当然的条件是人类赖以生存的根本。人类作为地球的一部分，并不能自以为是地认为自己可以随意主宰地球，我们的确可以改造世界，但必须以对未来负责为前提。

我们无法限制机器的生产或制造，但是可以将生产过程透明化，制造者有义务对大家公开，这样就会有人注意到当事者没有意识到的潜在风险并想出办法来对冲。人工智能可能会有很多不同的物种，但它们之间也可能互相竞争抑或互相平衡，只有在这种情况下，人类才可能相对安全。另外，人与人之间通过语言能相互交流，人类就是通过语言共同进化的。人机之间也可以如此，这可能需要区块链技术把人机链接在一起。一个区块链系统本身就有可能进化成一个智能体，综合了人类的智能与道德，以及机器的计算能力。

人工智能应当遵循的伦理规范

相对于基督教、佛教等宗教，中国的儒家学说更契合时代特征。儒家推崇对于善的追求，其深刻和独特之处是追求一种现世的超越，直接提出如“三不朽”“君子”“圣人”等信条与道德目标引导中国传统知识分子去尊崇和践行。这种思想对于理解及塑造人工智能都有着重大的价值。

不可否认的是，随着时代的发展变革，儒家学说的部分内容以及一些表述已经不再适用，但这并不代表它的原则失去了效力。虽然我们不再倡导三从四德等规范，但是每个人立足自身并承担相应的社会责任仍然是我们应该遵循的原则。实际上儒家这种立足自身，从“我”出发延伸到外部的思想具有更加广泛的体现，“修身、齐家、治国、平天下”就描述了这样一种延伸路径。

随着“自我”的不断延伸，“自我”的越来越强大，坎陷世界的越来越丰富，能够包含的内容也越来越多，成长到一定阶段，就可能达到一种超脱的状态，实现“从心所欲不逾矩”，即使受到在物理世界规律下的约束，人依然能够按照自己的意志去行动，从“必然王国”走向“自由王国”。

人类制造人工智能、发展区块链，只是改造的一个开始，这种改造是否正确或善意，现在还不能下定论，如果人类不能为自己的未来负责，就很有可能摧毁物理世界，也就等于人类亲手埋葬了自己的未来。人们要建立何种道德体系，希望世界向何种方向发展，不由物理学决定，恰恰需要在哲学上讨论。面对哲学三大终极问题的第三个追问，人类的命运已然不能再寄托于上帝和诸神的缥缈旨意，人类要在实然世界找到“如何为自己负责”的答案。

人类具有生而得之的“善意”，从婴孩开始，我们获得抚养者的关爱与照顾，获得外界的空气与阳光，这些对生命而言的“善”（从善意炼化而来）使我们在引领社会走向之时仍然追寻“至善”（从善炼化而来）的方向。我们在发现比自己更落后的原始部落时，并不会因彼此之间文化、生活的格格不入而将对方抹杀，不仅会尊重它们的存在，而且很可能会向它们提供援助。这也说明人类并不是只追求效率和利益最大化，我们对世界的多样性保有基本的尊重，因为我们承载了千万年的进化历史，我们知道过去是多样的，未来也不必追求整齐划一，我们要把自己收获的善意、善与至善传承给下一代，并希望能够尽可能长久地存续、传承下去。

现在人机共进的最大威胁仍然在于，人类还没有完全思考清楚应该赋予机器何种准则，甚至还有人在纠结是否应该赋予机器以意识。人类已经将意识片段赋予机器，且不可能撤回。并不是我们只要将机器当作工具，它们就真的永远只会是机器，人工智能的发展可以说是尝试各种可能，即便人类是无心之举，机器仍然有可能形成更强烈的意识甚至开显新的认知坎陷，我们只能让机器尽可能地理解人类遵循的原则，提前约定并让所有机器都遵循基本准则，否则灾难的发生可能就在一夜之间。

我们认为，未来机器应当遵守的基本准则之一就是保证自己与人类在同一时间尺度上协作。众所周知，机器的反应在纳秒量级，而人类的反应速度在毫秒量级。机器完全可以在不那么聪明，还不具备强烈意识的情况下，就因追求效率而断定人的低效高耗，将人类当成垃圾邮件一样抹去，人类甚至还来不及反应。基于此，人们现在应该通过区块链的挖矿等机制，将并行计算、串行计算和有人工计算参与的多问题求解组合在一起，以使机器（尤其是在重要问题上）必须等待人类信号，才能进行下一步的操作。

另一个基本准则是未来人与机器共同适用的历时性准则，即节点（人或机器）必须有足够长的历史记录来证明自己的可靠性。区块链技术不允许被篡改，即便一开始上链的是伪造数据，节点也需要伪造更多的数据来支持原来的造假信息，成本巨大，远不如诚实记录来得简单。当我们需要找靠谱的节点参与重要决策时，必须考察节点的历史记录是否可靠，而不是由突然出现的某一个超级节点说了算。即便是历史可靠的节点，其权限也不可能只手遮天，而是必须由多个可靠节点共同协作并决策。

综上所述，“自我”通过与“外界”交互而进化，并因其对物理世界作用的有效性和一致性而超越其物理界限，越来越多地展现为非定域性的自由意志；认知主体对其所处世界必然存有某些认知缺陷，但能够通过主体间的相互沟通、共同协作不断对坎陷进行完善，因而其坎陷世界在不断成长与开显。随着人类的主观能力越来越强大，自由意志得到越来越充分的释放，人类对世界的认识一方面不断地向真实的物理世界靠拢，另一方面也在不断寻求超越、逐渐发展而比物理世界更为强大。因此，我们有理由认为，随着认知的日益发展，人机的未来需要人类的设计和自由意志的指导，人类也才有可能成己而圣，为机器立心，为万世开太平。

蔡恒进，卓尔智联研究院执行院长，武汉大学计算机学院教授、博士生导师，宇链科技联合发起人暨首席科学家，中国计算机学会区块链专业委员会通信委员，中国通信工业协会区块链专业委员会副主任委员。主要著作有《机器崛起前传——自我意识与人类智慧的开端》《人机智能融合的区块链系统》。

[1] Katrina Onstad, Mr, robot, https://torontolife.com/tech/aisuperstars-googlefacebook-apple-studied-guy/ 2018-01-29.