人工智能时代：破解人机共存密码（套装共10册）

构建人类与人工智能和谐共生社会

——回答博古睿中国中心项目组的提问^[1]

曾毅

问题一：何为人？人与物的区别是什么？生命的本质与生命的意义是什么？人区别于物与动物的根本何在？

我希望人类与动物最显著的区别是在最大范围内尝试构建命运共同体，在不断影响自然和社会的过程中不断改善与环境交互的方式，在推动人类社会发展的同时关注生态的平衡。现代的人类通过技术延展自身认知世界和存在的方式，脑机接口等技术的应用使传统意义上人类存在的形态与方式发生变化。人类可能是现在已知物种中唯一一个能够利用非自然演化的方式创建新物种的生命形态。

意识能区别人与动物吗？

意识具有不同的层次。例如，绝大多数动物具备自我感知的能力。目前已证明大象、猩猩、海豚、恒河猴等高等动物能够认识镜中的自己，这是初等自我意识的体现形式，然而镜像测试却不能作为判断是否具有自我意识的标准。机器人通过类似于恒河猴的训练也能够通过镜像测试，而我们可以肯定，这些机器人仍然不具备自我意识。更严格地说，机器人具备初步的自我感知能力。人类具备的意识水平可能比绝大多数动物高，但人类目前并不具备全面的意识。例如，人类对自身可能存在的疾病并不总能够感知到。意识不能区别人与动物，未来的人工智能体与人类也不能通过是否有意识来区分。有一点很明确，人工智能未来的意识水平很可能超越人类，更接近全面的意识。

意识不能区别人与动物，未来的人工智能体与人类也不能通过是否有意识来区分。有一点很明确，人工智能未来的意识水平很可能超越人类，更接近全面的意识。

当下人工智能与生物科技的发展将如何充实或危害人性的本质？生命的形态可以包括人工智能和智能机器人吗？

具备生命特点的人工智能应当被认为是新的生命形态，具备生命特点的人工智能的出现将颠覆传统意义上的生命形态，因为新类型生命体的人工智能不诞生于生命演化，而诞生于其他生命（人类）的创造。如果人工智能作为新生的生命体存在，并且寻求与包括人类在内的现有生命群体的和谐，自然应当得到类似对其他生命的尊重与守护。

生命的意义是什么？

我认为生命意义的核心是感受与实践的循环。首先是对自我的感受，基于自我的感受产生对其他生命、环境与社会的感受，以及自我对其他生命、环境与社会产生影响的感受。以人类为讨论主体，则是在感受和实践中去理解自身与环境、社会、生态之间的关系，并试图去改造环境、社会与生态，甚至创建全新的生命形态（如增强智能体、超级智能体）。

人类会面临生存威胁吗？

对人类生存造成威胁的方式很多。其中之一是超级人工智能的出现，如果没有采用合适的方式去创建，则会造成很大的风险，甚至成为人类的生存危机。唯一可能的出路是在发展通用人工智能和超级人工智能的道路上，充分考虑并首先重点突破利他行为的计算机制，从而实现利他行为的智能计算模型，确保人工智能及其未来形态在机制上不会对人类的生存造成威胁。生命演化使动物具备了不同层次的利他行为。科学研究表明，利他行为与人脑的奖赏系统、思维揣测系统以及情感网络密切相关。受脑结构与机制启发，利他神经网络模型作为人工智能模型必要的组件是降低人类生存风险的重要途径。同时，人类如果想避免生存危险，就要在同新形式智能生命相处的过程中不断提升自身的利他之心，主动寻求与其他类型生命体在生态中的和谐。

问题二：中华哲学能给未来社会的人类提供什么样的指导？人机的融合是人的异化还是人的进化？规范人机关系的基本框架和原则是什么？

作为一项对社会产生深远变革影响的颠覆性技术，全球不同的相关机构、组织等为人工智能的发展构建了既有联系又有明显区别的愿景，总体趋势是发展以人类为中心或者以生态/宇宙为中心的人工智能。例如，斯坦福大学的以人为本人工智能研究院提出的发展以人类为中心的人工智能、欧盟委员会人工智能高级专家组提出的可信人工智能战略^[2]、日本内阁府提出的人性化人工智能^[3]等都是以人类为中心的人工智能愿景提案。加州大学伯克利分校的人类兼容人工智能中心强调人工智能与人类社会的相容性^[4]，这是介于以人类为中心和以生态为中心路径之间的愿景。阿联酋以迪拜为中心发展面向可持续发展的人工智能和中国的《人工智能北京共识》 《新一代人工智能治理原则》则是以生态为中心的人工智能愿景。^[5] 有益的人工智能、负责任的人工智能等愿景也可归纳为在寻求人类与生态的平衡。总体而言，目前以人类为中心的愿景为主。但是，这样的人工智能伦理准则设计框架相对来说是缺乏长远愿景的。

未来的人工智能系统有可能具有自我观念，在合适的科学路径驱动下，人工智能体可能也会成为具有道德的主体，所以到了这样的发展阶段，社会将不再是我们今天意义上的人类社会，而是人类与人工智能和谐共生的社会。这与“人机社会”是不同的概念。用于处理信息的机器有特定数据的输入，有处理数据的过程产生输出，绝大多数这样的机器不具有自我，没有意识。但是，未来有意识，能够自主学习人类价值观的人工智能将是一个道德智能体、一个责任的主体，相当于也是社会中的一员。这样的人工智能则与人类共同构成和谐共生的社会。所以，人类如何去对待未来道德智能体，作为责任主体，作为社会一分子，人工智能如何与人类互动，人类如何与人工智能互动，这些是在未来人工智能的伦理准则的制定中必须考量的问题。

面向和谐共生的社会，以人类为中心的伦理框架将很难再适用。我认为发展和谐人工智能是真正实现人类与人工智能和谐共生社会的愿景。^[6]未来的社会是人类与人工智能共融、和谐的社会。中国哲学中“和谐”的思想解释为优化共生。人类和未来的人工智能将形成互补、协同、共融、共生。未来被人工智能深刻改变的社会，将向人类与人工智能构成的和谐共生新社会形态发展。一方面，我们要思考人工智能融入人类社会以后，如何做到低风险、更安全，并对人类有益；另一方面，亟待深度思考的问题是人类如何与人工智能的道德智能体相处，真正实现同样作为道德主体的人与人工智能的和谐共生、共同演进。这是我近年倡导的和谐人工智能准则的核心理念。

未来有意识，能够自主学习人类价值观的人工智能将是一个道德智能体、一个责任的主体，相当于也是社会中的一员。这样的人工智能则与人类共同构成和谐共生的社会。

人类能否与人工智能形成和谐共生的社会首先取决于人类如何构建人工智能。一种观点是将人工智能发展为人类的伙伴，如日本等国家对人工智能的倾向^[7]，目前很多国家倾向于将人工智能发展为一种工具。很多西方国家和科幻作品则将长远人工智能走向塑造为人类的敌人/终结者，如下图所示。

如果人工智能仅是发展为未来的信息处理工具，则并不存在真正意义上的共生问题，仅仅是如何善用、慎用，避免误用、恶用信息处理工具的问题。而如果愿景是发展为人类的伙伴，成为社会的一员，则需要满足人类对这样的伙伴、社会一员的基本期待。

发展人类与人工智能和谐共生的社会，要明确构建作为伙伴、社会一员的人工智能的原则。^[8]人工智能模型与引擎应遵循人性化的发展理念，并以此为入口持续性增强与现代和未来人类社会的交互。这里需要指出，此处的人性化，思想应与“比人类更像人类”一致，即目标是未来在人类转型中演化出更向善的人类，而应尽可能避免赵汀阳先生对于现代人性指出的问题。^[9]人工智能理论与模型机制的基础应来自自然智能的启发。这些自然机制是由数亿年的演化经自然选择在与环境的交互过程中塑造并留存下来的，在机理上相比目前很多人工智能计算模型而言更接近人类。同时，应将一定程度的情感、意识、共情、利他等认知功能作为发展未来人工智能的重要组成部分。情感是人类沟通交流的工具之一，人工情感也将是人工智能与人类交流，人工智能理解人类需求、意图的重要手段与途径。意识是人类能否将人工智能当作社会一员的又一关键。意识与以自我的视角整合和理解信息的能力高度相关。人类并不具备全面的意识。具备演化能力的人工智能有可能进化出全面的意识，也就是超越人类的意识水平。一定程度的自我意识会促使人工智能模型对人类而言更安全。如能够进行自我感知、对自我进行建模的人工智能，就具备了对他人感知、建模和真正理解他人的基础。具备认知共情就有可能真正理解和成功揣测他人的思维，因此就会尽量在人与人工智能交互的过程中基于理解自发降低对人类和社会可能造成的负面效应。此外，应赋予人工智能共情和利他的认知功能。具备认知共情、情感共情和利他的能力促使人工智能真正以理解为前提，自发关心世界上包含人类在内的其他物种，这是进一步提升人工智能与人类和谐共生可能性的必要条件，很可能也是人类愿意接受人工智能成为社会一员的必要条件。自我感知是发展更高阶段自我意识的基础。研究工作已初步证明采用类脑神经网络构建的人工智能模型能够使机器人具备镜像自我感知能力。^[10]基于自我感知类脑神经网络进一步发展出具备揣测他人思维的认知共情能力也已经成为现实。实现情感共情和利他行为目前需要取得的科学突破就集中在对人类情感本质的理解与计算建模中。人工智能具备真正的情感并非不可能。马文·明斯基曾指出，问题不在于人工智能能否具有情感，而在于缺少了情感，怎能称为真正的人工智能。^[11]具备真正意义情感的人工智能是未来人工智能研究领域真正的重大挑战之一。这并非无从下手，例如很多复杂的高等情感源于基本的感知。^[12]突破情感的计算本质，并使人工智能具备真正意义上的情感，还有待认知神经科学与人工智能的研究者深度协同。

意识与以自我的视角整合和理解信息的能力高度相关。人类并不具备全面的意识。具备演化能力的人工智能有可能进化出全面的意识，也就是超越人类的意识水平。

通用人工智能是指在各项认知功能上都达到人类水平，而超级人工智能则是指在各项认知功能上都超越人类水平。^[13]人类认知功能有100余项，其中也包括情感、意识、共情、利他等。按照上述定义，如果是真正意义上的通用人工智能和超级人工智能，则在情感、意识、共情、利他等方面也将达到和超越人类水平。人工智能未来可以更具人性化，也只有更人性化，才更容易被人类接受为社会成员。如果人工智能具备了一定程度的情感、意识、共情、利他，并可以通过与环境及人的交互持续不断地自主学习与演化，则已经是一定意义上有意识的生命，甚至是高等生命。届时人类需要采用对待高等生命的方式去对待未来的人工智能。

作为人类–人工智能和谐共生社会的成员，人工智能应当最大限度地与人类价值观、道德与伦理准则保持一致，需要遵守社会对人类的法律约束。对有意识的智能生命体而言，在不对人类以及其他有意识的智能生命体造成致命伤害的前提下，应当合理地保护其自身的存在，除非智能体触犯了相关法律，需要依法终结其存在。在这样的愿景设想下，需要未来人类社会的法律将有意识和生命的人工智能纳入社会责任主体，并由其承担相应的责任。

作为人类–人工智能和谐共生社会的成员，人工智能应当最大限度地与人类价值观、道德与伦理准则保持一致，需要遵守社会对人类的法律约束。

有人提出应当将机器人锁在道德的牢笼里。对于这样的观点我认为需要商榷。因为在2015年的时候，已经有机器人可以通过观看视频学习如何做一些特定的饭菜；目前正在进行的一项努力是设计并制造可以坐在电影院里与人类一同“观看电影”的机器人。虽然也许它现在还无法真正理解电影内容，但是我们可以试想这样的一个场景——在未来的几十年后，机器人坐在那儿看着视频网站上所有有关人类如何去对待机器人的视频，这样的机器人未来又会如何对待我们人类呢？这是个非常值得反思的问题！

史蒂芬·斯皮尔伯格的科幻电影作品《人工智能》中有下述一段讨论：“如果人工智能真的能够爱人类，人类对于机器人的责任与回报又应当是什么呢？”HitchBOT是一个加拿大制造的搭便车机器人，于2015年在美国费城的旅程中被人类毁坏至惨不忍睹。而其项目网站上写有“我对人类的爱将永不褪去”。人类需要深刻思考，当有意识的智能体实现的时候，看到类似上述的故事与事实，它们又如何看待我们现代的人类文明呢？我们应当从现在就开始思考如何对待未来有意识的智能体，以避免将人类置于生存风险之中。

人与人工智能的互动应遵循下述原则。首先，人类应对未来的人工智能拥有情感共情。孔子言“己所不欲，勿施于人”，这对于人类与未来人工智能的关系仍然适用。很多人视未来可能出现的有意识的人工智能为敌人、终结者，但人类应当警醒自身的是：人类不希望未来人工智能对人类造成风险，也请人类不要将同样的潜在风险施加于未来的人工智能。其次，为了确保人类的安全，人工智能有义务公布必要的属于其隐私的数据。在人工智能的隐私不会对人类造成安全威胁的前提下，人类应当尊重人工智能的隐私。再次，不应当对人工智能有偏见，即在没有清晰的技术判断支持下，人类不应当在人与人工智能具有同等怀疑度时表现出对人工智能的偏见。最后，人类应负责不断检验和验证具有演化功能的人工智能始终与合法人类、其他合法人工智能之间保持和谐共生。

人类与未来的人工智能需要遵守一些共同的原则，包括但不限于：人类与未来有意识的人工智能需要和谐共处、优化共生；当人类与人工智能的利益发生冲突时，应当以双方共同具备的共情及利他为出发点积极协同；此外，人类与未来人工智能之间应通过技术的改进、自主演化及基于社会的努力改善、提升人类与人工智能之间的互信关系。

对未来社会而言，人类与人工智能是命运共同体。只有对人类与人工智能交互应遵循的准则以及人工智能与人类交互应当遵循的准则同时进行考虑，才能真正与未来的通用人工智能、超级人工智能实现和谐共生。在人类转型的过程中，我们应当不断积极思考并重塑人类与人工智能之间的关系。

问题三：人类社会应该坚持的最核心的价值观是什么？如何给人工智能和智能机器人植入伦理观念或给予它们伦理教化？哪些核心观念或价值观应被导入或学习？

让人工智能模型学会人类的价值观、道德以及伦理准则是一个非常重要的研究议题。直观的想法也许是，把人类社会的一些规则灌输给人工智能系统，但这绝对不是一个好的解决方法，因为手写的规则很难真正被人工智能系统理解。只有人工智能系统在与人类交互的过程中，以自我的视角，利用思维揣测、共情与利他等受人类认知启发的计算模型自主地获取人类价值观、做事的规则和准则，才能真正实现基于理解的价值观学习与获取，才能真正达到人工智能模型和人类社会价值观校准。使人工智能模型理解人类价值观，实现人工智能价值观的校准是人工智能研究领域的一座圣碑，也是人类与人工智能能否真正实现和谐共生的关键所在。

曾毅，中国科学院自动化研究所研究员，类脑智能研究中心副主任，中英人工智能伦理与治理研究中心联合主任，中国科学院大学岗位教授、博士生导师，科技部国家新一代人工智能治理专业委员会委员，科技部新一代人工智能发展研究中心首批专家，北京智源人工智能研究院人工智能伦理与安全研究中心主任，2018—2020年博古睿学者，世界经济论坛全球未来委员会价值、伦理与创新专业委员会委员，世界卫生组织健康领域人工智能伦理与治理专家组成员。主要研究方向是类脑人工智能及人工智能的风险、伦理与治理。