人工智能时代：破解人机共存密码（套装共10册）

只是和它们强大的计算能力相比，它们的模糊感情可能显得有些幼稚。但是，谁能断定将来不会出现高情商的智能机器人？情感生活、自我意识，这些对未来的人工智能来说或许都会成为可能。人工智能这些被“情商”的特点其实与人类的纠错能力有关，归根结底，这取决于人类的欲望。能否妥善处理各种随机出现的状况，这是机器人在将来会不会获得生命特征的关键。

不过，机器真的要成人，其材质也是相当关键的。我们的身体是肉身，机器再怎么仿生也不会拥有肉身。佛教以缘起论解释生命，以“五蕴”的和合或离散解释生命的生与死，这些过程充满了非理性的因素。五蕴，是佛教的基本概念，认为生命是色蕴、受蕴、想蕴、行蕴和识蕴五大类要素的和合，死亡则是这五蕴的离散。简单地说，色蕴是指生命的身体，受蕴是指个体的感受，想蕴、行蕴则是基于感受的想象、推理和判断，识蕴则是有意或无意支配上述心理活动的依据。因此，从表面上看，智能机器人可以获得生命：色蕴就是机器的身体，受蕴是它们对外部信息的接受，想蕴是对这些信息的处理或计算，行蕴是相应的判断，识蕴则是先前已存储的各种数据。但是，这样的机器人真的就可以被称为“生命”吗？当然不可以，因为机器人的五蕴并不一定能形成有机的整体，尤其是识蕴的形成与作用机制。按照佛教的说法，识蕴是转世投胎的生命主体，生命的解脱，也是要把这个识蕴转化为智慧。智能机器人能不能拥有这样的识蕴？我们很难想象在一个机器人被拆解之后，它还有可能在另一台机器上复活。我们对智能机器人的顾虑，并不是担心它们在被拆解后会复活，而是只要不被拆解，它们就永远死不了。佛教在讲五蕴的时候，总在强调生命的空苦无常，人命危脆。但是，机器人的色蕴并不会无常，它们总是不知疲倦，永远不会被累垮。即使设备老化了，也可以更新零件，甚至它们自己会主动更新零件。永远不会被累垮的智能机器人，也因此永远成不了我们自然界有缺陷的生命。作为自然界的生命，我们的尊严首先来自肉身的显现。没有肉身的智能机器人，或许永远不会有尊严，但是它们比我们自然界的生命更强大。我们的顾虑和危险来自我们的尊严与我们的软弱。

到目前为止，智能机器人可能还没有自我纠错的能力，也还没有自我意识。只要还没有这种能力，总体上说它们还只是自动化设备，谈不上是生命。从佛教的角度来看，生命的本质是随机的欲望。作为人文学者，我希望人工智能的开发设立一个禁区：不要让未来的机器人有自我意识，不能让它们有生命的欲望。我们能赋予它们的只能是固定的理性或某种特定的算法，而不是无限多样的纠错能力，也就是不能赋予它们随机的欲望。我们在讨论人工智能的时候，其实还必须弄清楚谁是“智能主体”？我们或许都会认为，这个智能主体就是作为人工智能体现者的智能机器人，但为什么既没有包括创造智能机器人的人，也没有包括使用智能机器人的人？或许，我们必须考虑一种共创的智能主体。

现阶段机器人的主要优势还在于远高于人类的精确性，它们仍属于自动化仪器。我们不应该去突破那个所谓的“奇点”^[4]，而且，在我看来，这个“奇点”就是机器人开始具备思维能力、自我意识的转折点。也就是说，我们不应该去追求强人工智能。在弱人工智能范围内，人机关系还是可控的，只是停留在源于机器人的社会问题，还能在政治、经济和法律等传统的学科框架内协商解决。但到强人工智能时代，人类的尊严可能会丧失殆尽，人类甚至有被整体替换的危险。

在技术的快速发展面前，包括哲学家在内的所有人，都应该反思自身的处境。缘于技术的进步，我们变得越来越自信。但发展到今天的人工智能越来越聪明，与此同时，我们其实看到的是人类自身的衰落。什么是生命的本质？我们还需要进一步反思实现生命价值的方式。我们或许从一开始就走错了路。

生命的完美，始于人类的自我珍惜

站在佛教的角度，轮回中的生命充满了苦难，因此需要通过修行实现生命的解脱，以人生的觉悟实现生命的完美。然而，面对越来越完美的人工智能，我们应该重新理解生命的完美。我们为此必须思考当前人工智能在全球范围内的激烈竞争究竟意味着什么。分析人工智能的技术空间是一回事，分析人工智能所引发的社会问题与人文关怀则是另一回事。前者是硬道理，后者是软实力。

人工智能把人从危险、复杂的劳动中解放出来，这就是关于所谓对人有益的人工智能的最正面的解释。事实上，借用人工智能技术开发的无人机等，具有无可估价的军事价值；机器人的广泛使用，可能会导致大量人口失业，却让企业主获得空前的利润。因此，谁也无法阻挡人工智能新时代的到来，人工智能将会渗透到社会各个领域。即使在文化教育领域，人工智能的运用也已逐渐发挥作用，比如，并不太复杂的翻译工作已经可以由人工智能完成，在这种情况下，各国都会全力发展人工智能，谁不发展，谁就会失去未来的优势地位。但人工智能的发展引发的社会问题十分严峻，若不及时处置，人工智能的危险更甚于核武器。

失业问题严重，导致相当一批人成为领取社会低保的贫困阶层。当智能程度越来越高的机器行走于社会的时候，我们这些有缺陷的人类就有可能逐步被替换。有身体缺陷的人，将会被设计成愿意享受低保、自娱自乐、多少有些自闭、喜欢宅在家里的生命体。人工智能和基因修复一样，都是以否定人类的缺陷为使命的。从这种意义上来说，人工智能是对人类自身的否定。这需要哲学家、社会学家、伦理学家和法学家联合起来，共同考虑“人工智能伦理学”或“机器伦理学”，并不是所有的人工智能都可以被开发。就此需要制定开发底线的规定，建构人工智能国际法以保障人类的生命尊严。

佛教在这个层面能给我们提供的思想资源，就是一再提醒我们必须顾及生命的价值与尊严。现在，佛教经常被解释成自然科学的同路人，被说成是科学的科学，甚至有人说，“科学家千辛万苦爬到山顶时，佛学大师已经在此等候多时了”^[5]。还有好多人在做实验，要去验证佛教修行的实际功效，寻找佛教与前沿科技的结合点。但是，技术层面的人工智能一定是由科学家、工程师来完成的，佛教学者在这方面并不占优势。在智能机器人不断挤压人类生存空间、就业机会的时候，佛教应和其他宗教一起，共同引导全社会珍惜生命，引导人类首先应当去实现对自身缺陷的自我超越，而不是自我否定。我们这些凡夫俗子受制于有欲望的肉身，正因为这个充满了缺陷的肉身，我们有别于任何人造物，包括正在日新月异的人工智能。因为肉身的缺陷，人类创造了文明，赋予生命某种尊严和价值。佛教让人类趋于完善的努力，是在精神层面立足于生命的圆满，着眼于生命圈的和谐，而不是强者对弱者的更替。这是一种真正的人文精神。

因此，当我们还拘泥于东西方文明冲突与融合的时候，人机共存问题出现了。这并不是人与自然、社会的关系问题，而是人与自身创造物之间的关系。人自身的创造物有很多对象，既包括我们生产的各种产品，也包括我们头脑中不断掠过的各种想法。但智能机器人这种人的创造物，与此前的各种创造物都不一样：既是一种客观的存在物，更是一种能力卓尔不群的存在物。譬如，人工智能与基因工程能延长病人的寿命，智能机器人的寿命在理论上可以无限，但这会产生更多的社会问题，例如，这个地球如何维持日益膨胀的人口？人类与机器的生命界限被模糊了，尽管人类暂时还不用考虑人被机器控制。

佛教让人类趋于完善的努力，是在精神层面立足于生命的圆满，着眼于生命圈的和谐，而不是强者对弱者的更替。这是一种真正的人文精神。

在人工智能不断发达的今天，要想完善人类的生命，我们首先要倍加珍惜自己的生命形态。生命之尊严，生命之完美，恰好在于人类的缺陷及其在精神层面的自我超越。一步到位的完美，很可能是我们人类悲剧的开始。脱离缺陷并不能直接带来完美，而很可能只能带来罪恶。事实上，全球范围内的人工智能竞争，主要是追求军事上的优势和商业上的利润，这是一条国与国、公司与公司之间的对抗之路。我们有可能享受人工智能给生活带来的便利，有的时候甚至能利用这一技术挽救我们的生命，但从根本上来说，这些便利只是全球对抗的副产品。今后的世界格局，很可能是按人工智能的发达水准区分。所有的国家都已被绑到了人工智能竞争这架战车上，不搞人工智能就是愚蠢，但搞了也未必聪明。

如果说跨国公司让这个世界变得相对和谐，以全球合作推进市场融合、社会进步，但到了人工智能时代，全球合作的必要性正在减弱，对抗的色彩越来越浓。这并不是人类的福音。

我们这个时代比以往任何时代都更需要关注生命价值，生命的完美始于人类的自我珍惜。重申以下道理，在这个时代变得极有必要：我们之所以需要完美，是因为我们有缺陷；我们并不愿意放弃生命的本质和尊严。

结语 “新人文”的可能内涵

从人类自身的角度来说，我们真的不欢迎有情感生活的智能机器人。但是，缘于人类对权力和利益的贪欲，人工智能的开发速度将会不断加快。技术的巨大发展将会改变人类未来的处境，整个人文学科的基本形态也会发生变化。

未来社会的人文学科布局，姑且称之为“新人文”，必须顾及人机共存的生存处境。人机共存的时代正在到来，我们的大学教育必须做好准备。对此，笔者有以下四点拟作本文的小结。

第一，新人文教育必须考虑基于大数据的智能阅读、写作和学习。图书的储存形式、知识的传播方式正在发生根本性的变化，“数字人文”将是未来大学教育必不可少的基本学术训练。

第二，科学、技术和工程学将是人文学科重要的知识基础。没有科技常识的人文学者将会失去立足之地，传统的人文学科将会不断被边缘化，甚至难以为继，科技将是未来哲学思想乃至所有人文学科无法回避的重大议题。

第三，得益于人工智能的大数据处理能力，个性化的生活方式将会得到充分的尊重，而且这种个性化的生活方式最能带动经济的发展。但与此同时，大数据的生活环境很可能让我们丧失个人隐私。在人工智能时代，个人的兴趣将会成为最大的社会资本，越有个性的生活方式越能引起大家的关注，越能引爆新媒体的流量。与此同时，社会的共识将会很难达成。所有新媒体的热点，通常不会持续太长时间。为了达成社会共识，侵犯个人隐私将是伦理学的难题。

第四，得益于惊人的计算速度，知识的传承变得不太重要；知识的创新，尤其是面向个人兴趣的新知识，将会是未来社会相互竞争的主体部分。这将会改变未来的大学布局。凡能引领知识创新、引领社会风气的大学，将会处在世界大学金字塔的顶端。

文学、艺术、历史、哲学等传统的人文学科，在未来的几十年里依旧存在，但对它们感兴趣的群体在将来大多不再从事学术生产，新生代将会依据自己的兴趣不断拼接、组合自己的知识结构，甚至他们的思考与写作将会依赖跨学科的“数字人文”，学科边际将会变得越来越模糊。

当然，不管怎么变化，我们心目中的“新人文”必须服务于提升人机共存环境里的生命价值。

李四龙，北京大学哲学系（宗教学系）教授、人文学部副主任、教学指导委员会副主任、佛学教育研究中心主任。迄今出版《天台智者研究》《欧美佛教学术史》《美国佛教》《中国佛教与民间社会》等5部专著，主编《宗教与人文价值》等12部论著，主编《人文宗教研究》，发表百余篇学术论文。

[1] 本文首次发表于2019年3月22日博古睿研究院中国中心举办的研讨会“人工智能遇见中国哲学家”，英文版发表于2019年4月4—5日在美国旧金山圣塔克拉拉大学举办的“人工智能与人格：中国与西方的视角”会议。本文在这两次发表的基础上修改而定，借此机会感谢其他与会代表提供的观点和他们的评论。

[2] 2018年9月8日，知识实验室在北京大学百周年纪念讲堂举办首期“共生课堂”，笔者在其中主讲“科技与佛法”。

[3] 摘自《成唯识论述记》第一卷。

[4] 奇点，并不是人工智能独有的概念。在数学领域，奇点是指一个未定义的点；在物理学领域，奇点往往被说成是宇宙大爆炸之后时间和空间开始的原点。1983年，弗诺·文奇提出“技术奇点”的概念，把“奇点”定义为人工智能超过人类智力极限的时间点。到21世纪，雷·库兹韦尔对此做了进一步的阐述，发表了两部备受关注的专著《奇点临近》（2005）、《人工智能的未来》（2016）。到了“奇点”以后，人类社会现有的交往原则可能都会失效，未来世界的发展将会超出人类的理解。

[5] 南方科技大学前校长朱清时先生在2009年发表讲演——“物理学步入禅境：缘起性空”，并以这句话结尾。这句话现已成了中国佛教界广泛引用的名言。

科技哲思

人工智能中的不确定性问题与哲学研究

陈小平

人工智能的两种经典思维及其融合

人工智能研究已经形成了至少几千种不同的技术路线，其中最成功、影响最大的有两种研究范式——暴力法和训练法，不过我更倾向于称之为人工智能的两种“经典思维”^[1]，因为它们已经上升到机器“思维”的高度，而不仅仅停留在技术层面。这两种经典思维可以在很大程度上代表目前人工智能的发展水平。

第一种人工智能经典思维是“基于模型的暴力法”。暴力法的基本设计原理是：第一，根据问题的精确模型，建立搜索空间；第二，压缩搜索空间，使推理或搜索在计算上是可行的；第三，在压缩空间中枚举所有选项，找出问题的一个解。暴力法的基本前提是：待解问题存在一个良定义的、精确的符号模型，这种模型的建立通常采用逻辑形式化、概率形式化或决策论形式化的手段。

以逻辑形式化为例，一个人工智能推理系统由一个知识库和一个推理机组成。推理机是一个执行推理的计算机程序，往往由专门的团队长期研发而成，有免费版和商业版供用户选用。而知识库则需要不同应用的研发者自行开发。推理机的作用是根据知识库里的知识回答任何问题。

下面给出一个高度简化的知识库的例子。假设我们想回答有关“就餐”的问题，于是用一阶逻辑表达了一些知识，如表1所示，并存放到知识库中。再假设我们有一个可以使用这个知识库的推理机。于是，可以对推理机提问：“碗能盛米饭吗？”［hold(bowl,rice)？］，推理机经过自动推理会答复“可以”（yes）。也可以对推理机提问：“碗能盛什么？”［hold (bowl, x)？］，推理机会答复“米饭、汤、……”推理机还可以答复更复杂的问题。

理论上，推理机具有“可证正确性”，也就是说，理论上可以证明一个推理机的正确性。“可证正确性”比“可解释性”强得多，可证正确的一定是可解释的，但可解释的未必是可证正确的。所以，在理论基础方面，“暴力法”比“训练法”强得多，训练法目前连可解释性都没有。