人工智能时代：破解人机共存密码（套装共10册）

如果采用融差性思维，情况就会完全不同。首先，融差模型是一种宏观模型，不需要精确刻画每一粒米的位姿，只需要描述有关宏观特征的近似值，比如，米缸里有多少米（用米的重量计量）、米缸装满程度（通过观察缸中米堆的上表面与缸口表面之间的距离近似确定）、米缸里能不能容纳更多米（通过相继两次实验结果的对比，如果经过一轮摇晃没有减小米粒占用的总空间，说明缸中无法再容纳更多米）。这种宏观性的模型和观察体现了融差性的第一种内涵——容忍偏差，比如不需要精确到多少粒米，而是用多少重量（如以克为单位）来计量，可容忍的误差粒度（融差度）比精确性思维所能容忍的大得多。原理上，融差性思维要求把模型精确性控制在适当范围内，避免精确性过高或过低，更不认为精度越高越好，所以对模型和观察精确性的要求大大降低。同时，融差模型可以不借助不确定性假设，比如在米缸问题中不需要假设概率分布函数。上述特点概括为下列“融差模型原理”：融差模型通常使用近似宏观特征，避免使用概率分布型不确定性假设，从而将模型精度和观察精度控制在适中范围内。

在精确性模型的基础上，精确性思维下的问题求解过程的第一步，是对米缸中的所有米粒进行精确观察，测量每一粒米的精确位姿。事实上，任何测量都是有误差的，完全没有误差、绝对精确的测量只是一种理想化想象，精确感知在现实中基本上是不可能的。即使一个问题有精度足够高的感知手段，由于测量的代价太大，实际上也是得不偿失的。作为对照，融差模型由于控制了精度的适中性，不需要精确测量，所以不存在精确测量的困难。

第二步，人工智能系统进行决策，以决定下一步执行什么精确动作。在米缸场景中，一个精确动作就是调整所有米粒的精确位姿，使调整后所有米粒占用的总空间更小。这就遇到了暴力法决策的三个困难：由于不确定性假设不符合实际，限制了决策效果；概率决策无保真性，因而无法避免出现错误决策；模型过于复杂，缺乏工程可行性。例如，理论上可以为每一粒米规划一种位姿，在这些位姿下，所有米粒占用的总空间最小。但是，这种规划的计算量极大，而且更严重的是，由于误差的存在，计算结果与实际情况之间往往存在巨大的差距，所以这种规划的可行性、实用性非常低。

在融差性思维中，这三个困难都可以较好地得到解决。第一，如上所述，融差模型一般不用不确定性假设，这就避开了第一个困难。这里需要进一步分析阐明的是：为什么不用精确模型，反而能够得到更好的决策？事实上，融差模型上的决策与精确模型上的决策不同，主要不是通过模型上的计算，而是通过人工智能系统的行动实现的。在米缸问题中，融差模型上的“决策”主要是借助“融差行动”（摇晃米缸）实现的，也就是通过“摇晃”动作缩小米粒之间的空隙，从而减小它们占用的总体空间，所以不需要根据所有米粒位姿的精确信息严格计算出如何调整米粒位姿，而是利用了大量米粒位姿之间的大量偏差。这体现了融差性的第二种内涵：人工智能系统主动融会偏差，借助融差行动完成决策（包括预测、规划）任务，从根本上避开了精确性思维遇到的难题。第二，融差性思维放弃保真性准则，代之以“融差度”准则：每个问题都有其特定的融差度，满足该融差度的任何解都被认为是可接受的，融差性人工智能系统追求的是满足容差度的解，不是精确解或最优解。在米缸例子中，在某次摇晃之后，发现米粒总体积没有变小，问题求解过程就结束了。而依精确性思维，即使观察存在很大误差，模型存在严重偏差，仍然只能进行精确的计算或推理，其结果往往是放大误差和偏差，甚至出现“南辕北辙”“差之毫厘，谬以千里”的后果。第三，融差性思维的工程可行性显然远远高于精确性思维，无须赘述。根据以上分析，“融差行动原理”概括如下：利用状态内部存在的各种偏差，通过执行合适的动作，引导当前状态向目标状态迁移，直到当前状态与目标状态之间的整体差距缩小到融差度以内。

第三步，基于精确性思维的人工智能系统将执行决策规定的动作。在米缸场景中，决策规定的动作是：分别调整缸中每一粒米的精确三维位姿，以使所有米粒占用的总空间变小。显然，每一粒米的位姿都会影响周围其他米粒的位姿，“牵一发而动全身”。那么，一个人工智能系统如何调整每一粒米的位姿，确保调整后的位姿都符合决策的精确要求，而不会出现偏差？这几乎是不可能的。相反，采用融差性思维，用融差行动可以轻而易举地完成缸中所有米粒的同时调整，并在可能情况下减小所有米粒占用的总空间。这就将一个精确性思维几乎无解的问题化归为一个高效、低代价、低难度的问题。因此，融差行动的可行性和实用性比精确行动高得多。这进一步反映了融差性思维的第二种内涵：主动融会贯通界限差别。在精确性思维中，行动和决策属于完全不同的范畴，它们之间的界限是绝对的、不可消除的；而在融差性思维中，这种界限被打破了——决策可以通过行动实现，从而为人工智能开辟了全新的可能性。这体现了融差性的第三条原理——“界限融差原理”：一定条件下，不同范畴的机制（如观察、决策、行动）可以相互替代。

基于融差性三原理，应用融差法求解米缸问题的全过程总结如下。首先，构建米缸问题的融差模型，在此模型上进行问题求解的如下步骤：（1）观察，感知米缸装满程度；（2）决策，根据感知信息和历史信息，判断是否可能让米缸容纳更多米；（3）行动，如果可能容纳更多米，则执行一次融差行动（摇晃米缸），然后返回步骤（1），否则终止求解过程。对比可知，融差法和暴力法的问题求解过程具有相同的架构，但其中具体内容存在根本性的不同。暴力法基于精确观察、精确决策和精确行动。精确行动的典型例子是工业机械臂，重复精度一般达到亚毫米级或更高。可是工业机械臂在确定性场景中运行，为了在不确定性场景中达到类似的动作精度，感知精度和决策/规划精度也必须达到相应的水准，这在不确定性场景中是非常困难的，成为迄今无法突破的障碍。融差法基于融差性三原理，对感知、决策/规划和行动的精度要求大大降低了，从而提供了一条有效应对不确定性挑战的新思路。

下面进一步分析用训练法应对米缸问题的情况。用训练法应对这类问题时，采用的体系架构和暴力法类似，也是先建立问题的某种模型，然后在模型的基础上进行感知–决策–行动循环，直到问题得到解决。不同的是，训练法的模型不是人工编程构建的，而是利用标注数据训练出来的，相对而言，对“数值精确性”和“精确决策知识”的要求大大降低，观察精度可能也会明显降低，所以灵活性大大提高。可是，训练法本身并不包含解决米缸问题核心挑战所需的观点、原理和机制，其中最重要的障碍是决策与行动之间的界限限制。训练法基于人工神经元网络，这种网络在标准的训练法中被用作分类、预测和决策的计算机制，所以在训练法中，决策与行动仍然是严格区分的。解决米缸问题的最大机遇在于用融差性物理动作替代决策计算，但物理动作无法直接嵌入现有人工神经元网络架构中，所以界限融差原理对训练法不成立。当然，人工神经元网络可以用来“学习”动作策略，但动作策略与物理动作本身是完全不同的，而且通过人工神经元网络“学习”融差行动（比如“摇晃”动作），就要涉及与融差行动原理相关的元模型构建和训练数据采集，这些都是包含巨大挑战的全新课题。

融差性思维在现实生活中早已存在，我们在人工智能研究中要做的，是将其科学化（广义形式化）、系统化、工程化，这样才能为人工智能所用。中国科学技术大学机器人实验室已经完成了一部分基于融差性思维的研究工作，比如实现了一系列基于融差原理的柔性手爪，可以抓握不同形状、不同刚度的不规则物体，从刚性的木块到柔软的豆腐，而且控制简便，对观察精度的要求也大大降低了。实验证实，在解决一些挑战性很大的不确定性问题时，融差法可以取得非常好的效果，值得进一步研究。我们也希望在进行相关人工智能研究的同时能够就不确定性等核心问题和哲学等学科展开跨学科的合作研究。

陈小平，中国科学技术大学机器人实验室主任、教授，中国人工智能学会AI伦理专业委员会主任，中国机器人世界杯委员会主席，中国科学技术大学杰出研究校长奖、2016年机器人与仿生技术国际学会最佳大会论文奖、世界人工智能联合大会最佳自主机器人奖、12项机器人世界杯冠军团体奖获得者。

[1] 陈小平：《人工智能的历史进步、目标定位和思维演化》，《开放时代》2018年第6期。

[2] ImageNet是一个用于视觉对象识别软件研究的大型可视化数据库。——编者注

[3] Andrew Ilyas, Logan Engstrom, Anish Athalye, Jessy Lin, Queryefficient Blackbox Adversarial Examples, arXiv 1712.07113.

[4] David Silver, Julian Schrittwieser, et al., Mastering the Game of Go without Human Knowledge, Nature, Oct. 18, 2017.

成己而圣_：在此岸建构理念世界

蔡恒进

2018年度图灵奖得主之一杰弗里·欣顿曾经直言人就是机器：“我们是机器，我们只是通过生物方式制造的。大多数做人工智能的人对这一点毫不怀疑。我们只是特别精密的机器。我刚才不该说‘只是’。我们是特别的、绝妙的机器。”^[1]欣顿认为的特别与绝妙之处在哪里？他所指的是否就是意识或自我意识呢？

机器是否拥有或者能否获得意识或自我意识？要回答这个问题，必须首先回答意识与物理世界的关系问题，也就是意识是如何从物理世界中产生的，意识又是如何反作用于物理世界的。历史上的哲学、宗教流派都曾围绕这一问题展开讨论，却都没有给出明晰的答案。例如，康德用“先验直观”连接物理世界与意识，胡塞尔却将此问题悬搁起来。^[2]我们在最近的研究中提出了触觉大脑假说^[3]，试图为上述问题提供一个答案。

意识与智能的进化

我们在命名触觉大脑假说之前，称其为元直观假说。感觉（特别是触觉和味觉）器官（如皮肤和舌头）的存在，为生命个体提供了可感知的物理边界，也为生命个体区分“自我”和“外界”提供了物理基础。随着感知经验的增多，这种关于“自我”和“外界”的区分沉淀为关于自我和世界的观念（即元直观）。元直观可以被称为元模型，其他任何概念/直观的真实性最终都锚定在“自我”与“外界”能够区分这一简单模型的真实性之上。在文献中，我们将元直观定义为“原意识”。^[4]

生命的最初状态应该是从单细胞开始的，大多数人都倾向于先考查细胞的构造，认为先有细胞核，而后才有细胞的整体。但也有一种可能，即先产生了细胞膜，细胞膜不仅保护了细胞内部物质，而且使细胞具备了能与外界区分开来的独立性，在此之后细胞内部才逐渐确定出细胞核和细胞质等。随着时间的推移，细胞不断进化。一方面，功能为结构的发展提供了指引和方向；另一方面，结构的发展又进一步强化了功能本身，最终才形成完整且明晰的构造。这个过程的要义是，功能与结构纠缠在一起共同进化，而非先有明确的结构才产生了相应的功能。^[5]

元直观可以被称为元模型，其他任何概念/直观的真实性最终都锚定在“自我”与“外界”能够区分这一简单模型的真实性之上。

高级智能的产生并不取决于脑重量。在脑细胞之间快速建立连接，脑重量快速增长的阶段，是否有清晰的“自我”与“外界”的边界，能否产生较强的自我意识，这才是高级智能产生的关键。对哺乳动物而言，触觉与其内分泌系统直接相关，而毛发减少、皮肤变敏感则为“自我”与“外界”的区分提供了物理基础。很多视觉灵敏的动物并不具备高级智能，可能就是因为其视觉系统并不与内分泌系统直接相关，所以对自我意识的形成显得就没有那么重要。

人类大脑约有1 000亿个神经元，但婴儿在母体内时，神经元之间的连接比较弱。人在刚出生时脑重量约为370克，两岁时的脑重量约为出生时的3倍，5岁时的脑重量已经接近成人。^[6]脑重量的增加就是因为神经元间的连接大量增加或增强，因此我们可以认为，0\~5岁这一人类大脑快速发育的时期就是产生较强的自我意识的关键时期。

阿道夫·波特曼^[7]提出的“分娩困境”暗示，在母体内就发育到较成熟的婴儿大脑才更好（这意味着孕期要长达18\~20个月）。但笔者认为，人在出生后大脑内神经元的大规模连接才是产生比较强的自我意识的关键，因而出生后再发育成熟会更有利于婴儿的未来发展。例如，鸡和乌鸦都是卵生动物，小鸡刚出壳不久就能走路与进食，而乌鸦刚出生时没有绒毛，也没有视力，无法离开鸟巢，需要亲鸟饲喂1个月左右才能独立活动。^[8]但许多实验数据证明，乌鸦才是最聪明的鸟类之一，鸡的智能则远不及乌鸦。

恐龙统治地球那么长时间，却没有证据表明它们曾经具有高级智能。恐龙最早出现在2.3亿年前的三叠纪，灭亡于6 500万年前的白垩纪晚期，共存在了1.7亿年。相比之下，最早的人类化石距今约700万年，智能的高速进化大约是在过去的几百万年内完成的。高级智能似乎不是在足够长的时间内单纯依靠“物竞天择、适者生存”进化达到的，只有在特殊条件下产生的基因突变，才能促使高级智能的诞生。因此，在宇宙中，有高级智能生物的星球可能非常稀少。

自我意识是智能的内核，是大自然的巅峰之作，是真正的混沌初开，是比宇宙大爆炸和地球形成更为精彩的产生。由触觉产生自我意识，而后在自我肯定需求的引领下不断地去认识世界，开显出精彩的认知坎陷^[9]（意识片段），丰富自我的内涵，发展成具有全局统摄性的高级智能。

由触觉产生自我意识，而后在自我肯定需求的引领下不断地去认识世界，开显出精彩的认知坎陷（意识片段），丰富自我的内涵，发展成具有全局统摄性的高级智能。

一般认为，先验直观可以通过顿悟开显，但顿悟并不神秘。假设有一群母鸡，一直生活在安逸、稳定的环境之中，它们有翅膀，但从没有飞过，也没有见过其他的鸡飞，这群母鸡完全不知道自己会飞。有一天，它们原本平静的生活中突然闯进一只疯狗，撵得鸡群四处乱窜，有一只母鸡在慌乱之中张开了翅膀，结果它顺势一扑腾，竟然飞了起来……这就是母鸡的顿悟。这种在特殊场景下被激发出来的功能（顿悟）与物理结构有关系，母鸡拥有翅膀，但之前其飞的功能被

“遮蔽”了。顿悟受到身体构造的一定限制，相比之下，大脑的改变比身体结构的改变容易得多，因而大脑产生顿悟的可能性会大得多。智能的进化过程中很多是从外界、从他人习得而来，人可以从自然景观、植物、动物或他人处得到启发，从而产生顿悟。

由认知坎陷炼化出的理念世界

柏拉图认为，理念世界是完美的，我们看到的现实世界是一个不完美的投影，而理念世界又不可抵达。从进化论的角度来看，既然不可抵达，又如何证明理念世界的存在？有一种解释是，人是从理念世界而来，因此还带有一部分关于理念世界的记忆，至于人为什么会记得，就无法解释清楚了。过去我们尚可以认为是“上帝”或“上天”创造了人类，赋予人类以灵魂，这种说辞或许可以将这些问题暂时搁置起来。但现在，面对人工智能技术的发展，这些问题不可以被继续搁置，人们应该且必须回答理念世界从何而来。

理念世界的内容并不是因为我们“记得”，而是因为人类经过漫长的进化，将认知坎陷（意识片段）逐渐炼化，不仅在同一主体内持续炼化，而且能够传递给后代，代际传承并炼化，直至形成纯粹的、极致的范畴或观念。

我们认为，理念世界的内容并不是因为我们“记得”，而是因为人类经过漫长的进化，将认知坎陷（意识片段）逐渐炼化，不仅在同一主体内持续炼化，而且能够传递给后代，代际传承并炼化，直至形成纯粹的、极致的范畴或观念。

最常见的有语言的炼化。“我在船上”实际上包含了很多种可能，比如我站在船上、坐在船上、躺在船上，以及我在船头、船尾、船舱等情况，最后省略或炼化为“我在船上”这一精简表达，这个炼

化过程就是根据需求（如回答我在哪里）而将不需要的细节信息炼化_掉。[10]

“无穷大”（或无限）也是人类对物理世界炼化的产物，它描述的是一种认知主体与未知外部世界的关系。原始部落中人们的数数能力非常有限，他们可能只能很好地分辨出1、2、3，然后就是很大或无穷大。虽然现在人类的数数能力有了很大的提高，可以数到上千万、上亿甚至更多，但是在这些范围之外的数字我们依然无法很好地分辨，于是将这些更大的数字划归为无穷大。无穷大既看不见也摸不着，但是只要我们稍做思考，就都会相信无穷大是可以存在的，比如“一尺之棰，日取其半，万世不竭”所描述的就是这个无限的过程。

“自我”也是主体炼化而来且持续炼化的内容。“自我”边界始于皮肤，但一旦形成就不会只停留在皮肤这一层。在成长的过程中，“自我”向外或向内炼化，将物理边界（皮肤、身体）逐渐弱化，而经过炼化之后产生的心灵和灵魂是在时间维度上具有持续性的“自我”。在“自我”炼化的过程中，炼化的内容可以非常丰富，炼化的产物也构成了理念世界的成分或内容。

此外，认知主体还有一种形象思维的炼化。比如，诗人就是通过炼化不同的非常具体的场景表达一种境界，诗词歌赋就是这种形象化炼化的结晶，不仅是组成诗词歌赋的字，还有这些字背后蕴含的意境，都构成了理念世界的内容之一。炼化与认知主体有紧密的关系，面对同样的具体场景，不同主体炼化出的结果可能完全不一样，就像李白与杜甫面对同样的风景，炼化产生的诗词就会很不一样。

数字并不作为物理世界中的实体而存在，是由人类在认识这个世界的过程中炼化而来的。例如，一开始人类需要依托具体的物体来进行资源的聚集与分配，如拥有1个苹果、2个苹果、3个苹果或者1只羊、2只羊、3只羊，然后学着借助更轻便的工具（如一粒粒的豆子或在绳子上打一个个的结）帮助计数，再后来这些工具也不需要了，逐渐炼化掉实物而抽象出1、2、3等自然数的概念，这是一切数学的基础。当涉及分配问题时，并不是所有情况下资源都能被恰好完整地切分开来，比如2个人分3个苹果，因此产生了有理数的概念（即数字能够通过自然数的比例表示）。为了解决土地丈量等问题，几何学炼化而生，人们发现了勾股定理，这时就需要有二次方程 $( \mathrm { \# H x ^ { 2 } } { = } 2 )$ ，无理数（无法由两个整数相比来表示的数字）因此被发现和定义。二次方程不仅有无理数还有虚数的问题（如 $\boldsymbol { { j } } ^ { 2 } = - \mathrm { ~ 1 ~ } )$ ），进而人们有了复数的概念，这些与三角函数有紧密的联系。另一条路线中，二次方程、三次方程和四次方程都可以找到通解的形式，而到了五次方程时就没有通解了，于是有了群论。