人工智能时代：破解人机共存密码（套装共10册）

1950年，图灵预言了具有智能的机器会被创造出来的可能性，为了鉴别这种智能，他提出了图灵测试：如果一台机器能够与人类展开对话而人不能辨别出机器的身份，这台机器就具有智能。时隔多年，纽约大学的内德·布洛克（Ned Block）对图灵测试能否作为智能标准的适当性提出一些新的论证。布洛克认为，假定我们写出一个树状结构，能够对每个持续一小时的可能对话做出明确描述。显然，这将是一个庞大的树状结构，其容量远远大于现在任何计算机的容量。依这个询问的树结构，计算机将与它的询问者以一种与智能人处事方式难以区别的方式互相作用。如果计算机仅仅按照这个简单的树状结构执行，这就明显说明了这台计算机没有任何智能，而且这个结论对于任何有穷长时间的对话都成立。这也是自然语言处理的困难所在，机器无法在连续的对话中了解人类对话的常识，每一次对话中都会导向很多不同的选择。逻辑系统无法建立对语言的基本直觉，它只不过是抽象对象与实在对象之间的一一配对。语言对抓住我们的思想是有用的、必要的，但那纯粹是在实践中形成的，是过程化的。我们的思维更倾向感官的、概念上的对象，而语言帮助我们将注意力集中在抽象的对象上。

汉堡王曾经有一则电视广告，广告结尾的一句台词说：“OK，Google，what’s the whoppers？”但“Ok，Google”是安卓手机的Google Home唤醒词，这句话前半部分可以启动安卓设备，后半部分提出一个搜索的问题。观看广告的人会发现自己虽然啥都没干，自己的手机或者智能音箱神经病一样地启动了，机器自动搜索汉堡王关于whoppers汉堡的广告并语音播报搜索结果，简直像手机被黑客入侵了一样。这则广告的创意在于视频广告本身结束了，但智能手机还继续帮着播广告。对智能手机或者智能音箱而言，它无法区分来自不同层次语义的内容。虽然通过适当的声纹识别可以避免这样的问题出现，但新加入的策略一样会带来其他新的问题。

美国哲学家约翰·瑟尔（John Searle）在图灵测试的基础上构想了“中文屋”的思想实验。将一个不懂中文，只会说英语的人关在一个封闭房间中，房间里有一本英文的小册子告知他如何处理相应的中文信息。中文问题从窗户被递进房间里，房间里的人需要对照手册进行查找，将中文字符拼到一起，写在纸上并递出去。房间外的人看到纸条，可能会觉得房间里的人懂中文，实际上他对中文一窍不通。

从这个实验看，这本小册子就是计算机程序，房间就是计算机。计算机给出的回答是按照程序的指示进行的，但它不能也不需要理解中文。现在很多机器语义理解是固定模式识别，它们可以理解最简单的小册子，再根据用户对话中特定的词做出特定的反应。训练机器来理解语义就类似于这个过程。通过训练我们让机器的反应接近于能够理解，但如何期待机器能理解？来说说具体的问题。语义理解的问题至少有切割词、歧义和语境处理等诸多问题。

瑟尔通过“中文屋”概念质疑了强人工智能所持的观点：计算机可以精确地具有人类理解故事和解答相关问题的能力。在瑟尔看来，计算机的理解力与汽车的理解力没有什么不同。计算机与人类的心智相比，其理解力不仅是不完全的，可以说完全是一个空白。当然，重要的不是要论证“计算机能不能具备思维能力”，而是回答“正确的输入输出加上正确的计算本身是否足以保证思维的存在这一问题”。他认为，如果我们所说的机器是指一个具有某种功能的物理系统，或者它只讲数字或逻辑运算的话，那么大脑确实就是一台计算机，然而在他看来，智能的本质并非如此。计算机程序纯粹是按照语法规则来定义的，而语法本身不足以担保心的意向性和语义的呈现，程序的运行只具有在机器运行时产生下一步形式化的能力，只有那些使用计算机并给计算机一定输入，同时还能解释输出的人才具有意义性。意义性是人类智能的功能，智能的本质绝不能被程序化，也就是说，智能的本质不是算法的。

这一轮人工智能浪潮以深度学习为主要驱动力。在深度学习成为计算机算法主流以来的几年里，它已经成为帮助机器感知和识别周围世界的主要方式。它为语音识别、自动驾驶汽车和图像认知等方面提供了动力。深度学习系统是像素级模式识别的高手，但它们无法理解“模式”的含义，更不用说对它们进行推理了。比如基于深度学习的视觉识别系统，只要改变一些输入，系统就会很容易被愚弄。我们尚未清楚目前的人工智能系统是否能够理解沙发和椅子是用来坐的，当然，这也需要足够的工作来定义“理解”。我们需要开始弄清楚如何让人工智能具备常识，我们这样做的同时，将不断触及深度学习的极限。

人类天生就有学习的天赋，能够掌握语言和解释物质世界，而不是一张待读写的硬盘。尽管有很多人认为神经网络是智能的，但它的工作机制与人类大脑有诸多的差别。我们罗列一些来看看。

首先，深度学习工具太需要数据了。在大多数情况下，每个神经网络都需要数千或数百万个样本来学习，从数据训练的角度看，深度学习存在严重的低效率问题。一个孩子学习认识大象，并不需要他的母亲给他看一万张大象的照片，人类通常只需要几个例子就能学习新概念。但是几万遍是深度学习系统通常需要的训练数据量。如果你思考一下动物和婴儿是如何学习的，在生命的最初几分钟、几小时、几天里，动物和婴儿学很多东西都学得很快，这种学习能力看起来似乎是天生的。为了了解世界的物理规律，一个婴儿只需要四处移动他的头，对传入的图像进行数据处理，就能得出结论。

其次，深度学习的算法逻辑不透明，至今为止它都更像一个黑盒子。人们不能观察它整个学习过程，输出的结果难以解释，这直接影响了预测结果的可信度和可接受程度。深度学习算法在实际使用的过程中，往往是通过程序员大量的调试来找到的最好的网络结构，但我们很难有道理说明为什么最好的神经网络层数是，比如说133层，不是132层也不是134层。

一旦深度学习的网络结构被训练完，它是如何做出决定的就不总是那么清楚了。在很多情况下，即使我们通过算法能够得到正确的答案，不透明也是不被接受的。科学家不喜欢不确定性，尤其是因为无知而导致的不确定性。深度学习在一定意义上是通过反复的实用主义般的参数调整来达到准确的目的，而不是仔细地了解每一个参数所代表的意义。确定性对模型的一般要求是，了解程序中每一个参数的意义和它们的变化规律，而且通过这些变化规律知道变化对最后结果的影响。不透明的参数空间，让人觉得这个工作并没有做完，因为你不知道哪里的一点些许变化会导致结果的完全不同。比如我们前面提到的混沌现象就是典型的例子。即便是经过成千上万次训练，这个先进的系统也很容易被搞糊涂——只需要将一张小小的贴纸放到图像的某个角落，识别结果就会被改变。

深度学习是在一个非常巨大的希尔伯特空间中人为地尝试参数，这个希尔伯特空间可能有上千万个自由变量。一个深度学习的网络，训练的时间往往很长，有可能陷入局部最优化但整体上来说并不是最优的境地，甚至有些训练完全达不到预想的目标。19世纪的法国数学家柯西（Augustin Cauchy）对通过调参数来获得自己想要的结果嗤之以鼻：“给我五个系数，我将画出一头大象；给我六个系数，大象将会摇动尾巴。”当我们有几千万个参数的时候，我们简直可以随心所欲地得到任何我们想知道的结果。用大量权值、阈值来一点点碰，并且需要大量的训练数据以及大量的计算，这些特点使得深度学习的很多性质很模糊。它更像是一个务实主义的工具，只见到它这里那里起了作用，而为什么起作用，没人知道，试出来的不起作用怎么办？换个参数试试。在实际的处理中，参数调整变成一个经常性的工作，因此基于深度学习的人工智能也融入了大量的人力，由人来尝试和决定网络的架构、参数的大小，而这些工作往往是冗长而枯燥的。

再次，目前从算法角度看不出特别好的适应能力，或者说网络的迁移性并不理想。深度神经网络的特性决定了深度学习的能力，在神经网络学习模型建立的时候，就已经确定了所有可能形式。模型一旦确定，它能够学习什么，不能学习什么，再不能超越。这个特性使很多事情成为不可能，每次想让一个神经网络识别一种新项目，你都必须从头开始训练它。一个识别狗的神经网络在识别猫或人类语言方面没有任丝毫用处。这事实上构成了深度学习的实际困难，网络设计得越复杂，准确度越高，它适应新数据库的能力就越差，因此，深度神经网络训练结果的迁移性构成深度学习的核心困难。

目前我们还不清楚哪些途径可以帮助深度学习解决这些问题。人工智能翻译可以将法语翻译成英语，但是它不知道这些话是什么意思。人类不仅掌握语法模式，还掌握语法背后的逻辑。为了能够由此及彼，构建推理能力，人们正在以不同的方式将常识般的结构构建到神经网络中。例如，人们创建了模式识别和深度学习的混合系统——部分是深度学习，部分是更传统的技术，所谓归纳逻辑编程。也有可能是对抗性神经网络，一种相对新的技术，其中一个神经网络试图用虚假数据欺骗另一个神经网络，迫使第二个神经网络发展出极其微妙的图像、声音和其他输入的内部表征。它的优势是没有数据缺乏的问题。你不需要收集数百万个数据来训练神经网络，因为它们是通过相互学习来学习的。类似的方法正在被用来制作那些让人深感不安的伪造视频，在这些视频中，主人公在说或做一些他们没有说过或没有做过的事情，机器可以生成观众无法分辨真假的视频内容。人工智能的弱点越来越多地引起人们的担忧，比如在自动驾驶方面，自动驾驶汽车使用类似的深度学习系统进行导航，已经出现了几起广为人知的死亡事故。

学习

经典认知论将学习理解为稳定的、完整的、实在的、确切表象的被动接受。然而，16世纪以来的经验却在不断地告诉我们，人类的认知已经发展到一种不断的替代性模式。根据这一模式，知识学习在本质上是“由假设所引导的实验”所构成的行动的、操作性的事件。科学认知并不是只有通过获得实在的准确图像才能获取世界表象的过程，应该说，科学将知识理解为语言和控制自然的变化进程中的实践性事件，从而认知过程也成为一种探究的过程。这一探究的过程构成了人类的学习行为，杜威把这种学习行为表述为五个步骤：

1.产生于事实的困惑、混乱与怀疑，人们处于对其全部特征尚未确定的不完整境遇中；

2.推测性的预期——对给定的现象做试探性地解释，以影响某些结果；

3.对手头的所有可定义与说明该问题的理由进行仔细的调查（检验、审查、探测与分析）；

4.对试验性的假说进行详细阐述，以使其更加精确、更加连贯，从而与更大范围内的事实相一致；

5.将所提出的假说视为一种可以应用于现存事态的行为方案，公开采取某种行动以实现预期的结果，并以此检测上面的假说。

杜威认为这样的过程并不一定按照这样的次序进行，也不一定要把所有的步骤都完成才能完成学习的过程。在处理实际问题时，人工智能最擅长的图像感知往往只占数据输入的5%，提供一些线索；而后面的95%，包括功能、因果、动机等是要靠人的想象和推理过程来完成的。我们用这些标准来衡量著名的乌鸦实验，就会看到乌鸦的学习过程是这一学习过程的具体体现。它以某种有待研究和了解的方式，存在于生物体中，这种方式显然不同于至今还依赖于大数据的人工智能方法。

在日本一所大学附近的十字路口，研究人员跟踪和研究了附近一些乌鸦的有趣的行为。

乌鸦想吃坚果，可是它没法砸开坚果的外壳。刚开始，它试着把坚果从天上往下抛（②），可是坚果壳还是不会碎。在某次下抛后，它发现如果抛下的坚果落在路上，正好被车轧过去，坚果就会碎了。乌鸦到路中间去吃坚果是一件很危险的事，因为随时有车子呼啸而过，在吃坚果和保命之间它需要做出选择。但是乌鸦很快发现行人过马路走斑马线时会先按交通灯，控制交通灯给出信号让车流停下来。这时，它必须进一步认识到人、斑马线、交通灯、车流、马路之间复杂的因果关系。甚至，什么颜色的灯在哪个方向管用、对什么对象管用等。搞清楚这些之后，乌鸦就选择蹲在一条斑马线附近的一根电线上等待机会（③）。它把坚果抛到斑马线上，等车子轧过去（④），然后等到行人按了交通灯，人行横道上的绿灯亮了（⑤），车子都停在斑马线外面，它终于可以从容不迫地飞下去吃地上的坚果肉（⑥）。

乌鸦在这个过程中表现出了相当高的智商，在很多地方远远超过今天我们所训练的任何一个深度神经网络算法。生命只有一次，乌鸦没法像深度学习那样有几乎无限次的训练样本进行尝试。它必须通过很少的次数就发现不能直接在公路上吃坚果。

如果从哥德尔不完备定理的角度看杜威关于学习的五个步骤，我们会看到一些有意思的关联：（1）涉及对环境因素的截断，如何在不完整的环境中选取足够的信息来实施推理，我们根据前面的讨论知道这一点人工智能是无法完成的。乌鸦所在的学习环境相当复杂，如果按照今天机器学习的思路，这是个不可能完成的任务，自然界进入乌鸦视野的事物和层次千差万别。对于要完成的任务——吃到坚果的果肉，哪些是需要掌握的信息，哪些不是，进而哪些是有用的训练，哪些不是，即使可以准确地规划一个行动路径——程序，其计算量都是巨大的。（2）当我们要给定推测性预期的时候，无意要涉及一定意义上的假设，唯有这样的假设先决的存在，才能期望改变这些假设条件下的参数，看到某些预期的结果。而给出假设这件事情对基于形式逻辑的机器而言，还无从谈起。（3）有可能是人工智能最能帮上忙的，即对可定义与说明的问题理由进行仔细的调查，检查、审查、探测与分析。（4）对试验性假说进行详细阐述，使其更精确、更加连贯，这一点似乎对人工智能来说并不算太难，但在更大范围内验证与事实一致，涉及从一个应用场景拓展到更大的应用场景，而我们知道算法的迁移对今天的人工智能来说是件困难的事情。一个数据库集中训练好的网络，并不能轻易准确地在新的、更大的环境中具有准确的普适性。而更大范围的适用，往往也牵动着很强的关联能力，哪些可以成为更大范围中的元素，这点联想的能力，人工智能也还没有。

关于学习过程的完成（5）是一整套工程的总结，以乌鸦的案例来讲，乌鸦完成吃坚果这一经验的学习，它具有感知、认知、推理、学习和执行的综合能力。它能够在复杂的世界中，认识和归纳出知识，并指导自己的行为。这个过程并不需要大量的数据，学习是一种交互体验的过程，当然这样的学习并不是指我们通常意义上的一类关于记忆力的训练。在记忆力的比较中，我不认为人类会在未来具有任何优势。但这些关于联想素材的收集，又让人类对记忆的需要必不可少，只不过，它不是用传统教育意义上机械式的重复来收集大数据，而是为了足够有效的联想来收集有新意义的素材。结合真实的实践来促成新思想、新的直觉的发现。

让人工智能更加人性化有助于人工智能给我们的世界提供帮助，但是直接复制人类的思维方式呢？没有人清楚这是否有用。我们已经有了像人类一样思考的人，也许智能机器的价值在于它们与我们完全不同。

我们不跟汽车去比谁跑得更快。如果它们有我们没有的能力，那么它们会更有用，将成为智力的放大器。所以在某种程度上，你希望它们拥有非人类形式的智力，希望它们比人类更理性。换句话说，也许让人工智能有足够的理性是值得的。

1994年DNA（脱氧核糖核酸）的发现人弗朗西斯·克里克（Francis Crick）写了一本书叫《惊人的假说：灵魂的科学探索》，谈到“现在是严肃地对待意识问题的时候了”，以往对意识问题、灵魂问题，人们一直讳莫如深，而且多半是“养狗的人就确信狗有灵魂，没养狗的人则否认狗有灵魂”。而在克里克看来，“人的精神活动完全由神经细胞、胶质细胞的行为构成，以及由影响它们的原子、离子和分子的性质所决定”，喜悦、悲伤、记忆、抱负、自我感觉和自由意志，实际上都只不过是一大群神经元而已。嗯，对，人的大脑不过是一大堆由分子组成的神经元而已。

大脑的许多行为是“突现”的，即这种行为并不存在于像一个个神经元那样的部分之中，大脑只有在很多神经元的复杂相互作用下才能完成如此神奇的工作。训练可以识别物体的神经网络需要大量有标记的示例，这导致人们认为动物必须依靠无监督学习。大多数动物的行为不是聪明的学习算法的结果，而是基于某种尚待研究的在基因组中的编码或是动物的大脑天生具有高度结构化的关联性，这使它们能够快速地学习，或者是一种我们今天还不了解的机制。因此，“从神经元的角度考虑问题，考察它们的内部成分以及它们之间复杂的、出人意料的相互作用的方式，这才是研究意识问题的本质。”许多哲学家和心理学家认为，目前从神经元水平考虑意识问题的时机尚不成熟，然而事实恰恰相反。仅仅用黑箱方法去描述大脑如何工作，特别是用日常语言或数字化编程计算机语言来表达，这种尝试为时尚早。脑的语言是基于神经元之上的。要了解脑，你必须了解神经元，特别是巨大数目的神经元是如何并行工作的。各国都有尝试开展“脑计划”，但2019年停止的欧洲脑计划至少说明了这一尝试目前还有很多未知的困难。

人脑是一个丰富的相互关联的信息的载体，它的许多内容是连续变化的，然而机器却不具有这个特性，它们只能依靠我们通过内省似的类比得到非常有限的体验。那么我们将来能否造出有意识的机器？如果不可能，它们能否至少看上去有意识？有人相信，这最终是可以实现的，但也有人相信其中可能存在我们几乎永远不能克服的技术障碍。短时期之内，我们所能构造的机器就其能力而言，与人脑相比很可能是很简单的。在理解了产生意识的机制以前，我们不大可能设计一个恰当形式的人造机器，也不能得出关于意识的正确结论。人类必将探索新的非图灵机概念来尝试解决当前这一代人工智能所面临的更深层的问题，从而摆脱人工智能在理论和实践上的困境。解决人类智能的极限和人工智能的极限问题，除了与哥德尔不完备定理有关外，还需要对大脑和计算机更精细的模型做更大胆的研究，而且还需要将学习、问题求解、对策理论与实数论、概率论和几何学知识结合在一起，探索其如何对问题的解决起实质性作用。当然，为什么是列这些名词在一起，它们并不是我从逻辑上选择的，而只是我直觉的选择，甚至是辞藻的堆砌。