--- schema_version: "library-reader-v1" source_type: "original_book" title: "AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的..." author: null edition: null publisher: null year: null isbn: null library_document_id: "75afffda-b96b-4df5-89ff-2ec037cfed66" source_sha256: "21c9bed4763f96ba9dce4c4e24be07b2ddb63e08acce9107a510c1026714c784" pdf_physical_page_count: 491 pdf_physical_page_index_base: 0 range_start: 390 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66?start=390&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=390&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=380&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=400&limit=10" --- # AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的... > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=390 | PRINTED_PAGE=NOT_DETECTED 图15-4 4个简单明了的遛狗示例 我和我的同事正在开发一个名为“Situate”的程序，它将DNN的目标识别能力与Copycat的活跃符号结构相结合，通过做类比来识别某些特定情境。我们希望它不仅能够识别如图15-4中的简单明了的情境，而且能够识别需要进行概念滑移的非常规的情境。我们从图15-4的示例中可以看到：“遛狗”情境的原型包括一个人、一条狗和一条狗绳，遛狗者牵着狗绳，狗绳系在狗身上，并且遛狗者和狗都在行走。理解“遛狗”这一概念的人也会将图15-5中的每幅图像看作是这个概念的示例，并且还能意识到每幅图像从原型版本上“拓展”了多少。Situate目前仍处于研发的早期阶段，其目的是探究隐藏在人类类比能力背后的一般机制，并证明隐藏在Copycat程序背后的机制也可以在字符串类比这个微观世界之外成功地运行。 ## PDF_PHYSICAL_PAGE_INDEX=391 | PRINTED_PAGE=NOT_DETECTED 图15-5 4个非典型的遛狗示例 Copycat、Metacat和Situate仅仅是基于侯世达的活跃符号结构构建的类比程序中的3个示例。 23 此外，活跃符号结构只是人工智能领域中创建的能够做类比的程序的众多方法之一。尽管类比对人类认知的任何层次来说都是基础性的，但目前为止还没有人工智能程序能具有人类的类比能力——哪怕一点点。 “我们真的，真的相距甚远” 现代人工智能以深度学习为主导，以DNN、大数据和超高速计算机为三驾马车，然而，在追求稳健和通用的智能的过程中，深度学习可能会碰壁——重中之重的“意义的障碍”。在本章中，我展示了人工智能为打破这一障碍所做的一些努力，我们可以看到研究人员（包括我自己）是如何为计算机灌输常识，并尝试赋予它们类似于人类的抽象和类比能力的。 在构思这一话题时，我被安德烈·卡帕西撰写的一篇令人愉快且见解深刻的博客文章迷住了，卡帕西是一名深度学习和计算机视觉领域的专家，他目前在指导特斯拉的人工智能的相关工作。卡帕西在其发表的一篇题为《计算机视觉和人工智能的现状：我们真的，真的相距甚远》的文章中 24 ，描述了自己作为一名计算机视觉研究人员对一张特定照片的反应（见图15-6）。卡帕西指出，我们人类会发现这张照片非常幽默，那么，问题来了：“一台计算机需要具备什么样的知识才能像你我一样去理解这张照片？” ## PDF_PHYSICAL_PAGE_INDEX=392 | PRINTED_PAGE=NOT_DETECTED 卡帕西列出了许多我们人类轻易就能理解但仍然超出了当今最好的计算机视觉程序的能力范围的事物。例如，我们能够识别出场景中有人，也有镜子，因此有些“人”只是镜子中的影像；我们能够识别出图中的场景是一间更衣室，并且我们会对在更衣室里看到这样一群西装革履的人而感到奇怪。 再进一步，我们可以识别出一个人正站在体重秤上，尽管体重秤是由混合在背景中的白色像素组成的。卡帕西指出，我们可以发现奥巴马把他的脚轻轻地压在体重秤上，并强调，我们很容易根据我们推断出来的三维场景结构而不是这张二维图像来得出这一结论。我们对物理学的直觉知识使我们可以推断：奥巴马的脚踩着体重秤将导致体重秤上显示的数字大于体重秤上男士的真实体重。我们在心理学方面的直觉知识告诉我们：站在体重秤上的这个人并没有意识到奥巴马的脚踩在秤上，这能从那个人视线的方向推断出来，并且我们知道他的脑袋后面并没有长眼睛。我们还能明白：测量体重的人大概感觉不到奥巴马的脚正轻踏在秤面上。我们还能根据心智理论进一步推测：当体重秤显示的体重比他的预期要高时，他将很不开心。 ## PDF_PHYSICAL_PAGE_INDEX=393 | PRINTED_PAGE=NOT_DETECTED 最后，我们看得出奥巴马和其他观察这一场景的人都在微笑，他们被奥巴马对这个人开的这个玩笑逗乐了，并且可能因为奥巴马的身份让它变得更有趣了。我们也识别出他们的玩笑是友善的，并且他们期望站在秤上的人知道自己被捉弄之后也会开怀大笑。 卡帕西指出，“你在推理人们的心智状态，以及他们对其他人的心智状态的看法。这会变得越来越可怕……令人难以置信的是：上面所有的推论都是从人们对这幅二维的由像素构成的图像的简单一瞥而展开的”。 对我而言，卡帕西的例子完美地捕捉到了人类理解能力的复杂性，并以水晶般的清晰度展现了人工智能所面临的挑战之大。卡帕西的文章写于2012年，但其传递的信息在今天看来依然正确，我相信，在未来很长一段时间内都是这样。 卡帕西用下面这段文字概括了他的文章： ## PDF_PHYSICAL_PAGE_INDEX=394 | PRINTED_PAGE=NOT_DETECTED 我几乎可以肯定的是：我们可能需要进一步探索“具身”（embodiment） (47) 这一概念。构建像我们这样能够理解各种场景的计算机的唯一方法，就是让它们接触到我们在这么多年来所拥有的结构化的和暂时的经验、与世界互动的能力，以及一些在我思考它应具备何种能力时几乎都无法想象的神奇的主动学习和推理的能力。 在17世纪，哲学家勒内·笛卡儿推测，我们的身体和思想是由不同的物质组成的，并受制于不同的物理定律 25 。自20世纪50年代以来，人工智能的主流方法都隐晦地接受了笛卡儿的这一论点，假设通用人工智能可以通过非实体的程序来实现。但是，有一小部分人工智能研究群体一直主张所谓的具身假说：如果一台机器没有与世界进行交互的实体，那它就无法获得人类水平的智能。 26 这种观点认为：一台放置在桌子上的计算机，甚至是生长在缸中的非实体的大脑 (48) ，都永远无法获得实现通用智能所需的对概念的理解能力。只有那种既是物化的又在世界中很活跃的机器，才能在其领域中达到人类水平的智能。同卡帕西一样，我几乎无法想象若要制造这样一台机器，我们将需要取得哪些突破。历经多年与人工智能的“拼杀”之后，我发现关于具身的相关争论正越来越受到关注。 ## PDF_PHYSICAL_PAGE_INDEX=395 | PRINTED_PAGE=NOT_DETECTED 本章要点 15 我们是否可以为机器赋予常识 在人工智能发展的早期阶段，机器学习和神经网络还尚未在该领域占主导地位，那时候，人工智能研究人员还在人工地对程序执行任务所需的规则和知识编码，对他们来说，通过“内在建构”的方法来捕获足够的人类常识以在机器中实现人类水平的智能，看起来是完全合理的。 当深度学习开始展示其一系列非凡的成功时，不管是人工智能领域的内行还是外行，大家都乐观地认为我们即将实现通用的、人类水平的人工智能了。然而，正如本书中反复强调的那样，随着深度学习系统的应用愈加广泛，其智能正逐渐露出“破绽”。即便是最成功的系统，也无法在其狭窄的专业领域之外进行良好的泛化、形成抽象概念或者学会因果关系。此外，它们经常会犯一些不像是人类会犯的错误，以及在对抗样本上表现出的脆弱性都表明：它们并不真正理解我们教给它们的概念。 要想令人工智能实现真正进步，就需要让机器具备常识，但是，很多处于我们潜意识里的知识，我们甚至不知道自己拥有这些知识，或者说常识，却是我们人类所共有的，而且是在任何地方都没有记载的知识。这包括我们在物理学、生物学和心理学上的许多核心直觉知识，这些知识是所有我们关于世界的更广泛的知识的基础。如果你没有有意识地认识到自己知道什么，你就不能成为向一台计算机明确地提供这些知识的专家。 ## PDF_PHYSICAL_PAGE_INDEX=396 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=397 | PRINTED_PAGE=NOT_DETECTED 思考6个关键问题，激发人工智能的终极潜力 在1979年出版的“GEB”一书的末尾，侯世达就人工智能的未来这一话题进行了自问自答。在“10个问题及其推测”这一章中，侯世达提出并回答了有关机器思维之潜力的问题，以及关于智能之一般性质的问题。在当时，作为一名即将毕业的本科生，我对这一部分的内容非常感兴趣。侯世达的推测让我相信：尽管所有的媒体都在大肆炒作人类水平的人工智能，在20世纪80年代我们也经历过这种情况，但这个领域实际上是完全开放的，并急需新想法的加入，其中还有很多巨大的挑战，等待着像我这样的年轻人在这个领域大显身手。 现在写这本书，已是30多年之后，我认为以我自己提出的一些问题、答案和推测来作为本书的结尾是非常合适的——既是向侯世达的“GEB”的这部分内容致敬，也是将我在本书中呈现的观点串联起来。 问题1：自动驾驶汽车还要多久才能普及？ 这取决于你怎么定义“自动驾驶”。美国国家公路交通安全管理局为车辆定义了6个自动等级 1 。我在此转述如下： 0级： 人类驾驶员执行全部的驾驶任务。 结语 ## PDF_PHYSICAL_PAGE_INDEX=398 | PRINTED_PAGE=NOT_DETECTED 1级： 车辆能够偶尔通过控制方向盘或车速来对人类驾驶员提供支持，但不能同时进行。 2级： 在某些情境下（通常是在高速公路上），车辆可以同时控制方向盘和车速。人类驾驶员必须时刻保持高度注意力，监控驾驶环境，并完成驾驶所需的其他行为，如变换车道、驶离高速公路、遇到红绿灯时停车、为警车让行等。 3级： 在某些特定情境下车辆可以执行所有的驾驶行为，但是人类驾驶员必须随时保持注意力，并随时准备在必要时收回驾驶控制权。 4级： 在特定情境下，车辆能够完成所有的驾驶行为，人类不需要投入注意力。 5级： 车辆可以在任何情境下完成所有驾驶行为。人类只是乘客，并且完全不需要参与驾驶。 我相信你一定注意到了那个非常重要的限定条件：在特定的情境下。我们无法为这个特定情境列出一个详尽的清单，比如说，对于一辆4级自动驾驶汽车而言，尽管你能想象到许多有可能会对其造成挑战的情境：恶劣的天气、城市交通拥堵、在建筑区域内导航穿行，或是在没有任何车道标志的、狭窄的双向道路上行驶。 在我写这部分内容的时候，路上行驶的大多数车辆都处于0级和1级之间，它们都有巡航控制系统，但没有转向或制动控制系统，其中，一些最近生产的带有自适应巡航控制系统的车型，被认为达到了1级。仅有少量几款车型目前处于2级和3级，例如，装备了自动驾驶系统的特斯拉汽车，这些车辆的制造商和使用者仍在学习哪些情境属于需要人类驾驶员接管的“特定情境”。也有一些试验车辆可以在相当宽泛的情境下实现完全自动驾驶，但是它们仍然需要一个随时待命、收到通知就能立刻接管车辆的人类“安全驾驶员”。目前为止，已经发生了好几起自动驾驶汽车引发的致命事故，其中也包括一些试验用车，这些事故都发生在本应由人类驾驶员接管车辆，但却没被及时注意到的场景。 ## PDF_PHYSICAL_PAGE_INDEX=399 | PRINTED_PAGE=NOT_DETECTED 自动驾驶汽车行业迫切希望生产和销售完全自动驾驶汽车，也就是5级自动驾驶汽车。事实上，完全自动驾驶是我们消费者一直期盼的，也是自动驾驶汽车的相关各方所努力的方向。那么，想要让我们的汽车实现真正的自动驾驶，还有哪些障碍？ 主要的障碍是我在第06章中描述的那些长尾效应（边缘案例），即车辆没有接受过训练的情境，通常，它们单独发生的可能性很小，但当自动驾驶车辆被普及时，整体来看，这些情况就会频繁发生。正如我所描述的，人类驾驶员会使用常识来处理这些事件，即通过将新遇到的情境与已了解的情境进行类比的方式来理解、预测并处理新的情境。 车辆的完全自主也需要我在第14章中描述过的那种核心直觉知识，包括：直觉物理学、直觉生物学，特别是直觉心理学。为了让车辆在所有情况下都能可靠地驾驶，其驾驶员需要了解共享道路的其他驾驶员、骑自行车的人、行人和动物的动机、目标，甚至情感。打量一眼复杂的情境并瞬间判断谁有可能横穿马路、冲过街道去追赶公共汽车、不打信号灯就突然转向，或者在人行横道上停下来调整损坏的高跟鞋，这是大多数人类司机的第二天性，但自动驾驶汽车还不具备这些。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=400&limit=10)