--- schema_version: "library-reader-v1" source_type: "original_book" title: "AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的..." author: null edition: null publisher: null year: null isbn: null library_document_id: "75afffda-b96b-4df5-89ff-2ec037cfed66" source_sha256: "21c9bed4763f96ba9dce4c4e24be07b2ddb63e08acce9107a510c1026714c784" pdf_physical_page_count: 491 pdf_physical_page_index_base: 0 range_start: 370 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66?start=370&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=370&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=360&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=380&limit=10" --- # AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的... > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=370 | PRINTED_PAGE=NOT_DETECTED 直到最近，关于何种心智机制使得人们理解世界，以及机器是否也能拥有这样的机制的研究，几乎无一例外是所有哲学家、心理学家、神经科学家和具有理论头脑的人工智能研究人员所关注的领域。他们已经就这些问题进行了数十年，甚至数个世纪的学术辩论，但却很少关注其对现实世界的影响。正如我在前几章中所描述的那样，缺乏像人类那样的理解能力的人工智能系统现在正被广泛应用于现实世界中。突然之间，曾经一度仅仅是学术探讨的问题，开始在现实世界中变得愈发重要了。为了可靠、稳定地完成其工作，人工智能系统需要在多大程度上拥有像人类那样的理解能力？或达到多大程度上的近似？没有人知道答案，但人工智能领域的研究者都认同这样的观点：掌握核心常识以及复杂的抽象和类比能力，是人工智能未来发展不可或缺的重要一环。在下一章中，我将描述为机器赋予这些能力的一些方法。 ## PDF_PHYSICAL_PAGE_INDEX=371 | PRINTED_PAGE=NOT_DETECTED 本章要点 14 理解力是一种预测力 而预测力与我们的经历息息相关 我们都拥有心理学家所说的关于世界的重要方面的“心智模型”，这个模型基于的是我们掌握的物理学和生物学上的事实、因果关系和人类行为的知识，并揭示了世界是如何运作的。心智模型不仅能够使你预测在特定情况下可能会发生什么，还能让你想象如果特定事件发生将会引发什么。 我们通过核心物理知识来理解抽象概念。如果物理意义上的“温暖”概念在心理上被激活，例如，通过手持一杯热咖啡，这也会激活更抽象、隐喻层面上的“温暖”概念。如果我们对概念和情境的理解是使用心智模型来进行模拟的，那么，也许意识以及我们对自我的全部概念，都来自我们构建并模拟自己的心智模型的能力。 我们拥有的与物理感觉相关的概念可能会激活关于自我的抽象概念，后者通过神经系统的反馈，产生一种对自我的物理感知，你也可以将这里的“自我”称为意识。这种循环因果关系类似于侯世达所说的意识的“怪圈”：“符号和物理层面相互作用，并颠倒了因果关系，符号似乎拥有了自由意志，并获得了推动粒子运动的自相矛盾的能力。”我们所谓的感知、分类、识别、泛化和联想都涉及我们对所经历过的情境进行抽象的行为。 ## PDF_PHYSICAL_PAGE_INDEX=372 | PRINTED_PAGE=NOT_DETECTED 15 知识、抽象和类比，赋予人工智能核 心常识 自20世纪50年代以来，人工智能领域的研究探索了很多让人类思想的关键方面，如核心直觉知识、抽象与做类比等，融入机器智能的方法，以使得人工智能系统能够真正理解它们所遇到的情境。在本章中，我将描述在这些方向上取得的一些成果，其中也包括我自己在过去和现在的一些研究。 让计算机具备核心直觉知识 在人工智能发展的早期阶段，机器学习和神经网络还尚未在该领域占主导地位，那时候，人工智能研究人员还在人工地对程序执行任务所需的规则和知识编码，对他们来说，通过“内在建构”的方法来捕获足够的人类常识以在机器中实现人类水平的智能，看起来是完全合理的。 坚持为机器人工编写常识的最著名和持续时间最久的是道格拉斯·雷纳特（Douglas Lenat）的“Cyc”项目。雷纳特当时是斯坦福大学人工智能实验室的一名博士生，后来晋升为该实验室的教授，由于开发了模拟人类发明新概念（特别是在数学领域）的程序，他在20世纪70年代人工智能领域的研究群体中赢得了名声 1 。经过对这一课题10多年的研究，雷纳特得出了一个结论：要想令人工智能实现真正进步，就需要让机器具备常识。因此，他决定创建一个庞大的关于世界的事实和逻辑规则的集合，并且使程序能够使用这些逻辑规则来推断出它们所需要的事实。1984年，雷纳特放弃了他的学术职位，创办了一家名为“Cycorp”的公司来实现这一目标。 ## PDF_PHYSICAL_PAGE_INDEX=373 | PRINTED_PAGE=NOT_DETECTED “Cyc” 这 一 名 字 意 指 唤 醒 世 界 的 “ 百 科 全 书 ”（encyclopedia），但与我们所熟知的百科全书不同，雷纳特的目标是让Cyc涵盖人类拥有的所有不成文的知识，或者至少涵盖足以使人工智能系统在视觉、语言、规划、推理和其他领域中达到人类水平的知识。 Cyc是我在第01章中描述过的那种符号人工智能系统—个关于特定实体或一般概念的论断的集合，使用一种基于逻辑的计算机语言编写而成。以下是一些Cyc中的论断的例子 2 ： ·　一个实体不能同时身处多个地点。 ·　一个对象每过一年会老一岁。 ·　每个人都有一个女性人类母亲。 Cyc还包含很多用于在论断上执行逻辑推理的复杂算法。例如，Cyc可以判定如果我在波特兰，那么我就不在纽约，因为我是一个实体，波特兰和纽约都是地点，而一个实体不可能同时出现在多个地点。Cyc还有大量的方法来处理其集合中出现的不一致或不确定的论断。 ## PDF_PHYSICAL_PAGE_INDEX=374 | PRINTED_PAGE=NOT_DETECTED Cyc的论断由Cycorp的员工手动编码，或由系统从现有的论断出发，通过逻辑推理编码到集合中。 3 那么究竟需要多少论断才能获得人类的常识呢？在2015年的一次讲座中，雷纳特称目前Cyc中的论断数量为1 500万，并猜测说：“我们目前大概拥有了最终所需的论断数量的5%左右。” 4 Cyc背后的基本理念与人工智能领域早期的专家系统有很多共同之处。你可能还记得我在第02章中对MYCIN医学诊断专家系统的讨论。MYCIN的开发人员会通过对医学专家（医生）的访谈，来获知系统用于诊断的规则。然后，开发人员会将这些规则转换为基于逻辑的计算机语言，使得系统可执行逻辑推理。在Cyc中，专家是指人工将他们关于世界的知识转化为逻辑语句的人。Cyc的知识库比MYCIN的要大得多，Cyc的逻辑推理算法也更复杂，但这些项目有相同的核心理念：智能可通过在一个足够广泛的显性知识集合上运行人类编码的规则来获取。在当今由深度学习主导的人工智能领域内，Cyc是仅存的大规模符号人工智能的成果之一。 5 有没有这样一种可能：只要付出足够多的时间和努力，Cycorp的工程师就真的能成功地获取全部或足够多的人类常识，不管这个“足够多”具体是多少？我对此保持怀疑。比如，很多处于我们潜意识里的知识，我们甚至不知道自己拥有这些知识，或者说常识，但是它们是我们人类所共有的，而且是在任何地方都没有记载的知识。这包括我们在物理学、生物学和心理学上的许多核心直觉知识，这些知识是所有我们关于世界的更广泛的知识的基础。如果你没有有意识地认识到自己知道什么，你就不能成为向一台计算机明确地提供这些知识的专家。 ## PDF_PHYSICAL_PAGE_INDEX=375 | PRINTED_PAGE=NOT_DETECTED 此外，正如我在前一章中所指出的：我们的常识是由抽象和类比支配的，如果没有这些能力，我们所谓的常识就不可能存在。我认为：Cyc无法通过其大量事实组成的集合和一般逻辑推理来获得与人类拥有的抽象和类比能力相类似的技能。 在我撰写本书时，Cyc已经走进了它的第四个十年。Cycorp及其子公司Lucid都在通过为企业提供一系列定制化的应用来实现Cyc的商业化，公司的网站有众多成功案例：Cyc在金融、油气开采、医药和其他特定领域的应用。在某些方面，Cyc的发展轨迹与IBM的沃森很相似：也是以充满远大前景和雄心壮志的基础人工智能研究为开端，辅以一系列夸张的营销声明，例如，宣称Cyc给计算机带来了类似于人类的理解和推理的能力 6 ，但其关注的领域却是狭隘的而非通用的，并且关于系统的实际表现和能力也很少向公众透露。 到目前为止，Cyc还没有对人工智能的主流研究产生太大的影响。此外，一些人工智能研究人员尖锐地批评了这一项目。例如，华盛顿大学的人工智能教授佩德罗·多明戈斯（PedroDomingos）评价Cyc是“人工智能历史上最臭名昭著的失败案例” 7 ；麻省理工学院的机器人专家罗德尼·布鲁克斯稍微友善那么一点点，他说：“尽管Cyc是一次英勇的尝试，但它并未使得人工智能系统能够掌握对世界哪怕是一丁点儿简单的理解。” 8 ## PDF_PHYSICAL_PAGE_INDEX=376 | PRINTED_PAGE=NOT_DETECTED 如果把那些我们在婴幼儿时期就学到的，构成了我们所有概念之基础的关于世界的潜意识知识，都输入计算机，那会怎么样？例如，我们是否可以教一台计算机关于物体的直觉物理学？多个研究团队已接受这一挑战，并正在构建能学习一些关于世界因果物理关系的知识的人工智能系统。他们的方法是从视频、电子游戏或其他类型的虚拟现实中进行学习 9 。这些方法虽然很有趣，但目前为止只是朝着开发直觉核心知识方面迈出了一小步——与真实的婴儿所知道的相比 (46) 。 当深度学习开始展示其一系列非凡的成功时，不管是人工智能领域的内行还是外行，大家都乐观地认为我们即将实现通用的、人类水平的人工智能了。然而，正如我在本书中反复强调的那样，随着深度学习系统的应用愈加广泛，其智能正逐渐露出“破绽”。即便是最成功的系统，也无法在其狭窄的专业领域之外进行良好的泛化、形成抽象概念或者学会因果关系。10 此外，它们经常会犯一些不像人类会犯的错误，以及在对抗样本上表现出的脆弱性都表明：它们并不真正理解我们教给它们的概念。关于是否可以用更多的数据或更深的网络来弥补这些差距，还是说有某些更基本的东西被遗失了，人们尚未达成一致意见。 11 我在最近发生的一些事中看到了这样一种转变：人工智能领域再一次越来越多地讨论关于赋予机器常识的重要性。2018年，微软联合创始人保罗·艾伦将其创立的艾伦人工智能研究所的研发预算增加了一倍，专门用于研究常识。政府资助机构也正对此采取行动，美国最主要的人工智能研究资助机构之一——美国国防部高级研究计划局公布了为人工智能常识研究提供大量资助的计划，计划中写道：“当前的机器推理仍然是狭隘且高度专业化的，大范围、常识性的机器推理仍然是难以达到的。这项资助计划将创建更类似人类的知识表征，例如，基于感知的表征，从而使得机器能够对物理世界和时空现象进行常识性推理。” 12 ## PDF_PHYSICAL_PAGE_INDEX=377 | PRINTED_PAGE=NOT_DETECTED 形成抽象，理想化的愿景 “建构抽象”是我在第01章中描述过的1956年达特茅斯人工智能计划中列出的人工智能的关键能力之一。然而，使机器形成类似于人类的概念化抽象能力仍然是一个悬而未决的问题。 抽象和类比正是最初吸引我进入人工智能研究领域的课题。当我遇到一组名为邦加德问题（Bongard problems）的视觉谜题时，我的兴趣突然被点燃了。这些谜题是由俄罗斯计算机科学家米哈伊尔·邦加德（Mikhail Bongard）设置的，他在1967年出版了一本名为《模式识别》（Pattern Recognition） 13 的俄文书。这本书描述的是邦加德关于一个类似感知器的视觉识别系统的提案，但该书中最具影响力的部分却是它的附录，其中邦加德为人工智能程序提供了100个谜题作为挑战。图15-1给出了选自邦加德题集的4个问题。 14 ## PDF_PHYSICAL_PAGE_INDEX=378 | PRINTED_PAGE=NOT_DETECTED 注：对于每个问题，其任务是判定哪些概念可以用来区分左侧的6个框与右侧的6个框中的内容。例如，对邦加德问题2，其对应概念是“大”与“小”。 每个问题由12个方框组成：左右两侧各6个。每个问题左侧的6个方框举例说明其具有相同的某一个概念；右侧的6个方框举例说明了与之相关的另一个概念，这两个概念可以完美地区分这两个集合，问题的关键在于找到这两个概念。例如，在图15-1中表示的概念按顺时针顺序分别是：大与小；白色的与黑色的（或未填充与填充）；靠右侧与靠左侧；垂直与水平。 图15-1中的问题相对容易解决。实际上，邦加德大致按照预测的难度对这100个问题进行了排序。为了增添一些乐趣，图15-2是从题集后面节选的6个额外的问题，我将在下面的叙述中给出答案。 ## PDF_PHYSICAL_PAGE_INDEX=379 | PRINTED_PAGE=NOT_DETECTED 邦加德精心设计了这些谜题，使得它们的解决方案要求人工智能系统具备与人类在现实世界中所需的同样的抽象和类比能力。在一个邦加德问题中，你可以将12个方框中的每一个视为一个微型的、理想化的情境：一个展示了不同的对象、属性及其关系的情境。左侧6个方框表示的情境具有一个共性（例如，大）；右侧6个方框表示的情境具有一个与之相对的共性（例如，小）。并且在邦加德问题中，识别一种情境的本质有时是很微妙的，正如在现实生活中一样。就如心理学家罗伯特·弗伦奇（Robert French）所说的，抽象和类比都在于感知共性的微妙之处 15 。 为发现这种微妙的共性，你需要确定情境中的哪些属性是相关的，而哪些可以忽略掉。在问题2中（见图15-1），一个图形是黑色还是白色，或者位于框中的什么位置，以及其形状是三角形、圆形还是其他，这些都无关紧要，图形的大小是此处唯一重要的属性。当然，大小也并不总是重要的，比如，在图15-1中的其他问题里，大小这种属性就是无关的。我们人类是如何快速地识别相关属性的呢？我们怎么才能让机器做同样的事情？ 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/75afffda-b96b-4df5-89ff-2ec037cfed66.md?start=380&limit=10)