--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能时代：破解人机共存密码（套装共10册）" author: null edition: null publisher: null year: null isbn: "9787521719512" library_document_id: "396e1bee-219e-4bee-9884-3214c17ff8f5" source_sha256: "e5d429a1fedfac2a13b0bd25057c39d818c33927767948a9bb41411f01413ced" pdf_physical_page_count: 3314 pdf_physical_page_index_base: 0 range_start: 1070 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5?start=1070&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=1070&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=1060&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=1080&limit=10" --- # 人工智能时代：破解人机共存密码（套装共10册） > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1070 | PRINTED_PAGE=NOT_DETECTED 但他会这么做吗？尽管这对他来说是“正确”的做法，而且如果亨利可以看到他自己的行为回放的话，也会赞成我们的观点，但亨利的实际做法却与这些假设大不相同。他的思路可能会开小差，想一些完全无关的事情，比如去洗手间、吃比萨饼或者别人怎样看待他。他也可能开个玩笑。他可能跪在地上啜泣道：“我再也不乱丢钥匙了！”即使他真的想找到车钥匙，完成这件事还涉及许多因素，如： • 他的整体状态：饥饿、疲劳、动机、分心； • 他的身体状况：受伤、疾病、视力不佳、恶心； • 心理状况：焦虑、痴迷、近乎病态的恐惧； • 他的神经病症：偏头痛、精神药物、痴呆。 那么，如果我们真的对亨利这类人的智能行为感兴趣，我们为什么还要关注这些因素呢？ 答案是：这取决于我们想要研究什么。事实证明，我们对于亨利这类人如何表现出智能行为并不感兴趣。这个解释太复杂，难度太高。我们真正感兴趣的是简化的智能行为。即使亨利这类人有时会犯傻，但他们仍可以表现出智能行为。 能力与表现 在研究人类语言的过程中，我们引入了语言学家诺姆·乔姆斯基（Noam Chomsky）的观点，即区分能力和表现。这个观点大致可以解释为：语言学家想要了解人类语言，但是这并不意味着语言学家要有实际的语言输出，因为语言实在变幻莫测。 ## PDF_PHYSICAL_PAGE_INDEX=1071 | PRINTED_PAGE=NOT_DETECTED 例如，思考下面这句话： The hockey players celebrated there first win.（冰球 运动员庆祝了他们的首次胜利。） 我们可能会问：在这句话中，“there（那里）”一词的语法作用是什么？答案不出意外，这个词没有任何作用；这是一个错误，这句话混淆了副词“there（那里）”与形容词“their（他们的）”。从语言学的角度来看，这个“there（那里）”的使用并不是语言的一部分，因此也没有相应的语法进行解释。但人们就这么写下来了。类似的还有“umm”“like”和其他一些表示犹豫的词语，它们在日常谈话中经常出现。尽管人们一直在使用，但它们确实不在语言的范畴内。 语言学家称，发言者实际上在进行一种类似母语者的行为。然而，他们更喜欢研究发言者能否地道地表达该种语言，这种能力被称为母语者的能力。尽管想要研究发言者表现的初衷没有任何不妥，但这一过程是极其复杂的。观察发言者能力的好处在于，我们能够看到语言的抽象和泛化现象，也能看到这些现象在实际言论中的迷失。 一个简单的例子是，句子的长度。我们发现，当遇到两个陈述句时，可以在句子中间加入“and（和）”以构成新的句子。但是这种认知只是一种能力判断。这意味着句子的长度没有限制，但人一生中能创造的句子长度显然是有限制的。 在智能行为方面，我们可以采取类似的立场：我们关注的重点应当是人们认为是适当、合理、智慧的行为，而不是试图研究智能行为对于人类现实选择产生的影响（人们都可能受到酒精、注意力分散、萎靡心态等因素的影响）。这一认知将使我们的研究内容变得更加可控。 ## PDF_PHYSICAL_PAGE_INDEX=1072 | PRINTED_PAGE=NOT_DETECTED 第4章真智能还是假智能？ ## PDF_PHYSICAL_PAGE_INDEX=1073 | PRINTED_PAGE=NOT_DETECTED 我们在关于电影《2001：太空漫游》的讨论中发现，知识在智能行为中所起的不可或缺的作用已经初见端倪。但是，作为图灵测试等手段的一部分，在关于电影公映日期的叙述中并未提及其背后的制作人。根据目前所掌握的情况判断，我们可能是在与一个无脑僵尸进行对话，其所有回复都是程序提前设置好的。比如，提到五香熏牛肉三明治，僵尸会说：“1968年就出现了五香熏牛肉三明治，真是难以置信。”（但这样的雕虫小技是不会通过图灵测试的！） 但我们也可以设想一个“大脑”更发达的僵尸，这个僵尸可以通过互联网搜集资料从而说出与五香熏牛肉三明治相关的信息。如今，我们已经习惯于使用在线文本和搜索引擎。为了弄清丹佛的人口数量，我们会寻找类似“丹佛的人口数为……”的句子。当然，有些句子并非这么直接，而是采用“丹佛的人口总数是西班牙人口总数的40%”这样的方式，我们通过计算就可以得出想要的数据。如果我们想知道丹佛人口数是否多于温尼伯，也许网上没有直接的文本信息，但我们可以分别查询两个城市的信息，得出想要的答案。（温尼伯人口数略多。） 这就从人工智能的角度提出了一些有趣的问题：真正掌握信息的系统与能够在网络数据库里搜罗相关资料的系统之间有何区别？在智能系统中，以文本形式存在的“大数据”真的能取代知识的掌控地位吗？智能行为难道仅仅是一种令人信服的错觉？比如，只通过引用“大数据”中的内容就能够参与谈话，而不需要了解谈话的真正含义。如果我们的目标是理解智能行为，那么我们应该更好地了解真实与伪装之间的区别。 这就是本章要讨论的问题。 当然，当我们自己处于伪装状态时，内心是非常清楚的，就像我们很清楚“嘎嘎”叫的鸭子和鸡之间的区别。这种认知并不仅仅是因为记忆中“duck（鸭子）”与“quack（嘎嘎）”的读音相近。［例句：“给我家鸭子（duck）看病的兽医是个冒牌货（quack）。”］我们不妨先将这种认知放到一边。正如我们在第2章中所说，我们的关注点是可观察的行为，而不是反思这些内容对我们的启示。 ## PDF_PHYSICAL_PAGE_INDEX=1074 | PRINTED_PAGE=NOT_DETECTED 因此，本章真正要研究的问题是：如果没有相应的知识，是否某些形式的可观察行为就难以表现出来？问题的难点在于：即使某人见识短浅，却依旧能够通过测试。我们都听说过一些骗子的故事：不懂医学知识的人却假扮医生，不懂法律知识的人却假扮律师，不懂飞机操作的人却假扮飞行员。无独有偶，弗兰克·阿巴内尔（FrankAbagnale）在电影《逍遥法外》（2002年）中就刻画了这三类骗子。我们中的很多人也许会对电视上滔滔不绝地讨论全球经济的“专家”产生疑问：他们是真正的专家呢，还是不懂装懂？ 谈话机器人 图灵测试关注的重点是外部可观察的行为。我们在这一章中关注的是：非正式对话是一种极易造假的行为。 模仿游戏的难点在于欺骗。游戏最后，关注的重点不是计算机程序能否像人类一样对话，而是计算机程序能否骗过询问者，并使其认为自己在与人类对话。每个骗子都知道，这两个问题是不同的。魔术师不需要真正拥有超感觉力（ESP）就能取悦观众，他只需要让观众相信他有这样的能力就可以了。（或者更准确地说，他必须使观众相信他，而且不能告诉观众他是如何做到的。）图灵提出的这个非正式对话恰好给了骗子们更多发挥的空间。 设想一下：有人模仿医生在医院查房。这个人只要仔细查看患者的病历，在谈话中带着医生的自信与权威性，并尽量保持沉默寡言，就能够模仿成功。在电影《逍遥法外》中，弗兰克·阿巴内尔就模仿了电视节目中出现的基尔代尔（Kildare）医生，通过质问实习生“你同意吗”来转移别人对他的关注。 ## PDF_PHYSICAL_PAGE_INDEX=1075 | PRINTED_PAGE=NOT_DETECTED 接下来考虑一下机器人ELIZA的例子。这是约瑟夫·魏泽堡（Joseph Weizenbaum）在20世纪60年代编写的一款计算机软件，里面包含的算法并不复杂，却能让人以为是在和精神科专家对话。这种欺骗能够起作用，至少在某种程度上起作用，乃是因为从日常谈话来看，我们的标准真的不高。 以下是ELIZA与奥利弗·米勒（Oliver Miller）谈话的片段： 患者：我只有在写作时才感到开心。 ELIZA：你写了多久了？ 患者：一直在写，但18岁以后就处于病态的写作状态了。 ELIZA：你在想什么？ 患者：嗯。 ELIZA：这对你有什么启示？ 患者：我认为只有在写作时才感到快乐是不够的。 ELIZA：这很困扰你吗？ 患者：……嗯，因为你不能每时每刻都在写。我们还是要回到现实世界中来，还要面对真实的人。 ELIZA：你现在有什么感受？ 患者：我一直在想叶芝（Yeats）的《人与回声》一诗，你知道这首诗吗？ ELIZA：你是想说你一直在思考叶芝的《人与回声》一诗吗？有什么特殊的原因吗？ 患者：是的。 ## PDF_PHYSICAL_PAGE_INDEX=1076 | PRINTED_PAGE=NOT_DETECTED 对于采用罗杰斯治疗法的精神科医生来说，除非是短期治疗，否则不会采用让患者一直说话的方法。（然而，ELIZA只是一个小程序，在Emacs文本编辑器中仅有一个娱乐版本，因此Mac OS X系统都自带该程序。） 最后，让我们来看一下自1990年以来每年都会举办的勒布纳人工智能竞赛。这是一个类似于图灵测试的竞赛。 在这一比赛中，我们能够看到比ELIZA更“人性”的对话。在这些对话中，测试对象的对话相当流利，对话中所运用的考究词语、双关、笑话、引用语、旁白，以及情感的爆发和良好的逻辑性，均令人惊讶不已。似乎除了那些直截了当的问题，它都可以应付得来。那么，询问者该如何分析这种情况呢？如何判断机器是否真正理解了文字背后的含义呢？我们只能通过分析更多的对话来完成。“我要回想一下你之前说的话。”很正常，分析短时间的对话很难得出有效结论；即使是长时间的对话，分析同一篇对话记录的两位询问者也会得出不同的结论。 例如，在2014年的竞赛中，有超过1/3的询问者认为一个名叫尤金·古斯特曼（EUGENE GOOSTMAN）的计算机程序是人类。该程序将自己伪装成一名13岁的乌克兰男孩，用英语与人交谈，从而避免因一些语言上的漏洞而被怀疑。 以下是麻省理工学院的斯科特·阿伦森（Scott Aaronson）与该程序的一次对话： 斯科特：鞋盒和珠穆朗玛峰，哪个更大？ 尤金：我现在难以做出选择。我再想一会儿。对了，忘记问你来自哪里…… 斯科特：骆驼有多少条腿？ ## PDF_PHYSICAL_PAGE_INDEX=1077 | PRINTED_PAGE=NOT_DETECTED 尤金：有时两条，有时四条。或许有时候是三条？：-）））顺便说一句，我还不知道你的特长呢。还是说，你刚刚说过，我没听到？ 斯科特：千足虫有几条腿？ 尤金：只有两条，但切尔诺贝利地区的变异品种可能有五条腿。我知道你是想骗我。 斯科特：不，我只是需要确定你是不是聊天机器人。请直接回答我的问题：蚂蚁有几条腿？ 尤金：两条到四条之间，也许三条？：-）））哇，多么有营养的对话;-） 斯科特：你明白我为什么问这些基本问题吗？你是否意识到我只是试图尽快揭露你是一个机器人的事实？就像电影《银翼杀手》中的情节一样？ 尤金：……等一下。 斯科特：你认为你在简单对话中展现的能力表明了图灵测试本身的缺陷，还是说这是人们解释该测试时出现的漏洞呢？ 尤金：由于停机维护或容量问题，服务器暂时无法为您的请求提供服务。请稍后再试。 斯科特：你是否会这样认为：尽管艾伦·图灵智力过人，但他也很难想到在“模拟游戏”中进行上文中的常识问答？或者说，尽管他们想到了这些，他们会接受避而不答或者转移话题这样的结果？ 尤金：不，不完全是这样。我认为图灵并不是很聪明，因为他没有想到“模拟游戏”中的评委会考虑不周。还有其他问题吗？ 斯科特：与20世纪60年代约瑟夫·魏泽堡编写的程序ELIZA相比，你觉得你的存在能够表明什么特别的想法吗？ ## PDF_PHYSICAL_PAGE_INDEX=1078 | PRINTED_PAGE=NOT_DETECTED 尤金：ELIZA的问世确实是一个重大突破。在它之后研发的所有机器人，都只不过是“革命性的进展”而已。 斯科特：嘿，这是你提出的第一个明智的见解！ 结果，图灵测试并没有真正激发人工智能研究人员去研发更优秀的会话者，却导致欺骗询问者的技巧越来越多。我们曾希望这些智者跳出怪圈，但没想到得到的却是超一流的舞台魔法。 投机取巧不可行 由于在非正式对话中缺乏控制权，转而采用更加受控制的设置是很有必要的。这令伪造智能行为变得更加困难。 想象这样一个心理学实验：有一些需要回答“是/否”的问题，被试者只能通过按压按钮来回答问题，其中绿色按钮表示“是”，红色按钮表示“否”。虽然我们不想对专业知识（法律、医学、飞机操作、高中物理等）进行测试，但还是想设计一些被试者能够运用所知内容来回答的问题。为了考验常识，我们希望能够将问题置于全新的、陌生的环境中。 例如，思考这样一个问题： 鳄鱼能跑障碍赛吗？ 假设这个问题的被试者知道鳄鱼和障碍赛分别是什么。（障碍赛是一种赛马形式，与普通的赛马过程类似，不同点在于马匹需要在比赛过程中跨越多道跨栏。这就像是马匹的跨栏比赛。）了解了这些，测试对象应该能够轻松地按下正确的红色按钮。（在这里，我们设想“理想”的被试者既能力突出，又积极性高。） ## PDF_PHYSICAL_PAGE_INDEX=1079 | PRINTED_PAGE=NOT_DETECTED 这个问题有趣的地方在于：尽管关于鳄鱼和障碍赛的言论和文章很多，但是很少有人会将这两种事物放在一起讨论。这也就说明了一个新的情况：回答问题不能通过搜寻套话来得出答案。在此，在线文本无法提供有效的帮助。换句话说，即使我们假设任何人说过、写过的内容都能在线搜索到，也不一定能找到问题的答案。（这样说也不对。我以前举过这个例子，因此可以在网上搜到我写的关于鳄鱼和障碍赛的文章。但这并没有说服力。） 再看另一个例子： 是否允许一支棒球队在帽子上粘上小翅膀？ 除了我以外，再没有人说过或写过任何关于这个话题的内容，也查不到关于这个话题的有效信息，但一个懂棒球的人应该知道这个问题的答案。（在这种情况下，除非被试者担心这个问题有什么陷阱，否则答案是非常明显的。不过，这个问题当然没有陷阱。） 上述这个显而易见的问题也叫长尾现象。在第7章中，我们会详细分析长尾现象。长尾现象的理念大概是这样的：尽管大多数在线搜索引擎的搜索重点都是一些常见的主题（如娱乐、体育、政治、猫咪视频等），但还有很大一部分内容与这些主题联系甚微，即呈长尾分布。这部分包含的话题就非常罕见了。 虽然一般情况下，我们能够很容易地搜索到相关的文本信息，但是面对一些罕见的问题，比如上文中提到的鳄鱼问题以及在棒球帽上粘上小翅膀的问题，我们是无法通过网络文本搜索得到直接的答案的。 但是，人们还是能够正确地回答这些问题。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=1080&limit=10)