--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能的进化 计算机思维离人类心智还有多远" author: null edition: null publisher: null year: null isbn: "9787508685670" library_document_id: "72c4da97-7cf2-441a-a985-c1252297d6a3" source_sha256: "7fe6b67406c38d63be8888212fd3015f412217ac0362f442b69e1c1169b192df" pdf_physical_page_count: 216 pdf_physical_page_index_base: 0 range_start: 120 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/72c4da97-7cf2-441a-a985-c1252297d6a3?start=120&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/72c4da97-7cf2-441a-a985-c1252297d6a3.md?start=120&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/72c4da97-7cf2-441a-a985-c1252297d6a3.md?start=110&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/72c4da97-7cf2-441a-a985-c1252297d6a3.md?start=130&limit=10" --- # 人工智能的进化 计算机思维离人类心智还有多远 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=120 | PRINTED_PAGE=109 根据上述抽样调查，新技术引入后，每年的死亡人数可以控制在100人以下，这比目前所知的36000人要好得多。事实上，模拟测试显示，在99.9%的时间里，死亡人数都是低于10000人的。这看起来好像不错。不幸的是，模拟测试还显示，死亡人数有千分之一的概率将会达到100万。这将是一个灾难。如果说100万还不是最大的数字，那么模拟测试显示，人类将会有百万分之一的概率全部死亡。 这样看来可不怎么好! 有人会说： 我们必须现实地看待这个问题，而不应该把过多的时间花费在这些罕见的小概率事件上。毕竟，彗星也可能会撞地球！忘掉那些黑天鹅吧，它们不会打扰我们的正常生活。问问你自己：我们真正期待的是什么？如果不使用这项技术，目前的死亡人数是3.6万。如果我们期望状况好转，那么是否应该使用它呢？ 这种立场并非不合理。如果只考虑最坏的结果，那我们干脆就别活了。长尾现象带给我们的问题，是我们如何能够找出该现象中的典型情况。但是，这个典型的数字是多大呢？我们看到的数字中有一半都小于10。但是我们也清楚，这是在误导我们的判断，毕竟另外一半数字都特别大。99%的数字小于1000，剩下1%的数字比1000大得多。在这样的情况下，我们最多能忽略多少样本呢?样本平均值最能够体现整个抽样过程的好坏。不仅所有的数字都小于10000，凑巧的是，所有大于10000的数字之和正好与小于10000的数字之和相等。然而，作为典型数字的10000，仍然比36000要小得多。 第 长尾理论与培训的界限 109 ## PDF_PHYSICAL_PAGE_INDEX=121 | PRINTED_PAGE=110 为了更好地论证这个问题，我们不妨假设一下:经过10亿次计算后，我们看到下一个数字就是一开始提到的大数字之一:100万亿。（究竟何种技术能够造成100万亿人的死亡尚不清楚，暂不深究。）即使这是一件发生概率仅为十亿分之一的事件，但由于数据如此之大，我们也必须重新计算数据的平均值。这次得出的结果是100000。这个结果与36000比起来可糟糕了不少。 简而言之，这个问题旨在用实际情况解释长尾现象。如果你所有的专业知识都来自于抽样数据，那你可能永远都无法察觉这些牵一发而动全身的小概率事件。 如何处理突发事件 假设你在美国加利福尼亚州已经拿到驾驶执照，并且驾驶经验丰富。你在开车过程中遇到过各种各样的现象：恶劣的天气、拥堵的学区和停车场、交通堵塞、水平参差不齐的司机、湿滑的道路、笨重的车辆、轻微事故，你甚至可能遭遇过危险。 人工智能的进化 110 ## PDF_PHYSICAL_PAGE_INDEX=122 | PRINTED_PAGE=111 冬日的一天，你在加拿大安大略省租了一辆汽车，一路向北行驶。你已经提前知晓，这条路会有点儿滑。于是，你开着这辆四轮驱动的汽车低速行驶。开始下雪了，但这种情况已经有人提醒过你。如果雪下得更大，你会靠边把车停下，然后找一个地方休息。但是，还没等你做好准备，你就出现了雪盲（风和粉末状的雪包裹在汽车四周，白茫茫的一片，人分不清方向，看不到天际，也看不到其他车辆)。你从未经历过类似情况：四周悄无声息，感觉不到任何动静，你身处雪白的环境中，就像飘浮在云端。你该怎么办呢?拉起手刹，把车停到自认为是路边的地方吗？这时候你所做的任何决定，与你在加州丰富的驾驶经验都没有关系。你需要考虑的是：你以及其他车辆都在做什么。 这个例子虽然较为罕见(当然，只是对于加州的司机而言)，但是却很重要。如果做出了错误的决定，司机就很可能丧命。虽然我本人就住在安大略省，但我也只经历过一次雪盲而已。当时我确实非常担心自己会命丧于此。我当时的做法是这样的：不踩刹车(不想被后面的车撞上)，一路直行不转弯(希望前面的路够长)，打开应急双闪灯(希望后面的车能注意到我)，并且仔细观察前方是否也有闪烁的应急双闪灯(希望前面的车也能照做)。我就这么一直缓慢前行，直到雪盲结束。我竟然幸运地活了下来！ 长尾理论与培训的界限 111 ## PDF_PHYSICAL_PAGE_INDEX=123 | PRINTED_PAGE=112 有人可能会说，训练有素的安大略省司机应该都经历过雪盲，他们所缺乏的只是更多的训练而已。但问题就在于：训练到什么程度才算够呢?我们是否要担心开车过程中油门卡住的情况?晚上驾车时大灯不亮的情况?交通信号灯持续红灯，出现故障的情况?一头鹿被撞倒，死在车前的情况?乘客试图爬出窗外的情况？一群暴徒围住汽车的情况？汽车被飓风刮动的情况？很明显，上述情况都不可能，我们不会也不可能将所有的状况列成清单，都放到驾驶训练中去。 这里体现的问题在于:尽管上述每一种情况都非常罕见，但是驾驶汽车时总会有很多奇奇怪怪的事情发生，所以我们总会遇到其中的某种情况。 更为典型的例子可能就是关于文本中出现的词语。英国国家语料库（BritishNational Corpus）是一个从各种来源获取英语文本信息的大型数据库。语料库中共有大约一亿个单词，其中大部分词语是人们经常使用的，但也有一些词语在整个语料库中只出现过一次。令人惊讶的是，这部分词语所占的比例是0.5%。语料库中出现次数最多即10次（这可是一亿分之十的概率）的词语，占总体的1.7%。这是一个典型的长尾分布的案例。在这种情况下，这些非常罕见的词语之所以极其重要，是因为它们的数量过于庞大。因此，我们在阅读文本时才能够有机会看到它们。通常情况下，我们并不指望一个智能代理能从那些极为罕见、一般不会出现的经验中学到什么。如果可以忽略这些罕见事件，系统仍然可以正常运行；如果无法忽略，且它们又是类似于长尾现象的情况，那么只依赖于过往经验的系统就会崩溃。 人工智能的进化 112 ## PDF_PHYSICAL_PAGE_INDEX=124 | PRINTED_PAGE=113 无意识与有意识 大多数驾驶员都知道，在路上遭遇突发事件是种什么状态。我们可能边开车边抿了口咖啡，听着收音机，并且不时和车里的朋友聊聊天。事故的发生可能是由于雪盲，也可能是误入歧途。这时，你的驾车状态立马就发生了变化:把咖啡放到一边，关上收音机，与朋友的闲聊也改变了话题，大家一起讨论如何应对目前的状况。我们的全部注意力都集中在驾驶行为上，而在之前这仅仅是一种背景行为。 简单来说:我们是将驾驶从无意识的行为转变成了有意识的行为。这是一种简化。实际上，即使是在无意识的“自动驾驶”行为当中，我们也花费了心思。对于自己正在进行的行为，我们可能还没有自觉地意识到，但是在汽车行驶过程中，我们清楚地观察着路况，并实时做出应对。如果有人问我们在高速路上都干了些什么，回答可能是“我和朋友在车里听收音机”，而不是“我正沿着路的方向顺时针打方向盘”。但毫无疑问，这两件事我们都在做。 通过强化培训，我们的专业技能得到了提升，这样在很多情况下我们就能够做到一心二用甚至多用，比如边开车边听收音机。 长尾理论与培训的界限 113 ## PDF_PHYSICAL_PAGE_INDEX=125 | PRINTED_PAGE=114 同样，当我们步行、开车、骑自行车(参见第5章)、弹钢琴或煎鸡蛋时，也可以一心二用。事实上，国际象棋专家拥有这样一种技能：在下棋的同时能够专注于其他事情。（实验表明，国际象棋专家在计算一长串数字之和的同时，仍然能够把棋下好。）哲学家休伯特·德赖福斯（Hubert Dreyfus）认为，集中所有精力做一件事的人只会是新手，而非专家。 不过，在出乎预料、异乎寻常或者人地生疏的环境中，我们都会变成新手。驾驶行为就变成了有意识的行为。而这也是对情况的简化处理。因为我们不会像进入冥想一样，全身心地放松下来。我们只是会更加留意开车这件事，但也不一定具体到手放在何处、脚踩在刹车板上的压力（除非我们突然感觉转向或制动有问题）这种事情。 那么，在这种不熟悉的状况下，人们会如何表现呢?最糟糕的情况是，我们会陷入恐慌，手足无措。如果表现得好，即使出现一些从未听过或者见过的问题，我们也能够做到不那么慌乱。我们还可以借助相关的背景知识来应对。 通常，我们会学习如何在常规状况下(在街道和高速公路上)驾驶汽车。而且即使在这种情况下，教练也会叮嘱我们要保持警惕，随时对可能发生的意外情况做出反应。 那么在雪盲的例子中，我使用了哪些知识呢?关于交通事故，我了解到：在类似汽车从道路冲入沟渠的案件中，后果比较严重的是两车相撞，相撞程度取决于两车的相对速度。我没遭遇过汽车碰撞的事故，但我和大家一样，都从新闻报道中听说过一些。(这也算是书本知识。）在雪盲的情况下，我不得不担心前后方可能发生的汽车相撞情况。所以，马上停车并不是一个明智的选择。我还记起：重型货车在爬坡时会打开应急双闪灯，以此警示后方车辆保持车距，减速行驶。我决定效仿这种做法，并且希望前面的车辆也能够这么做。我从未听说过或者了解到可以如何应对雪盲。(安大略省的司机驾驶手册上确实提到过雪盲，但并没有提供应对之策。）这是我利用背景知识应对问题的新方式，与认为电影《2001:太空漫游》比1968年发行的电影好看得多没什么区别。 人工智能的进化 114 ## PDF_PHYSICAL_PAGE_INDEX=126 | PRINTED_PAGE=115 所以，我们可以总结一下：在一种极端情况下，无意识的活动是指身体参与其中、心思却在别处的活动，这种活动以经培训获得的技能为依托。而在另一种极端情况下，有意识的活动是指需要我们注意力集中的活动，这种活动重视个体对于活动本身的注意程度，而非大量的培训。 威诺格拉德模式测试 背景知识在有意识的活动中的使用，可以充分地证明：智慧行为不只是从经验中学习的结果。当然，经验是有用的，你接受的培训越多，经验就越丰富。从统计学的角度来看，一个完善的系统令人印象深刻。但是这些数据也可能忽略了一些罕见却重要 第章 长尾理论与培训的界限 115 ## PDF_PHYSICAL_PAGE_INDEX=127 | PRINTED_PAGE=116 的事件。 现在，我们再来考虑一下第4章提到的威诺格拉德模式测试。可能有人会问:回答这些问题有没有什么技巧呢?请看下方的例子： 1.这是一个威诺格拉德模式测试的例题： 奖杯无法装进棕色手提箱里，因为它太小了。这里的“它” 指的是什么？ ·奖杯 ·棕色手提箱 解析如下： 二者之间的关系为R。 其中一个具有属性P。是哪一个？ 对于上面的问题，我们可以得到：R=“无法装进”，P=“太小了”。 2.使用大数据：在网上检索所有的文本信息，确定哪种模式更为常见：R(x，y)+P（x)还是R（x，y)+P（y)? 这两种模式分别对应以下两种情况， x无法装进y里+x太小了； 人工智能的进化 116 ## PDF_PHYSICAL_PAGE_INDEX=128 | PRINTED_PAGE=117 x无法装进y里+y太小了。 然后根据更为常见的模式来回答该问题。 利用“大数据”的方法来回答威诺格拉德问题，不失为一种好方法，而且也确实可以解决许多问题。 然而，我们也能够举出反例，证明这样的方法有时行不通。 如下文所示： 奖杯无法装进棕色手提箱里，尽管它很小。这里的“它”是指什么？ ·奖杯 ·棕色手提箱 请注意，即使此次答案与上次不同，但这里的R和P却不变。 那么我们能从中得出什么结论呢?只是掌握更多样的技巧就够了吗?例如，利用“不”“除非”“尽管”等字眼。然后，问题就变成了这样： 尽管萨米用尽办法，但奖杯仍无法装进棕色手提箱里，因为它太小了。这里的“它”是指什么？ ·奖杯 ·棕色手提箱 第章 长尾理论与培训的界限 117 ## PDF_PHYSICAL_PAGE_INDEX=129 | PRINTED_PAGE=118 是不是技巧还不够完美？ 假设我们真正关心的是那种能够答对大部分威诺格拉德模式测试题的系统，那么从工程学的角度来看，最好的策略就是使用一些简易的小技巧。毕竟，把时间都浪费在那些低概率事件上是不值得的。例如，在威诺格拉德比赛，甚至是与人类的竞赛过程中，用多样的技巧获胜是一件概率很大的事情。从统计学的角度来说，那些处理不当的例子便都不怎么重要了。 不过，如果你想更好地了解人们正确回答威诺格拉德模式测试题的能力，那么人类靠自己而非靠技巧来解决问题，就显得尤其重要。我们想要了解的是人类能够做什么、如何做，而不是可能做一些类似的事情。即使是威诺格拉德模式测试里的一个例题，也能提供重要信息，告诉我们人类能够做哪些事情。我们不能简单地撇开题目，然后大声喊道：“这种情况几乎不可能发生！” 正是对人类如何处理罕见事件的关心，促使我们不断地超越自适应机器学习的研究。我们处理类似黑天鹅事件的能力，并不是通过额外培训后形成的刻板、单一的行为模式的结果。相反地，这更像是一个全新的、依赖于背景知识的工作机制。 但这仍然给我们带来了一个重要的问题：这一机制的本质是什么？ 人工智能的进化 118 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/72c4da97-7cf2-441a-a985-c1252297d6a3.md?start=130&limit=10)