--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能时代：破解人机共存密码（套装共10册）" author: null edition: null publisher: null year: null isbn: "9787521719512" library_document_id: "396e1bee-219e-4bee-9884-3214c17ff8f5" source_sha256: "e5d429a1fedfac2a13b0bd25057c39d818c33927767948a9bb41411f01413ced" pdf_physical_page_count: 3314 pdf_physical_page_index_base: 0 range_start: 180 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5?start=180&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=180&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=170&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=190&limit=10" --- # 人工智能时代：破解人机共存密码（套装共10册） > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=180 | PRINTED_PAGE=NOT_DETECTED [1] 洛夫莱斯写道：“分析机没有任何理由自称能创造一切。它可以做任何我们知道如何指令它执行的事情。它可以跟踪分析，但它没有预测任何分析解析或真相的能力。”这是艾 伦 · 图 灵 驳 斥 的 反 对 人 工 智 能 的 论 点 之 一 ， “Computing machinery andintelligence,” Mind 59 (1950): 433–60。 （1）机器人不得伤害人类，或因不作为使人类受到伤害。 （3）除非违背第一及第二定律，机器人必须保护自己。 重要的是要理解，阿西莫夫提出这三条定律是为了塑造有趣的故事情节，而不是作为未来机器人专家的严肃指南。阿西莫夫在《环舞》等几篇小说中都说明了从字面上理解定律的问题后果。从现代人工智能的角度来看，这些定律没有承认任何概率和风险因素：因此，将人类暴露于某种伤害的可能性（无论多么微小）的机器人行动的合法性尚不清楚。 ## PDF_PHYSICAL_PAGE_INDEX=181 | PRINTED_PAGE=NOT_DETECTED [11] 布莱奇利公园是“二战”期间的密码破译中心。——译者注 ## PDF_PHYSICAL_PAGE_INDEX=182 | PRINTED_PAGE=NOT_DETECTED 的人工智能辩论 ## PDF_PHYSICAL_PAGE_INDEX=183 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=184 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=185 | PRINTED_PAGE=NOT_DETECTED 《经济学人》杂志对尼克·波斯特洛姆的《超级智能》的评论以这样一句话结尾：“将第二个智能物种引入地球，意义深远，值得深思。”[1]大多数人会将此解读为英式轻描淡写的经典例子。当然，你可能会认为，今天的智者们已经在做这种艰难的思考了——参与严肃的辩论，权衡风险和利益，寻找解决方案，找出解决方案中的漏洞等。但是据我所知，这还没有发生。 当你第一次向技术观众介绍这些想法时，你会发现他们的脑袋里会冒出一个个想法，以“但是……但是……但是……”开头，以感叹号结尾。 第一种“但是”是否认。否认者说：“但是这不可能是一个真正的问题，因为XYZ。”有些XYZ反映了一种推理过程，它们可以被宽容地描述为一种一厢情愿的想法，而另一些则更有实质意义。第二种“但是”是转移话题：承认问题是存在的，但是认为我们不应该试图解决问题，要么因为它们是不可解决的，要么因为有比文明的终结更重要的事情要关注，要么因为最好别提它们。第三种“但是”是一种过于简化的即时解决方案：“但是我们不能只做ABC吗？”就像否认一样，有些ABC同样让人立刻感到遗憾，而另一些ABC更接近于认清问题的本质，这或许是出于偶然。 我并不是说，对于“设计拙劣的超级智能机器会给人类带来严重风险”的观点，人们不能有任何合理的反对意见，只是我还没有看到合理的反对意见。既然这个问题看起来如此重要，它就应该得到最高质量的公开辩论。因此，为了开展这场辩论，并希望读者能对此有所贡献，让我简要介绍一下迄今为止出现的一些观点。 否认 ## PDF_PHYSICAL_PAGE_INDEX=186 | PRINTED_PAGE=NOT_DETECTED 否认问题存在是最简单的解决方法。Slate Star Codex（直译为“石板星手抄本”）博客的作者斯科特·亚历山大（ScottAlexander）撰写了一篇关于人工智能风险的著名文章，他写道：[2]“我第一次对人工智能的风险产生兴趣是在2007年左右。当时，大多数人对这个话题的反应是‘哈哈，等有人相信的时候再回来看吧，估计除了网上的疯子之外没人相信’。” 令人遗憾的言论 对一个人终身职业的威胁，可能会使一个非常聪明的、通常很有思想的人说出一些话，但在进一步分析后，他们很可能希望收回这些话。在这种情况下，我不会说出以下论点的作者，他们都是著名的人工智能研究人员。我也列出了对这些论点的反驳，尽管这完全没有必要。 • 电子计算器在算术方面是“超人”，但是计算器并没有接管世界，因此，我们没有理由担心会产生超越人类的人工智能。 反驳：智能不同于算术，计算器的算术能力并不能让它们接管世界。 • 马有超越人的力量，但是我们不用担心马对我们来说是否安全，因此我们不必担心人工智能系统是否安全。 反驳：智能不同于体力，马的体力强并不能让它们接管世界。 • 历史上没有出现过任何机器杀死数百万人的例子，因此，我们可以得出结论：这在未来也是不可能发生的。 反驳：凡事都有第一次，在第一次发生之前，任何事情都是亘古未有的。 ## PDF_PHYSICAL_PAGE_INDEX=187 | PRINTED_PAGE=NOT_DETECTED • 宇宙中没有任何一个物理量是无限的，包括智能，所以人们对超级智能的担忧被夸大了。 反驳：超级智能并不需要是无限的才会产生问题，物理学允许计算设备比人脑强大几十亿倍。 • 我们并不担心物种灭绝，这就像黑洞在近地轨道上出现一样不太可能发生，那么我们为什么要担心超级人工智能呢？ 反驳：如果地球上大多数物理学家都在努力制造这样的黑洞，我们难道不问他们这样做是否安全吗？ 情况很复杂 现代心理学的一个主要观点是，单凭一个智商测试分数无法描述人类智力的全部丰富性。[3]该理论认为，智力有不同的维度：空间的、逻辑的、语言的、社会的等。我们在第2章中讲到的足球运动员爱丽丝可能比她的朋友鲍勃在空间上有更高的能力，但她的社交能力较低。因此，我们不能严格按照智商高低划分所有人。 对机器来说更是如此，因为它们的能力范围要窄得多。谷歌搜索引擎和AlphaGo除了是同属于一家母公司的产品外，几乎没有任何共同之处，所以说它们一个比另一个更智能是毫无意义的。这使得“机器智商”的概念产生了问题，这还表明：将未来描述为人类和机器之间的一维智商竞赛是具有误导性的。 《连线》杂志的创始编辑、极具洞察力的科技评论员凯文·凯利将这一论点向前推进了一步。在《超人类人工智能的神话》中，[4]他写道：“智能不是单一的维度，因此‘比人类更聪明’是一个毫无意义的概念。”所有对超级智能的担忧一下子烟消云散了。 现在，一种明显的响应是，机器在智能的所有相关方面都可能超越人类的能力。在这种情况下，即使按照凯文·凯利的严格标准，一台机器也比一个人更聪明。但是这个相当有力的假设并不是反驳凯利论点的必要条件。以黑猩猩为例，黑猩猩可能拥有比人类更好的短期记忆能力，即使是在回忆数字序列这种面向人的任务中，黑猩猩也强于人类。[5]短期记忆是智力的一个重要方面。根据凯利的观点，人类并不比黑猩猩聪明，事实上，他会声称“比黑猩猩聪明”是一个毫无意义的概念。这对黑猩猩（以及倭黑猩猩、大猩猩、鲸、海豚等）来说是一种冰冷的慰藉，它们的物种之所以能存活下来，只是因为我们开恩允许它们存活而已。对那些已经因人类而灭绝的物种来说，这是更冰冷的慰藉。对那些担心被机器消灭的人来说，这同样是冰冷的慰藉。 ## PDF_PHYSICAL_PAGE_INDEX=188 | PRINTED_PAGE=NOT_DETECTED 这不可能 在1956年人工智能诞生之前，权威知识分子就对此嗤之以鼻，说智能机器是不可能出现的。艾伦·图灵在1950年的开创性论文《计算机器与智能》中花了大量篇幅驳斥这些论点。从那以后，人工智能界一直在抵制哲学家[6]、数学家[7]和其他人提出的类似人工智能不可能出现的主张。在当前关于超级智能的争论中，几位哲学家挖掘出了这些主张，以此证明人类没有什么可恐惧的。[8] [9]这不足为奇。 “AI100”（人工智能百年研究）是斯坦福大学的一个雄心勃勃的长期项目。它的目标是追踪人工智能的进展，或者更准确地说，是“研究和预测人工智能的影响将如何波及人们工作、生活和娱乐的方方面面”。它的第一份重要报告《2030年的人工智能与生活》确实令人大吃一惊。[10]意料之中的是，它强调人工智能在医疗诊断和汽车安全等领域的优势。令人意想不到的是，它认为“与电影不同，超人类机器人种族在可预见的未来世界里不会出现，甚至永远不可能出现”。 据我所知，这是严肃的人工智能研究人员第一次公开支持这样一种观点，即人类水平或超越人类水平的人工智能是不可能出现的，这一观点出现在人工智能研究飞速发展的时期，当一个又一个障碍被突破之时。这就好像一群顶尖的癌症生物学家宣布他们一直在愚弄我们：他们一直都知道，永远不会有治愈癌症的方法。 ## PDF_PHYSICAL_PAGE_INDEX=189 | PRINTED_PAGE=NOT_DETECTED 是什么促使了这种态度的大转变？报告中没有提供任何论据或证据。（事实上，有什么证据表明在物理上不可能存在比人类大脑更优越的原子排列呢？）我认为有两个原因。第一个是人工智能研究者想要证明大猩猩问题不存在的自然愿望，这对他们而言是一个非常令人不安的前景。当然，如果人类水平的人工智能是不可能出现的，那么大猩猩问题就被巧妙地解决了。第二个原因是部落习性，即人们本能地对可能“攻击”人工智能的东西严阵以待。 认为超级人工智能可能会攻击人工智能的这种说法很奇怪，而更奇怪的是人们用“人工智能永远不会成功实现其目标”这种说法来为人工智能辩护。我们不能简单地靠押宝人类的聪明才智来确保未来的灾难不会发生。 我们以前也下过这样的赌注，但都输了。正如我们早先看到的，20世纪30年代早期，以卢瑟福男爵为代表的物理学机构自信地认为提取原子能是不可能的事情。然而，他的这种自信被利奥·西拉德在1933年发现中子诱发的链式核反应证明是错误的。 西拉德取得的突破发生在一个不幸的时刻，当时正值与纳粹德国的军备竞赛之初，为更广阔的大众的利益而发展核技术是不可能的。几年后，西拉德在实验室里演示了链式核反应后，他写道：“我们关掉了所有设备，回家了。那天晚上，我毫不怀疑这个世界正走向悲伤。” 现在担心还为时过早 我经常看到头脑清醒的人说，人类水平的人工智能在几十年内不太可能到来，因此没有什么可担心的，以此来缓解公众的担忧。例如，AI100报告称：“没有理由担心人工智能对人类构成迫在眉睫的威胁。” 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/396e1bee-219e-4bee-9884-3214c17ff8f5.md?start=190&limit=10)