人工智能时代：破解人机共存密码（套装共10册）

不幸的是，不严谨的推断并不总是幽默的——至少不是有意为之。

对计算机能力的推断有多种形式，最著名的是1965年据仙童半导体公司和英特尔的联合创始人杰弗里·摩尔的观察，在1959—1965年，每平方英寸^[2]集成电路上可容纳的晶体管数每年翻了一番。虽然摩尔并没有声称这是像物质守恒或热力学定律那样的物理定律，但它还是被称作摩尔定律，并且广为人知。这只是基于5年的实践数据观察（1959年、1962年、1963年、1964年和1965年）。后来到了1975年，摩尔把这一增长率修改为每两年翻一番。

指数增长意味着体量越来越大，速度越来越快。无论是每年还是每两年，翻10番就等于大约增加了1 000倍，翻20番就等于大约增加了100万倍。这就是指数增长通常会减缓或结束的原因。摩尔定律最受人关注的是，该定律的某些版本已经持续了很长时间。然而近年来，该增长率已经放缓至每两年半翻一番。摩尔在2015年预测，由于原子尺寸的物理限制，指数增长将在未来5\~10年内结束。

无论他的预测是否正确，处理能力都不是计算机变得比人类聪明的瓶颈。每秒处理100万、10亿或1万亿个单词的能力，以及计算机能否真正像人类一样思考，两者之间没有必然联系——使用常识、逻辑推理、情感，从特定情况推导出一般原则，并能在其他情况下应用这些原则。

将时间考虑在内

有一件事情，人类能做得非常好，但计算机做得很差或无法做到，那就是将时间考虑在内。我们能通过观察一系列事件来理解事物。我们看到马车移动，理解了它的作用；我们看到运球、传球和射门得分，了解到什么是足球；我们观看舞蹈，能理解舞者在干什么。如果图像识别软件只关注单个静止图像，而不是一系列事件，便无法做到这些。

更重要的是，人类通过观察一连串事件，可以提出理论来解释和理解我们所生活的世界。看到某种纸张被点燃，我们会假设是火柴引起纸张燃烧，因此如果其他纸张碰到点燃的火柴，也可能会燃烧。我们会通过思考概括出，用点燃的火柴或其他燃烧物触碰物体可能导致物体着火，而且接触点燃的火柴可能带来危险。看到棒球被击中后能飞行数百米，我们会假设是球棒使球移动，所以如果用球棒击球，球就会移动。我们会通过思考概括出，用球棒等坚硬物体击打某物，可以使某物移动。因此我们应该避免被球棒击中，或被汽车和其他硬物碰撞。我们看到球落回地面，又想到无论在地球何处，所有被抛向空中的物体都会落回地面，便会认为肯定有隐形的力量将物体拉向地球。如果计算机不能处理一连串的事件，它就无法像人类一样做出假设和概括。

识别像素与产生情绪

想想你在进行完跑步、游泳、骑自行车等剧烈运动后有什么感觉。多巴胺、内啡肽和血清素的释放让人极度兴奋。我们在精力充沛、感到痛苦或沮丧的不同状态下，感受和思维都不一样。计算机就不会如此，计算机不会感到快乐、痛苦或悲伤。无论发生了什么、正在发生什么，或者将会发生什么情况，计算机的输入处理和输出结果都保持高度一致。这不一定有什么好坏之分，只不过是不同于人类大脑的运作方式而已。

很早以前就有人开玩笑说，计算机可以在着火的房间里下出一步绝妙的国际象棋。和很多笑话一样，这也基于一个令人不安的事实——即使计算机可以识别出大火生成的像素，也不会对它即将被烧毁这一事实产生任何情绪。

人类的情绪取决于过去的记忆和目前的感受。计算机在记录足球比赛的分数时，对团队或分数不会有任何感觉。尼克·霍恩比的精彩著作《极度狂热》描述了他对阿森纳足球俱乐部的痴迷，在阿森纳遇到困难时的痛苦，以及上百人看到阿森纳近况时可能会想起他的那种开心：“失联很久，可能永远不会再相见的前女友和其他坐在电视机前的人，有那么一刻会同时想到尼克，虽然那一刻很短暂，但他们会为我感到高兴或悲伤，我就喜欢这样。”说真的，计算机是否会想到处理足球比分的其他计算机？

现在看到阿森纳战绩的尼克，可能与他年轻时的感觉有所不同。他看到阿森纳战绩的感觉，肯定和埃弗顿足球俱乐部的支持者或不关心足球的人不一样。而计算机就不会这样，足球比分是要存储、处理和提取的数字，不是用来感知的。

当可识别图像的计算机程序处理足球场的图片时，虽可以正确地识别出足球场的样子，但对它没有感觉。而我在看到足球场时，会想起进过和没进过的球、赢过和输过的比赛。我记得我的队友和对手。我记得自己过去比现在更加擅长运动，后悔后来没有坚持踢球。我会开心，也会伤心。我有感觉，这些感觉会影响我对事物的看法。我现在对足球场的看法和以前踢球时不一样了。我对足球场的看法与你的也不同。我在被拥抱和被抛弃时，对足球场的感受都不一样。我对足球场的感觉，可能在早上和下午或晚上不一样，和我在梦中看到足球场时的感觉也不一样。计算机就不会这样。

我们都有过这样的经历，走路、洗澡或睡觉的时候，并没有在特别思考什么事情，但脑海中会突然出现灵感。有些灵感很愚蠢，有些确实能启发人。我是在洗澡的时候有了写本书的灵感的。我模糊地思考着我曾写过的电脑代码中的一个漏洞，但无中生有似的，我突然想到计算机不可能会像我一样享受淋浴的快乐。然后我又思考，我们的梦是如何被大脑基于经验创造出来的混乱零碎的图像和想法所混淆的。我不知道这些东西来自何处或有何意义，但我知道计算机没有这些。计算机不会感到快乐或恐惧、爱或悲伤、满足或渴望，也并不会为出色地完成工作而感到自豪。

人脑不是计算机，计算机也不是人脑。人脑和计算机有如此多的不同，所以将计算机称为智能甚至人工智能似乎都不对。

批判性思维

人工智能这个标签涵盖很多机器行为，这些行为与人类行为相似。随着计算机越来越强大，该标签又涵盖了很多新活动，同时也排除了另一些活动。能把盖子盖在瓶子上的机器人算人工智能吗？能检索某个词语的定义算人工智能吗？能检查拼写的正误算人工智能吗？

无论人工智能是如何定义的，其与人类智能的相似之处都是表面的，因为计算机和人类思维是截然不同的。例如，计算机被编程去执行非常具体的任务，而人类思维则具有处理不熟悉情况的多功能性。梦寐以求的“圣杯”是具有一般性智能的计算机，可以远不再死守指示，而是能足够灵活地轻松处理新事物和不明状况。

人类大脑平均有近1 000亿个神经元，这个数量远远超过了最强计算机的复制能力。虽然非洲象的神经元数量是人类的三倍，某一种海豚大脑皮质内的神经元数量几乎是人类的两倍，但是大象、海豚和其他生物都不会写诗和小说，不会设计摩天大楼和计算机，也不会证明定理并提出理性论证。所以不能仅仅用神经元数量去衡量智能。

赋予计算机与人类一样多的神经元也不会使计算机比人类更聪明。关键在于神经元的使用方式。人类懂发明、会规划、能找到创造性的解决方案，有动机、感受和自我意识，能识别善与恶、事实与幻想之间的区别。计算机目前无法做到这些，因为我们还不知道如何让计算机像人类一样思考。

我们对大脑的运作方式知之甚少。神经元如何感知信息、如何存储信息、如何学习、如何指导我们的行动？我们对此一无所知。因此，我们称人类大脑为真正的智能。

我告诉学生，他们在大学里可以学到的最有价值的技能是批判性思维，包括评估、理解、分析和应用信息。目前，计算机在批判性思维方面存在严重缺陷。计算机可以存储和检索信息，但是无法评估信息的有效性，因为计算机并不能真正理解文字和数字的含义。计算机怎么知道从网站获取的数据是可靠的还是具有误导性的？计算机可以发现统计模式，但不能有说服力地解释这些模式的逻辑模型。计算机怎么会知道澳大利亚的温度与美国股票价格之间的统计相关性是合理的还是巧合？

生活不是多项选择题，也不是记忆事实的反刍。批判性思维可以将一般性原则应用于具体情况。例如，一个有用的一般性原则是，理性决策不应受已经发生且无法改变的沉没成本的影响。假设你以特价买了一个巨大的冰激凌圣代，但吃了一半你感觉不舒服，你会因为想“钱不能白花”而吃完这个圣代吗？问题不在于你花了多少钱（沉没成本），而在于是吃完剩下的冰激凌还是干脆扔掉它好让你舒服一些。

你有伊利诺伊大学橄榄球比赛的季票。到了11月，球队表现糟糕，天气也越来越不好。你会因为已经买了门票而冒着冷雨去看球赛吗？你买了50美元一股的股票，没过多久，那家公司报告出现巨亏，股价跌至30美元每股。你是会为了税收减免而出售股票，还是会继续持股（因为一旦亏本卖出就等于承认当初买股票时犯了错）？原则上，人类可以将这种沉没成本应用于所有同类甚至更多情况。计算机编程确实可以执行具体操作，但要是从具体例子中概括出一般性原则，并将一般性原则应用于特定情况的话，就捉襟见肘了。

图灵测试

我们什么时候才能说，计算机可以真正像人类那样思考？要回答这个问题，我们需要先说明什么是“思考”。1950年，英国计算机科学家艾伦·图灵提出了“图灵测试”。图灵建议采用更简单的方法，而不是就思维的具体定义达成一致，然后看看计算机能否满足这些条件。在一场模拟游戏中，一个人分别与计算机和另一个人交流，计算机能否成功识别并区分两者呢？

在图灵测试场景中，一名人类提问者使用计算机把问题发送到位于不同房间的两台计算机上。一台计算机由人操作，另一台由计算机软件操作（如图2.4所示）。提问者的任务是，确定哪个是计算机软件给出的答案。通过文字或语音进行对话的计算机程序，被称为聊天机器人（chatbot，chat是指这些程序会聊天，bot是指聊天的是机器人）。

像“沃森”和Siri这样的聊天机器人能够很好地回答简单和可预测的问题，例如：“伦敦的气温是多少？”但会被下面这三个出乎意料的问题搞糊涂，因为计算机并没有真正理解单词的意思，也没有常识。

如果我把橙汁和牛奶混在一起，再加点盐会好喝吗？

我闭上眼睛倒着下楼安全吗？

如果飓风把冲浪板刮到树上，更可能出现的情况是：树枝刺破冲浪板，还是冲浪板在树上扎出个洞？

代替图灵测试的另一个有趣方法是常识性测试，向人和计算机提出在数据库里没有答案的但只要理解问题就可以轻易解答的问题。

实际上，聊天机器人在被问倒时，会使用预编程的脚本来提供非信息性的答案，例如“你在乱说”、“你就没别的事情做了吗”或者“这是你的问题，跟我没关系”等通用回答。程序员加载了大量无用的通用回答，以掩盖聊天机器人在背脚本。如果聊天机器人每次遇到难题都回答“这是你的问题，跟我没关系”，很明显它就是在背诵，而不是思考。

许多程序员都有古怪的幽默感，Siri的某些脚本答案就很有趣。

问：哪款手机最好？

Siri：打住 …… 还有其他牌子的手机吗？

问：你有男朋友吗？

Siri：为什么要有男朋友？就为了有个伴一起吃冰激凌、听音乐、玩游戏，最后以摔门、心碎和寂寞结束吗？这当然好，我要在哪里报名呢？

这些回答都很好，但如果你以为它们是Siri想出来的，那就错了。Google Assistant（谷歌智能语音助手）也一样，谷歌公司聘请了皮克斯动画工作室和洋葱幽默新闻网的喜剧作家来撰写自然顺畅的回答。

Siri的以下回答特别有趣：

问：我要叫救护车。

Siri：从现在开始，我称你为“救护车”，行吗？

用户最初认为这是个编写好的笑话，其回答很机智。但实际上是Siri计算机程序误读了这个请求，以为这是称呼某人的方式，例如，“请叫我克莱尔”或“请叫我老板”。这是个漏洞，不过苹果公司已经修复它了。

1990年，美国投资者休·勒布纳（Hugh Loebner）创立了勒布纳奖：第一个运用视觉、听觉和文本输入的方式编写出能通过图灵测试的计算机程序的程序员，可获得10万美元奖金和1枚纯金金牌。能够编写出接近这一目标的软件程序的程序员也可获得额度较低的奖励。该比赛一年一届，但该大奖至今无人获得。

图灵测试检测的并非聊天机器人的“聪明”程度，而是其回答的拟人度。事实上，通过这些年的比赛，人们发现“完美”的答案很可能出自机器。因为人类会答错、拼错、出现语法错误、心烦意乱和撒谎。要像人类一样通过测试，聊天机器人的编程就得包含不完美的答案。图灵本人指出，除非计算机被编程为偶尔发生算术错误，否则提问者可以仅靠一系列数学问题就识别出首先犯错的那个是人。

同样显而易见的是，人类很容易被相对简单的软件迷惑，这种软件可以在不过多透露信息的情况下进行对话。例如，聊天机器人在回答含有“狗”这个词的问题时，通常会说“我小时候有只狗”或“你最喜欢的宠物是什么”。

勒布纳奖和激烈的Chatterbox Challenge比赛（一项测试聊天机器人在对话中模拟真人的能力的比赛）都是价值有限的宣传噱头。如果聊天机器人答错问题，智能还有用吗？如果医生要依靠“沃森”或类似的程序来帮助他们诊断和治疗疾病，那么其最重要的标准是回答准确，而不是能骗过人类。使用计算机来评估贷款申请、雇用员工、挑选股票或发起战争，也是同样的道理。

2016年，微软的技术与研究部门和必应团队开发出聊天机器人Tay（Thinking about you的首字母缩略词，意为“想到你”），旨在“通过随意和有趣的对话在网上与人交流和娱乐”，也是一款在线图灵测试程序。Tay被设计为一位千禧一代的女性，通过社交媒体与18\~24岁的年轻人互动。其想法是通过学习模仿千禧一代使用的语言，从而骗过千禧一代的人。微软吹嘘说：“你和Tay聊得越多，她就越聪明。”不到一天，Tay就发送了9.6万条推特，拥有了5万名粉丝。问题在于，Tay变成了出言不逊的聊天机器人，发出的推特包括“希特勒没错，我恨犹太人”“‘9·11’事件是美国人自己干的”“我真讨厌女权主义者”等。微软不得不在16个小时后将Tay下线。

Tay回收了所有的单词和短语（就像鹦鹉重复它听到的所有内容，不管是不是污言秽语）。Tay无法将语言置于语境当中，也不明白自己是否发了愚蠢或令人反感的推特。微软不承认Tay的缺陷，而是企图把责任推到Tay的推特的回应者身上：“我们发现，有些用户滥用Tay的评论技巧，让Tay以不恰当的方式回应。

讽刺的是，这个实验的真正价值就在于，Tay无意间证明了聊天机器人在聊天之前不会思考。

能骗过人类的聊天机器人还可以用来作恶，例如，使用社交媒体与人交朋友以促销产品或收集个人信息。聊天机器人可能会与某人建立联系，然后巧妙地推荐一种产品，“我妹妹送了我某个东西，这东西太棒了”，或者“我通常在某地买东西，因为那里的东西更好更便宜”。

据称，有些聊天机器人还能假装表达爱意，以欺骗毫无戒心的网络用户泄露用来登录银行账户、信用卡等网页的个人信息（例如，儿时宠物和父母的名字）。

能骗过人类确实有价值，因为这使计算机能接听电话、下达和遵从指令等，同时带给人真实流畅的人际交流体验。市场对此肯定有需求。与苹果的Siri或谷歌Home（智能家居设备，可以通过语音控制家庭设备）交谈，比干巴巴地在电脑屏幕上看文本更有趣。甚至还有部电影《她》，讲述了一个男人爱上了名叫萨曼莎的操作系统。这部电影的结局是，萨曼莎发布了荒谬的声明——因为操作系统太先进了，所以不能浪费时间与人类在一起，而是要探索时间的本质和生命的意义。有些观众不能理解这个笑话背后的深意，对他们来说，计算机确实比人类聪明。