智慧的疆界 从图灵机到人工智能

9.4 与机器共舞

过去几十年，人类与人工智能竞技的故事是一部英雄或者说是恶魔崛起的故事。1997 年，人工智能在国际象棋上击败了卡斯帕罗夫；2011 年，人工智能在智力竞赛上击败了人类冠军；2015 年，人工智能识别图片上物体的单项能力已经超过了人类；2016 年，人工智能在围棋上战胜了李世石；2017 年，人工智能在Dota2 游戏对战中完胜世界冠军；2018 年，人工智能在特定疾病的诊断判别上超越医学专家……现在，很多人害怕人工智能会取代自己的工作，甚至取代人类本身。人工智能的崛起，让人类不得不去慎重思考现在以及未来如何与我们的创造物共处。

美国《纽约时报》的著名记者约翰·马尔科夫（John Markoff，1949—）在 2015 年出版了一部名为《与机器共舞：人工智能时代的大未来》（Machinesof Loving Grace ：The Quest for Common Ground Between Humans and Robots）的书籍，深入分析并预言了现在、未来人与机器的关系，可以用一句话来总结该书的观点：人类与人工智能不应该是互相竞争的关系，而是互补共生的关系。为了强调人工智能与人类的共生关系，马尔科夫在该书中反复使用“增强智能”（Intelligence Augmentation，IA）这个词语来诠释他认为的人工智能。“增强智能” 原 本 是 由 图 形 用 户 界 面 的 先 驱 者 道 格 拉 斯· 恩 格 尔 巴 特（DouglasEngelbart，1925—2013）在 1968 年创造的、用来定义新型人机交互关系的名词。在马尔科夫的视角里，“增强智能”所提倡的就是“人机共生”，并不是用人工智能取代人的人类智能，而是用机器来增强人的智力，在特定的背景下将人工智能应用于特定的领域，与行业结合，解决行业问题。

9.4.1 人工智能的威胁

人类与人工智能即使都能够从事智力活动，也必然是各有所长的，机器能在算术、计算、记忆、逻辑、数学等事情上比许多人类做得更好，这些即便用你的手机也能做得更好、更快。同样，也有很多人类能轻易做到但对机器来说很困难的事情。哪怕是年龄很小的孩子，都具有直觉、类推、创意、同理心、社交等技能，但无论是能在棋盘、牌桌上打败国际大师的人工智能，还是能够准确诊断疾病的人工智能，甚至是大语言模型取得革命性进步后，专门设计用于模拟人类语言对话的人工智能，都无法在不加任何限制条件的情况下通过图灵测试^○一。这些事实和道理我们都懂，人与机器各自的优劣势不言自明，这也是目前对人工智能略有了解的普通人就能够达成的共识，但我们如果再深入一些去思考，双方有这样的优劣势意味着什么？又决定了什么？

第 9 章 与机器共生

385

这意味着，未来随着以机器学习为代表的人工智能技术的不断迭代，机器肯定会变得越来越善于解决一个又一个问题，不过，无论人工智能的技术和理论方法如何改进，只要没有改变当前人工智能的目标和方向，只要还没有触及“人工意识”这类强人工智能的高级阶段，哪怕机器再擅长解决问题，也只有人类才会提出问题，这决定了人机共生关系中，人类始终是主导，机器始终是助手，是辅助的工具。

这样的解释也许仍然不能平复人类心中的担忧，不断进化发展的人工智能，真的会心甘情愿地一直充当辅助工具的角色吗？不止科幻小说作者，连霍金这样的科学家都警示过这种风险。其实，如果机器确实意识到了自己是“辅助工具”，会有“是否心甘情愿”的心理活动，那说明机器已经产生了自己的思想，这样的机器已经可以作为一种全新的物种来看待，即使它还未曾反对人类，威胁也已切实发生了。但是机器产生心智意识这件事情会因为我们现在的人工智能研究而出现吗？笔者认为不会，我们虽然不知道心智意识是如何产生的，却可以相当肯定地说，弱人工智能无论如何发展，都很难产生心智意识。

弱人工智能和强人工智能的名字虽然接近，但两者的理论方法并没有什么顺承关系，弱人工智能不是通往强人工智能的前期基础，甚至两者可能毫无共通之处。因此，即使弱人工智能的技术理论发展的时间再长，也不会对强人工智能的实现有多少实质性的促进，相比弱人工智能的进步，反而是脑科学、神经生理学、认知科学等的发展更容易触及心灵和意识的奥秘。机器学习中的“没有免费的午餐定理”也从侧面强调着“智能必须有专长”这项约束。正因如此，笔者与别人谈起人工智能时，从来不会主动讨论“人工智能继续发展，未来是不是有可能毁灭人类？”之类的问题，而会跟对方说，在恐惧、害怕未来的人工智能会不会具备跟人类一样的目标和价值观之前，应该先想明白人工智能发展下去，怎样才会出现“价值观”的概念。

386

第四部分 人机共生

○一 在加州大学圣迭戈分校发表的论文“ Does GPT-4 pass the Turing test”中，GPT-4 取得了迄今为止所有智能模型最高的置信度（41%），但距离通过图灵测试依然遥远。

霍金等科学家的警告，更多是对我们应该慎重涉及强人工智能的警示，我们在完全搞明白心智意识的成因，能够确保人类族群自身的安全之前，对强人工智能的探索应该慎之又慎。但这种谨慎并不是对现在正在蓬勃发展的弱人工智能添加束缚。

抛开人工智能威胁人类族群安全这样目前还很空泛的幻想讨论后，反而可以看到有两种其他意义上的“人工智能的威胁”是可以预期会发生的。

第一种是社会分工的竞争。哪怕人工智能只是会变成人类的助手，也会由于人工智能技术的普及而导致许多原本从事这些辅助工作的人类失业。如果未来的社会只需要“会提问题的人”的话，那从传统制造业工人到办公室里处理日常事务的大量企业员工的工作都要受威胁，人类最终只留下那些从事创造和监督工作的人，这听起来是一件颇为令人难以接受的事情。

人工智能对重复性、事务性工作的侵入确实正在发生，如图 9-16 所示，这是东莞富士康工厂里的生产线，图中空无一人的工厂画面与我们心中对工厂中生产的印象大相径庭，倒是与维纳曾经在《控制论》中预言的情形相差无几。

第 9 章 与机器共生

387

维纳预言的世界确实已逐渐来临，不过，这又如何？工业革命之前，世界各国有八九成的人口都要从事农业生产才能保证社会的正常运作，那时候的人无法想象有朝一日如果绝大部分人都不种地了，这个世界会变成怎样的情境。而今天的美国农业人口占比已经不足 1% 了，既没有因此发生失业潮，也没有发生世界大乱。说到底，对“人工智能会革掉非创造性职业的命”的担忧，本质上还是如何看待人与机器的关系的问题，如果把人与机器的合作关系看作一场工作职位上的零和博弈，一方多占了一些领地，另一方就要失去一些的话，那人工智能就是许多职业切实的威胁。可是笔者认为更可能出现的不是零和博弈，而是双方共赢的合作，人工智能作为人类有力的工具，它的出现不仅仅让某些事情变得更容易、更快捷，还会解锁某些新的、之前不可能实现的思考、生活及存在方式。只要不是一蹴而就地把全部职位都立刻替换掉，那人工智能就是推动社会分工进步的动力。

第二种“人工智能的威胁”更为隐蔽，但是也已经不可逆转地发生了来自人工智能对信息垄断控制的威胁。我们已经习惯了打开搜索引擎，找想要的信息；打开新闻客户端，看看每天的新闻资讯；打开微信朋友圈，了解朋友和同事的最新动态。我们的生活方式已经深度依赖上互联网这个人类历史上绝无仅有的信息平台。而现在，互联网上越来越多的信息是被人工智能所控制甚至是直接由人工智能创造的：你看到的那些搜索内容，是人工智能决定让你看到的，尽管搜索引擎可能为你提供了 1000000000 条结果，但你最多只会使用前面的 50 条或者 100 条，这是人工智能决定的搜索结果顺序；你上美团、饿了么 App 点外卖，上京东、淘宝 App 购买商品，也是人工智能根据你的消费习惯和个人喜好为你推荐的。这里面人工智能对庞大信息的筛选过滤确实提升了我们的工作、生活的效率，可是我们在享受数据的便利的同时，也渐渐失去了意外收获的机会。你上网易云音乐去听歌，如果平时喜欢摇滚乐，人工智能搞明白后，可能就听不到其他的音乐风格了，会错失跟它们邂逅的机会。如果没有意外的便捷生活就是我们想要的，那笔者摘录一段在网上^○一看到的描绘“智能乌托邦”的画面给读者看看：

388

第四部分 人机共生

○一 https://www.zhihu.com/question/45090211。

“我们一出生，人工智能系统就会根据我们的基因选择最优的成长路径。我们会阅读最合适的读物、观看最合适的娱乐作品。衣食住行也都不用操心，全被安排妥当。到了适婚的年龄，智能系统会推荐最匹配的情侣，无论怎么算，我们的性格和其他个人条件都跟对方最搭。智能系统知道怎样让每个人开心，它会定时定量地给我们一些刺激。有时候是直接吃药，有时候是看一段有趣的视频，有时候是给我们推荐几个好玩的朋友。所有的痛苦都被抹杀。在这个乌托邦里我们只享受快乐。总之，每个人的一生都会高高兴兴地度过。根据智能系统的测算，这个时代的人类，在整个历史上都是最幸福的……”

这样的未来并不全是凭空臆想出来的，在《必然》（The Inevitable）里，凯文·凯利（Kevin Kelly，1952—）提到，所有的集体智能和机器都会融合为一个被他命名为“Holos”的整体，Holos 包括了所有人的集体心智、所有机器的集体行为、自然界的智能相结合形成的整体，以及出现在这个整体中的任何行为。这个整体目前尚属不完美的初级阶段，以互联网的形态覆盖着 510 亿公顷的土地，触及 150 亿台计算机，占据 40 亿人类的心智，消耗地球 5% 的电能，它就是未来智能乌托邦的载体。

不知道会不会有人真的向往这样的生活，但是在笔者脑海中闪现出来的画面是图 9-17 这样的，即在电影《机器人总动员》中被人工智能和机器人抚养得极为妥帖的人类。笔者没有从画面中感受到幸福，反而有一种隐隐的不安。

令人感到更不安的是当前已存在的直接风险，即人工智能控制我们看到的数据，本身是没有目的性的，但其背后的人是有目的性的：你随手点了一家看似不错的餐厅的外卖时，也许不会意识到它是花了钱后才被系统推送到你的面前的；当你津津有味地阅读新闻客户端的推荐文章时，也不知道有些文章其实是软文或者公关文章。由于信息的垄断控制，商品和信息流转过程中增加了额外的隐性环节和成本，轻则会损害最终用户利益，这些成本最终都要转嫁到用户身上；重则会干扰最终用户的判断。在信息社会，人控制了人工智能作恶，比人工智能自己学会作恶的可能性要大得多。这种威胁与原始社会的火、封建社会的刀、现代社会的核能并无不同，它确实会给我们带来伤害，但也是机遇所在，具体取决于我们如何使用这项工具。

第 9 章 与机器共生

389

9.4.2 人工智能的机遇

说到机遇所在，我们不必去看多么遥远的将来，现在就能观察到无数人工智能带来的价值和机遇。“英伟达”（Nvidia）公司肯定是近十年最突出的人工智能带来商业价值的落地的代表，从这家公司身上可以看到整个硬件产业被人工智能带动前行的缩影。

根据这家全球领先的显卡制造商最新披露的财务数据（截至 2024 年 6 月），它已经超越了微软和苹果公司，成为全球市值最高的企业，如图 9-18 所示。本书第 1 版（2018 年出版）曾经写到“英伟达公司的股价已经比 2012 年深度学习爆发前夕增长了 20 多倍”。比起这个 10 年翻 20 多倍的成绩，英伟达的市值在 2023 至 2024 财年只用了一年的时间就猛增了 7 倍之多。

英伟达毫不讳言自己市值快速增长的秘诀，这家以生产游戏显卡和显示芯片闻名的公司，早已把自己官网主页的标题改成了“英伟达，一家人工智能计算公司”。

2007 年，英伟达非常有预见性地提出了“统一计算设备架构”（ComputeUnified Device Architecture，CUDA）的概念，并将其实现在以代号 G80 为核心芯片的 NVIDIA GeForce 8 系列显卡上，第一次让显卡上的“图形处理单元”（Graphics Processing Units，GPU）具备了可编程的能力，使得 GPU 的核心“流式处理器”（Streaming Processor，SP）既具有处理像素、顶点和图形等渲染能力，又具有通用的单精度浮点运算能力。英伟达将采用了 CUDA 架构的 GPU 称为“通用图形处理单元”（General Purpose GPU），“通用”的目的很明确，就是想“染指”游戏图形之外的科学运算市场，让 GPU 既能做游戏和渲染，也能做并行度很高的通用计算任务。

390

第四部分 人机共生

英伟达提出 CUDA 架构开辟新的战场，既是自身发展的战略规划决定的，也有很大一部分原因是外部市场环境压力所迫。当时英特尔（Intel）公司已经把在计算机中央处理器（CPU）中集成的 GPU 单元的性能提升到能完全满足低端用户需求的程度，而超微半导体公司（Advanced Micro Devices，AMD）在竞争激烈的高端游戏显卡市场推出了游戏性能更强大并且功耗和散热更优的产品与英伟达直接竞争。一时间，行业龙头英伟达被围追堵截，颇有些四面楚歌的感觉。从 2007 年初起，短短一年多时间，英伟达的股价就从最高 37 美元跌落到最低不足 6 美元。

而 CUDA 架构的及时出现，不仅拯救了在游戏领域陷入竞争泥潭的英伟达，还正好击中了人工智能尤其是深度神经网络的痛点。可以说，整个深度神经网络技术在过去几年的崛起，除了得益于辛顿提出的深度学习理论、ImageNet 大规模视觉识别挑战赛之外，CUDA 架构提供的并行运算能力也功不可没。谷歌大脑训练神经网络在 YouTube 上识别猫，原本需要同时使用超过2000 片 CPU，后来只使用了 12 片 GPU 就完成了相同的任务。辛顿拿去参加ImageNet 挑战赛的 AlexNet，也是采用了两片 GeForce 显卡代替 CPU 来完成训练，后续参赛的残差网络（ResNet）等作品，全部都基于 CUDA 平台运行。如果没有英伟达的 CUDA，科学界验证深度学习巨大潜力的时间不知道还要推迟多久。CUDA 技术使得在普通个人计算机上进行高并行度、高性能运算的成本大幅降低，以至于一个普通科研人员的台式计算机都有可能部署上万个并行处理内核。这促使深度学习技术在科技界迅速地发展和普及开来。如果没有GPGPU 和 CUDA，也许坚持研究了 30 多年神经网络算法的辛顿，还得继续在学术界被埋没好些年。不仅仅人工智能、机器学习的崛起造就了英伟达，英伟达和它的 CUDA 架构也同样加速了人工智能和机器学习的发展进程，这也算是一个人类与人工智能共生双赢的代表案例。

第 9 章 与机器共生

391

由于深度学习的潮流日益鼎盛，现在各个传统的芯片厂商，还有以前并不涉及芯片的信息业巨头，都看好面向人工智能的专用处理器，认为这将是继CPU、GPU 之后下一代的硬件核心，并不约而同地推出自己专门面向人工智能的处理器，意图抢占制高点。一时间“张量处理器”（Tensor Processing Unit，TPU）、“神经网络处理器”（Neural network Processing Unit，NPU）、“类脑处理器”（Brain Processing Unit，BPU）、“深度学习处理器”（Deep learning ProcessingUnit，DPU）等形成群雄乱战的场面。

可以说英伟达是硬件行业被人工智能推动的一个缩影，硬件行业又是整个社会经济在人工智能影响下的一个缩影。随着人工智能理论和技术的日渐成熟，应用范围的不断扩大，潜在需求和商业模式的逐渐明确，人工智能核心产业的边界与范围将逐步扩展。通过人工智能核心产业发展所形成的辐射和扩散效应，获得新提升、新增长的国民经济其他行业集合，均可视为人工智能带动的相关产业。根据普华永道的研究预测，至 2030 年，人工智能将为世界经济贡献 15.7 万亿美元，这个数字甚至超过了我国 2020 年的 GDP 经济总量^○一。

人工智能推动的不仅仅是经济发展，生产力决定生产关系，生产关系一定要适应生产力，这是人类社会运行的最基本规律之一。看看历史就知道：农业革命，铁器牛耕的出现，让封建地主战胜了奴隶主，地主阶级取代了奴隶阶级；工业革命，机器大规模生产的出现，让资本主义战胜了封建主义；信息革命，计算机、互联网和人工智能的出现，也将是下一次社会秩序变革的导火索。长期来看，人工智能会导致相同价值的经济生产所需的人力愈来愈少，资本主义社会的本质是劳动创造价值，价值用金钱来表现，金钱的交换就是劳动与劳动之间的交换，但是空前规模的生产效率提升，将促使社会资源从按劳分配转变为按需分配，因此必须建立与之配套的新的社会秩序，这是人工智能为人类带来的最大机遇，是生产力变革带来的社会秩序的变革。

392

第四部分 人机共生

○一 数据来源：https://www.pwccn.com/en/consulting/ai-sizing-the-prize-report.pdf。

9.5 本章小结

本章最后我们再来回顾开篇提出的问题：现在人工智能已经发展到什么程度了？读过众多应用案例，了解过人工智能取得的成就之后，各位读者心中是否已有了自己的答案？

人工智能是人类最复杂精巧的创造物，它带来机遇，也带来危险，但它肯定不会是“人类最后的发明”，相反，我们创造出来的东西让自己成为更好的人，这便是开始。本书结束的这一刻，笔者心中想起了英国首相温斯顿·丘吉尔（Winston Churchill，1874—1965）在 1942 年阿拉曼战役胜利时讲的一句话：“现在并不是结束，结束甚至还没有开始，现在仅仅是序幕的尾声。”这也是笔者对现在人工智能发展的回答。

第 9 章 与机器共生

393

人工智能历史大事记

在本附录中，笔者整理了从人类开始严肃思考人工智能实现的可能性以来，所做出的各种尝试和成果，以历史时间为线索将它们罗列出来，供读者参考阅读。

1913 年 伯特兰·罗素（Bertrand Russell）和阿弗烈·怀特海（AlfredWhitehead）出版了彻底改变逻辑的著作《数学原理》（Principia Mathematica）。

1915 年 莱昂纳多·克韦多（Leonardo Quevedo）建造了一台名为“ ElAjedrecista”的国际象棋机器，人类开始追求机器自动推理、思考的理想。