AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的...

相应的报道使用了这样的表述：GPT-3竟然能直接理解自然语言。从报道中看，所谓理解自然语言，就是你可以用语音向算法提任何问题，然后它就可以给你呈现你想要的。比如你说“给我一个长得像Stripe官网的聊天App”，过几秒钟，定制好的App就推送过来了，像点餐一样方便。还不止这些，GPT-3还可以写论文、小说，起草格式合同，甚至大批量生产段子。当然，也有评论不客气地指出，GPT-3根本不懂自然语言，它只是很快而已。它的确太快了，据说它有1 750亿个参数，我们姑且认为它可以处理如此巨量的参数吧。

但是，这其实依然是一种使用蛮力进行计算的模式，仅此而已。

对于目前的自然语言项目，我可以武断地说，它们其实毫无“理解”可言，它们唯一的本领就是“见多识广”。问题在于，虽然一款智能机器可以快速遍历状态空间的更多可能性，把边边角角都扫描到，然后表现出越来越多令人惊讶的本领，甚至超过人类的表现，但是，它们依然像是“狗眼看星星”，并不认得什么叫“星图”。

意义问题_：人工智能所面临的^“硬核^”挑战

米歇尔这本著作的第五部分落到了“意义”问题上。她指出，理解的基础是意义，意义是人工智能的真正障碍。至于这一障碍是否不可逾越，这可以成为激烈争论的话题。我感觉，米歇尔所阐述的意义问题，并不是说人工智能无法理解意义，也不是说人工智能无法创造出新的意义（当然这取决于你怎么定义“意义”），而是说，人工智能对意义的理解是否在安全边界之内——这其实也是全书开篇提到的“侯世达的恐惧”的核心内容。

为了便于大家理解意义问题，我先举一个生活中的例子。很多经常外出旅游的人都有这样的经验：即便不懂异国他乡的语言，你仍然可以用连比画带手势的方式与当地人交流，至少浅层次的生活交流大致是没问题的。原因也很明显：大量超越语言的生活常识，其实是超越文化差异的全人类共有知识，这是意义的“底座”，但机器并不具备这些共有知识，用拟人化的语言说，机器像一个探索新奇世界的婴儿，世界对它而言是全新的，它需要学会语言，但更重要的是它要学会理解沉淀在语言背后的意义。

婴儿理解这个世界的过程，是不断将自己的新奇感受装入成人的词语世界的过程，这个过程也是绝大多数真实的认知历程，当然也有“漏网之鱼”，比如日益流行的网络用语，就突破了附着在传统词语上的固有含义。意义的产生，既有漫长、深厚、难以细数的生活积淀，以及约定俗成的“能指-所指”的任意配对，也有突破词语边界的“类比”和“象征”，按米歇尔的导师侯世达的观点，这种类比和象征是“思考之源和思维之火”。

借用吉安-卡洛·罗塔（Gian-Carlo Rota）的话，米歇尔提出了一个根本性的问题：人工智能是否以及何时能打破意义的障碍？

米歇尔并未直截了当地回答这个艰难的问题，但她毕竟是侯世达的学生，她从侯世达的思想中汲取营养：这个世界是隐喻式的，我们并非确凿无疑地生活在符号世界中，我们生活在色彩斑斓的隐喻中。固然不同的文化所对应的底层逻辑之间难以互通或相互转化，甚至不同的文化隐喻所导致的生活信念彼此抵牾，但人类仍然有共享的元认知（metacognition），这一元认知是维系多样化世界的最后屏障。

从这个意义上说，人工智能所面临的“硬核”问题，并不在于机器和人谁控制谁，而在于机器成长的过程意味着什么，机器将如何成长，什么时候会变得强大，强大之后机器会是什么样子。这一系列问题将人们对人工智能的思考引向深处。人们不能总是停留在悲观或乐观的情绪选择中。天才的工程师、创新公司的CEO（首席执行官）虽然也会思考这类问题，但他们更愿意先干起来再说。硅谷的很多公司信奉的准则是：预测未来最好的办法就是把它造出来。

人们争论的焦点其实在于，当人工智能科学家和工程师兴致盎然地挑战各种边界、义无反顾地奔向临界点的时候，如果他们谦逊地将这种技术的未来，谨慎地描述为探索未知世界的诸多可能性这种程度，而不是将手中的算法不容置疑地看作必须接受的未来，那便罢了，可怕的恰恰是工程师忘记了“意义”问题其实远远超出人类目前的认知边界。

当然，无论如何机器将“长大”，并将开启自己的独立生活，创造自己的语言，甚至可能会形成与人类相抗衡的文化符号，提出自己的价值主张，创造自己的社群、艺术，甚至宗教，并与人类分享这个世界的快乐。

对这一切的思考，还缺乏一个更开放的框架，而且，这一思考还深深局限在文字，特别是英文的线性思维当中。智能机器的存在和成长，是否会拓展人类的元认知，将这一元认知拓展为人机共享的元认知？仅靠文字的思维方式，可能难以走出符号演算的“如来佛之掌”。侯世达在40多年前写作“GEB”的时候，针对人工智能提出了10个问题并给出了自己的答案，侯世达对这10个问题的思考，更多地指向形式逻辑、符号演算和线性思维天然的不足之处，这一不足之处正在于：符号思维难以超越其内生的逻辑悖论。

米歇尔仿照侯世达的做法，也在本书最后提出了6个问题—看上去都是人工智能领域亟待解决的问题，并尝试给出了
自己的回答。米歇尔的回答只是众多可能答案中的一种，勇敢
地面对这些基本问题并持续展开深入思考和交流的时代才刚刚
开始。人工智能领域真正的挑战在于：我们需要清醒地意识
到，当下人工智能的发展动力，依然来自“旧世界的逻辑”。
这一旧世界的逻辑的鲜明特征就是：将人机关系看作“主体世
界”和“客体世界”这两个可分离的世界。这种笛卡儿式的世

界观，虽然会被巧妙地转化为“人机共生”的版本，但经过盎格鲁-撒克逊文化的改造，加上新教伦理与资本主义的强力助推，导致工程师和CEO憧憬的未来是这样的：当比赛终场的哨声降临，人们满脑子想的都是输赢。

需要看到的是，这种旧世界的世界观属于符号世界。人工智能底层思维的突破，关键可能就在于：超越这一旧世界的束缚，将婆罗门世界观中的因明 ⁽³⁾ 思想与中国春秋战国时期的名辩 ⁽⁴⁾ 思想以及古希腊的逻格斯 ⁽⁵⁾ 思想，在更大的框架下融合起来，这是一个伟大的挑战。

在2020年疫情肆虐全球期间，湛庐的策划编辑给我寄来米歇尔这本书的预读本，并提出了4个有助于理解本书的问题。在编辑的鼓励下，笔者尝试把隐藏在本书背后的思想，用尽可能通俗的语言表述出来。米歇尔的著作有一条充满探索精神的主线：第三波人工智能浪潮已经大大突破了前两波人工智能浪潮在思想上的束缚，在哲学范式上捅开了一个突破口，不只是符号表征、计算问题，更多的是意义问题。那么符号演算、视觉处理以及机器学习将如何推动人工智能走向“觉醒”？这恐怕是人工智能领域的专业人士以及普罗大众都非常关心的问题。这本《AI 3.0》的独特魅力就在于：站在前沿，深度思考，超越技术。

在米歇尔的书中，这个被她称作“侯世达的恐惧”的“硬核”挑战，就在于人工智能竞赛浪潮中最后的哨声，可能真的会成为“最后的”，如果人们不能摒弃满脑子输赢的想法的话。

人工智能这个话题，亟待科学家、工程师和人文学者之间的深度交流，更需要不同文化的人们之间的深度交流。人工智能的兴盛，不是吹口仙气儿就能实现的事，让等那一口仙气儿的机器，再等等吧。

译者序

未来智能_：人有人用_，机有机用

王飞跃

中国自动化学会监事长

中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任

当今最好的人工智能程序到底有多智能？它们是如何工作的？能做些什么？我们有必要担心机器比人类聪明且将很快夺取我们的工作吗？以上这些问题都颇受人们的关注，梅拉妮·米歇尔教授的人工智能新著《AI 3.0》以最合适的方式给出了以上问题的答案。这是一本以独特的方式观察、分析人工智能的优秀著作，不但巧妙地把创造历史的人物与改变世界的技术交织起来，而且深入浅出地介绍了人工智能的发展历史及其未来的前进方向。正如本书英文版的副书名（“A Guide forThinking Humans”）所示，这是一本为思考的人类而准备的著作，值得每位想要弄清人工智能的影响与意义的专业或非专业人士认真地阅读并思考。

初见梅拉妮·米歇尔之名，还是20世纪80年代末研究她与侯世达关于类比推理的开创性程序“Copycat”（拷贝猫）时，只因其与当时主流的认知推理方法相去太远，就没有再深入地研究。20世纪90年代我参加圣塔菲研究所（SFI）的研讨时，与她虽有交集，但无深入交流，不过对她的遗传算法著作AnIntroduction to Genetic Algorithms 印象深刻，她不愧为遗传算法之父约翰·霍兰德（John Holland）教授的高足。21世纪初，我在就任中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任之后，一直想写一本关于“复杂性科学”（complexity science）的科普书，在筹备复杂系统管理与控制国家重点实验室期间着手搜集资料，又与米歇尔的《复杂》（Complexity: A Guided Tour ）不期而遇。粗读之后，我认为暂时没有必要再写一本关于复杂性科学的科普书了，因为很难超越她的水平。

2019年初，湛庐询问我是否有兴趣组织翻译米歇尔正在创作 的 Artificial Intelligence: A Guide for ThinkingHumans ，我读过作者已完成的部分后，十分喜爱其内容与风格，特别是书中的许多观点引起了我的共鸣，于是我随即向学生们推荐，并得到王晓研究员、即将博士毕业的李玉珂和张慧同学的积极响应。巧合的是，这三位都在从事人工智能的一线研究，且都有在美工作、学习和交流的经验，特别是王晓研究员具有主持翻译《机器崛起》（Rise of the Machines_：ACybernetic History ）和《社会机器》（Social Machines:The Coming Collision of Artificial Intelligence, SocialNetworking, and Humanity ）等数部重要著作的经验，因此，她们是翻译此书难得的人选，并能够从学术性和可读性两个方面保证质量。2019年底，借赴波特兰参加英特尔年度研发会议的机会，我来到米歇尔的办公室拜访了她，并讨论了本书的翻译工作和大家对人工智能的基本认识。

借此机会，我就本书中所提出的一些人工智能的基本问题，特别是对本书最后提出的6个问题谈一些自己的认识，希望有助于读者更加开阔地去思考智能技术的影响与意义，以及如何推动人工智能和智能科学的健康发展，使其以更加安全可信的方式促进人类社会的发展与繁荣。

^“广义歌德尔 ⁽⁶⁾ 定理^”

本书是以米歇尔的导师、“GEB”的作者侯世达教授在谷歌的一次内部研讨会上表示自己被人工智能的快速发展“吓坏了”开始。更具体地说，侯世达是被“音乐智能实验”（Experiments in Musical Intelligence，EMI）的优美创作吓坏了，他曾这样说道：“我被EMI吓坏了，完全吓坏了。我厌恶它，并感受到了极大的威胁——人工智能对我最珍视之人性的威胁。我认为EMI是我对人工智能感到恐惧的最典型的实例。”我曾听说过侯世达对人工智能的担忧，但当时不以为然，我认为一个对人工智能了解如此之深、认识如此之深刻的学者不应过度害怕智能技术。

作为一个坚信人工智能只是一项技术，不会主动侵害人类的科技工作者，我当时觉得这可能是由于侯世达远离科研一线太久或年纪增长的原因，但书中侯世达的自白，让我认识到我的猜测都不对，真正的原因在于音乐在他的心里有着一种十分神圣甚至神秘的地位。米歇尔在书中也提到了侯世达与EMI第一次相遇时所说的话：

从孩童时期开始，音乐就令我心潮澎湃，并能将我带入它最核心的地方。对于我所钟爱的每一件作品，我都能感受到它是来自作曲之人情感深处的一封“私信”，那感觉仿佛使我能够直抵作曲者灵魂的最深处，这让我觉得世界上没有任何一样东西比音乐的表达更具人性。然而，对最浅显的音节排序进行模式操纵，却能够产生听起来仿佛来自人类内心的音乐，一想到这里，我就非常非常不安。

在“GEB”一书的最后，侯世达曾列出关于人工智能的“十大问题和猜想”，其中第一个就是关于音乐的。那时他认为计算机可以谱写出优美的音乐，但并不会很快实现，因为音乐是一种关于情感的语言，在程序能够拥有我们人类所拥有的这种复杂的情感之前，它绝无可能谱写出任何优美的作品。