人工智能时代：破解人机共存密码（套装共10册）

按照生物心理学的研究，人的自我意识当然也是进化的产物。人一般在1周岁左右会发展出初级阶段层面的自我，这第一层面的自我叫表象阶段的自我，这个阶段人会把自己当作他人看待，用名字称呼自己。例如，小明会把自己叫“小明”，会说“小明要……”，而不是“我要……”。再大一点儿时人会发展出第二阶段层面的自我，学会说“这个是我的”，但是这个“我”的概念还是指将某某东西归属于我。能主动用第一人称的“我”来代替自己的名字，这时初步的自我意识就产生了，这多半要到2周岁。第三阶段层面的自我是在儿童发育到3\~6岁时完成的，即能够自我评价，进行自我行为的控制。这一阶段人就发展出相对完全的自我意识了。有一个著名的自我意识的“镜像测试”，即给小孩子的额头上点一个红点儿，让他们站在镜子面前，看他们会不会去摸自己额头上的那个红点儿。一般来说，18个月大的孩子都能通过测试。这个实验最早是在大猩猩身上做的，大猩猩是可以通过测试的，而猴子不经过特殊训练是通不过测试的。

此外，明斯基认为，还可以从跨时间的三个维度考察自我。第一个是先天的遗传维度的自我。承载特定遗传基因的生物意义上身体的自我维度，是生物意义上的一种自我。第二个是文化遗产维度的自我，是经过后天的社会化和文化教养获得的一种自我。这种自我是与社会关系中的他者互动形成的自我，是一种人际的自我。第三个是具有心路历程维度的自我。它依赖一个人的意识经验过程，构成所谓自传式的自我。

最早从理论上提出“自我”概念的是哈佛大学的心理学家威廉·詹姆斯。他认为，意识和自我意识是进化的产物，是为了有机体达到生存的实用目的演化而来的。人类之所以发展出自我意识，是因为要在有限的资源下抵御敌人，在环境中有效生存。机器显然没有数亿年的人类物种的进化史，机器的自我有没有可能实现，或者说，具备什么样的条件才能认为机器有意识和自我意识，这正是机器意识和机器自我研究的出发点。

机器意识与机器自我的初步研究

机器意识与机器自我的研究主要是人工智能领域的课题，20年前就有人在探索，但最近几年受到更多关注，中国的一些学者也在逐步进入这一领域。目前人工智能要建造有意识的机器分为两大策略：一个是纯粹算法的策略，包括自上而下的符号计算和自下而上的统计计算策略；另一个是类脑策略，主张受人类大脑结构和大脑工作机制的启发进行有意识与情感的人工智能研究，这是最近几年人工智能研究者与脑科学家联手探索人类心灵本质的新的研究方向。国际上探索大脑机制的脑计划有2013年奥巴马政府的“人类大脑研究计划”，其目标是做出正常的人类全脑神经元图谱，类似于人类基因组计划的做法。2013年欧盟也宣布实施人类大脑计划，目的是进行人脑的计算模拟，用芯片创建和复制人类大脑。中国新近也启动了大脑计划，目标是将大脑的基础理论研究成果运用到医疗、教育及人类增强技术等领域，以提高人类生活质量，增强人类能力。

人工智能的先驱者明斯基在20世纪80年代有一句名言：“人不过是肉身的情感机器。”你说你有喜怒哀乐、爱恨情愁，有自我意识，其实你不过就是一台有情感的以大脑为资源的机器而已。2006年他写了一本长篇著作就叫《情感机器》。

2003—2005年，一些学者提出建造有意识的机器系统需要满足如下几个必要条件：第一，要有感知状态；第二，要有意象能力；第三，要有注意能力；第四，要有规划能力；第五，必须有情感。其中意象能力要求系统有一种建构图景或设计情景、联想情景的能力，包括建构世界的一部分“像是什么样子”的感受性能力。例如，从未去过希腊的人要制订希腊旅行计划，首先大脑会聚焦世界的一个部分并去想象它，创建一些希腊像什么样子的意象，其次再去设计未曾去过的地方的旅游路线和行程，预测未曾经历的事件会怎样发生以及如何应对。

其中第5个条件非常重要。机器必须有情感状态才能算真正有意识，知道如何分辨好坏、善恶，懂得做价值评判。机器要有进行道德判断并做出有道德行动的能力，它必须有自己的价值系统。因此，如果人类期望未来的机器不危害人类利益，成为值得信赖的智慧机器，仅仅把人类价值的规范自上而下地植入机器系统是不够的，还必须让机器自下而上地自主学习伦理道德，产生自发的道德情感和道德觉知，有意识地做出既不伤害人类又兼顾机器需求的道德决策能力。

2011年后，一些学者开始考虑，要达成此目的需要在上述5个条件中再增加一个自我意识，使机器意识更为丰满。“认知心理学之父”奈塞尔著名的“五个自我面向说”成为今日机器自我研究的指南之一：第一个是生态自我面向，即能够充分利用外部环境资源，在现实世界与环境互动的自我面向；第二个是人际自我面向；第三个是跨时间延伸的自我面向；第四个是观念自我面向；第五个是私密的自我面向。所谓跨时间延伸的自我，是指在生命过程中，一个个体仍然保有自我的同一性特性。所以，建造有自我意识的机器人就要从这几个方面去理解自我和实现不同维度的自我。

我们都知道，人类有一种非常强的独特情感能力，那就是共情的能力，他人痛苦时我们会怀有恻隐之心，我们也相信情同此心，心同此理。人类正因有共情的能力才能达成人与人之间的理解。只有让机器也具有这种同理之心，它才有可能理解人类。1992年，曾任欧洲脑与行为学会会长的里佐拉蒂及其研究小组，通过研究恒河猴的前运动皮质神经元工作机理，发现了猴脑中共情的“镜像神经元”效应，其后人们在人脑中也发现了同样的机制。这一工作为研究人类如何具有同理之心，如何具有模仿学习的能力，甚至如何建立自我与他者的关系，共享外部世界经验等提供了重要的认知心理学的说明。这一发现也被誉为20世纪最重要的心理学成就之一。所以，研究机器的人际自我的专家希望借鉴镜像神经元理论去建构有模仿能力和交流能力的机器人。

例如，让几个机器人在一面镜子前做各种动作，再重放动作录像，让每个机器人指出哪个动作是它做的，据说中科院自动化研究所的机器人可以通过这个实验。2015年，美国伦斯勒理工学院就曾做过机器人在镜子前通过动作相互交流的实验，这一工作是探索机器自我的一种尝试，他们声称制造出了有人际自我的机器。

此外，康奈尔大学机器人实验室主任、《3D打印：从想象到现实》的作者利普森则通过另外的实验探索机器如何具有自我意识。因为明斯基在20世纪80年代就主张，人的意识实际上是由两层脑实现的：第一层是指挥自己和外部世界打交道的行动脑；第二层是对行动进行监督的脑，相当于有一个对行动反馈进行价值评估的脑。在利普森看来，由此假设出发可以探索出一条有自我意识的机器人的制造之路。他相信，自我意识的一个重要特征应当是具有想象自我、建构自我图景从而进行未来行为决策的能力，特别是能够想象自己处在一个未曾经历的环境中，建立自我形象，并在这样一种自我形象的基础上进行行动预测和规划。利普森声称他们真的做了有两个脑的机器。这是一个装有一系列传感器，由8个马达驱动的4条腿走路的机器人。底层脑指挥机器人向前走动，高层脑评估底层脑所引导的行动能否正确达到目标，再根据环境信息反馈调整前进的方向、速度和姿势……这样，机器就建立了一种所谓的自我形象，能够评估自己的行动了。机器最初并不知道自己是什么样子，经过十几次实验后，它才开始把自己的形象与外部环境关联起来，通过调整自己越来越适应外部世界，也逐步可以预测路况稳步前行了。

为了进一步测试自我意识的程度，利普森大胆地把机器的一条腿卸掉了。一天之后，他发现机器人慢慢开始调整卸掉一条腿的身体，把只有3条腿的身体当作和外部世界打交道的自己，慢慢调整行为在环境中生存下来了。利普森就此说，这表明机器进化了。他也因此主张，最好把机器人放在一个真实世界里，不要仅在虚拟世界里讨论算法，而是要让机器人到外面与外部世界直接打交道，这样它就会慢慢进化，知道所处环境是什么样的以及它在环境中的角色，就像把小孩子放在自然环境里面，他会灵活地与这个世界互动，具有与环境的自适应性一样。

如果人类自我与机器自我遵循独立演化的道路，前景如何

目前，关于机器自我的实验似乎都想模仿人类自我的进化模式，但对于人的自我和机器的自我是不是遵循同样的演化道路，存在巨大的争议。今天有一门叫认知科学的学科，是一门包括心理学、人工智能、神经科学、哲学、语言学、人类学、教育学等多学科的大型交叉学科，认知科学就是以跨学科的方式探讨人类智能，探讨人类心灵的本质是什么。目前成果最为丰富的就是脑科学和人工智能，人们一直在寻求通过模拟人类大脑实现有意识的人工智能的道路。然而，直到今天，脑科学还没有搞清楚我们人类到底是如何依赖大脑去工作的，我们只知道，如此这般思维做出如此行为的时候，某些脑区在活动，但是，人们还无法完全定位是哪些特定脑区刚好实现这些功能，我们还没有搞清大脑图谱的所有细节，人类对自己大脑的了解还处于盲人摸象阶段。

尽管大家熟知的DNA（脱氧核糖核酸）的发现者、脑科学家克里克说，其实人类所谓的喜怒哀乐、爱恨情仇，我们的一切行为，我们的一切所思所想不过是大脑神经元的生物化学反应而已。难道机器没有这样一个生物的大脑就没有智能吗？我们是自然演化的，机器是人类制造的，机器自我的呈现是人工的数字化算法实现的，它是不是会走另一条通过生命演化出意识和自我意识的完全不同的演化之路？

2016年10月，霍金再次发表剑桥演讲，论述如果机器以独特的演化途径自我演化，演化出超越人的意识的自我意识，其前景是更糟了还是更好了。当然，他认为，人工智能很可能发展成一种完全与人类相冲突，有独立自由意志的东西，从而使人类文明历史终结于此，人类在自掘坟墓。2016年年底，在世界级的O’ Reilly人工智能大会上，与会者提出了12个权威观点。我们可以择其要把惊人之语摘录出来。人工智能是一个黑箱，我们不知道它将走向何方；人工智能不是个简单技术，有时我们想要土豆，结果却造出了红薯；人工智能必须考虑文化和社会背景；人工智能用处极大但并非万能，我们现在好像找到了一些好梯子，但是找到好梯子不代表能登上月球；人工智能是一种增强智能，它同时拥有人类的力量和机器的力量；人工智能改变了人机对话方式，但它需要懂得人类情感；别再用图灵测试了，换个更智能的测试吧，比如让机器满世界送比萨。

最后一个权威观点是质疑人工智能的探索路径是否正确。今天人们都是想在实现智能的某种物质载体，如大脑和整个有机体中找到人类智能，把大脑看作由神经元链接构成的一个产生智能的生物物理化学反应器，要把那些精神的、心灵的、意识的、自我的东西通通都还原成大脑和整个有机体这样一个物理系统中的东西，找寻到可以完全还原的物理规律来。这条物理主义的道路能不能走得通在学界也是存在争议、值得深入探讨的难题。有人说，现在人工智能走到了一个即将产生巨大变革的关节点，是真正需要大智慧和更多灵感的时候了。让我们共同期待大智慧的到来吧！

余论

人工智能如果完全是人类的创造之物，人类可以让它去做好的事情，也同样可以让它去做坏的事情。如果人类确实是有理性的智慧物种的话，就会引领机器的发展走上一条向善的轨道，但是我们并不能排除某些疯狂的或邪恶的技术科学家会设计危害人类自身的机器，使其去做危害人类自身的事情。当然，至少目前这个控制权还在人类手中，在科学家和人工智能的技术专家手中。因此，我们需要制定相应的规范科学家和技术人员的工程伦理准则。从另一个视角看，如果机器真的遵循另一条演化道路，演化出了超越人类心智的机器，相信它肯定是更具智慧的，会比人类的价值观念更高一筹，相信它应该是更加向善、更可信赖的，否则何谈超越人类智慧。

如果真的有一天，邪恶的科学家和技术专家造出不受控制、作恶的机器，那就等于人类自掘坟墓，自毁前程。我相信到了那一天，人类退出历史舞台也是自然的命运。如果机器在人类的控制下，人类应该不让它作恶毁灭人类；如果机器不在人类的控制下，人类终将被毁灭，这种命运是不以人类的意志为转移的。人类在自然史上确实已经超过很多生物物种的寿命，而且人类对整个星球的生态破坏到达了危险的边缘，人类对其他生命以及对自我生命的漠视也达到了空前的程度，如果继续作恶下去，必将受到自然和生命自身规律的惩罚，人类自然也没有理由永久占据这样一个生态位了。

2016年4月1日我就说：“不作死，不会死。”如果人类作到底，也许就真正自我埋葬了。所以，我们应该警惕的是恶意制造和使用人工智能的人类罪人，而不是机器本身。应对人类未来挑战的解决之道应该是建构人机交互的良好生态和社会环境。理想的道德智能主体应该是人机融合的延展认知系统，其道德责任归属是分布式的。

当然，一个更值得反思的问题是颇具悖谬色彩的，机器有意识和道德觉知就意味着有行动的自主选择权利。如果真正具有自主性和自我意识的人工智能实现了，就意味着AGI（通用人工智能系统）时代真正到来，也就是机器可以说“不”的时代到来了。从人类未来的前途命运考虑，这种人工造物的一切行动能否持守人类的善根是大大值得怀疑的。人类创造了工具，工具也塑造着人类，人工算法的进化和技术的演化自有其作为社会技术系统的演进轨迹。如果作为嵌入社会环境的“生命3.0”系统的演化是可能的，恐怕它也是不以人类利益一家独尊的意志为转移的。我认为，为未来人机融合的延展认知系统制定相应的伦理规范，需要考虑如下三个层面：个体主体的层面、个体自我的层面以及作为社会技术系统的层面。特别是作为一个道德主体的延展认知系统，应当在三个层面都有充分界定和描述，充分考量相应的道德伦理规范。

应对人类未来挑战的解决之道应该是建构人机交互的良好生态和社会环境。理想的道德智能主体应该是人机融合的延展认知系统，其道德责任归属是分布式的。

刘晓力，北京大学哲学博士，哈佛大学哲学系访问学者。现为中国人民大学哲学院教授，中国人民大学哲学与认知科学交叉平台负责人及首席专家，分别在科学哲学和逻辑学专业担任博士生导师。研究方向为逻辑学、心灵哲学与认知科学。曾出版著作《哥德尔思想研究》，在《中国社会科学》《哲学研究》等期刊上发表论文，主持国家社科基金重大项目“认知科学对当代哲学的挑战”。目前兼任中国自然辩证法研究会科学哲学专业委员会理事长，是《自然辩证法研究》《自然辩证法通讯》《科学技术哲学》多家杂志编委。

浅识_、误解与想象力

——人工智能反思的中国语境程乐松

相遇的两重境况：浅识与自觉的异质感

毋庸讳言，如果需要有效地将人工智能与中国的文化及思想语境结合在一起，形成完整且具有启发性的论述，就必须厘清人工智能及其中国语境的具体内涵，同时也要明确人工智能与中国思想资源之间可能存在的互动机制。对缺乏专业技术训练及当代技术史的专业性修养的观察者和思考者而言，人工智能是一个由陌生术语构成的“知识和语义深渊”：从结果的意义上来说，人工智能引致了极为丰富的想象空间和面向未来的可能性，并且以此方式推动了人类重新审视生命的本质与世界的价值基石，从而成功引致了绝大多数人文学科的反思立场及其思想资源的极大兴趣；然而，从发展态势与技术理解的意义上来说，人工智能是胶着晦暗的混沌。除了少数技术专家外，绝大多数关注人工智能话题的知识分子都对其中的机制和限制缺乏准确的了解。与此相对，人工智能在公众媒介和社会生活中的热度让任何一个与之有关的科技进展都变成某种公众事件和思想论战的阵地。更为重要的是，绝大多数此类论战或公众讨论的参与者都不是技术专家，而是一些依赖充满误解的、浅近的概念与常识展开的，基于想象力的谈论者。这样的境况是一种典型的知识性断裂，即绝大多数关注者从知识意义上来说并不具备参与深度讨论并且展开正确对话的能力。

人工智能引致了极为丰富的想象空间和面向未来的可能性，并且以此方式推动了人类重新审视生命的本质与世界的价值基石。

从1956年的达特茅斯会议到逻辑推理与概率统计的路线之争，再到本质主义与经验主义之间的跨越，直至类脑计算与深度学习创造的机器，人工智能以众多具有高度公众关注价值、颠覆常识的历史事件的方式，向人们显示了其在21世纪的蓬勃复兴及恐怖的潜在统治力。这种标准化的历史叙述，以及其中充满神话感和隐喻性的技术话语，将绝大多数的关注者都推入了一种复杂的矛盾情绪之中。一方面，人工智能的技术胜利又一次证明了现代理性及人的神话，掌控世界能力的跨越性提升大大满足了人类自身的想象力，人类甚至第一次获得了规划“自身”并从技术上创造“思想与情感”的能力。不妨说，人类第一次取得了“上帝视角”。另一方面，人工智能的技术黑箱与巨大的发展潜力，让我们集体进入了一种“近未来焦虑”状态。人工智能带来的本质性跨越，可能意味着人类自身将面临前所未有的挑战，乃至毁灭性的危机。喜悦与焦虑的交织，让人工智能成为言谈的焦点，同时也进一步远离由技术专家构成的“操作层”，变成了缺乏知识基础和界限性共识的话语形态。

简言之，巨大的技术壁垒和专业性术语鸿沟，让人工智能的公众话语空间拒斥任何可供分析的细节和精准描述，细节和精准描述的缺失又让人工智能在公众话语与社会思想的反思中呈现出一种奇特的低门槛效应和众声喧哗的态势。充满热情和想象力的讨论同时创造了大量具有想象空间的语词，例如“智能未来”“人工智能赋能”“智能时代”“人工智能世纪”“后人类智能”，这些语词缺乏精确的技术指向，但可以引致广泛且充满某种现实感的理解或误解。如果做一个简单的修辞策略的分析，这些语词都不约而同地指向以下两种特征。其一，某种具有未来感的历史性表达，即尝试锚定一个未来的时间段，而后用一个看似必然的技术想象让这一未来的时间段形成某种现实感，从而将未来推入历史。进一步说，这些话语正在用语义的模糊性实现的想象空间创造一种面向未来的“历史感”和“现实性”，绝大多数的讨论者通过这些语汇将未来挤压进一种历史主义的叙述模式之中，从而在言谈中负担起来自未来的焦虑，并引发了以想象为基础的人文性反思与讨论。其二，用隐喻和换喻的方式，将技术术语改造成“日常语汇”，形成一种既熟悉又陌生的张力，在可亲近、可理解的表象中制造一种陌生的紧张感和期待感，从而将陌生的技术领域纳入日常话语的框架之中，引致缺乏理性边界感和知识实在性的空泛的理解。