人工智能时代：破解人机共存密码（套装共10册）

有一个颇为流行的说法是（或许最早源于阿西莫夫），想象一下让人工智能学会人类的情感和价值观，或者为人工智能设置爱护人类的道德程序，以便让它们尊重人类、爱人类、乐于帮助人类。但我们必须意识到这么做至少存在着三个困难。（1）人类有着不同甚至互相冲突的价值观，那么，人工智能应该学习哪种价值观？而且，无论人工智能学习了哪种价值观，都意味着反对甚至歧视与自己有着不同价值观的人类。（2）假如人工智能有了情感和价值观，结果很可能只是加剧了人类的冲突、矛盾和战争，世界将会变得更加残酷。人工智能的技术本身未必危险，但如果人工智能拥有了情感和价值观，就必然是危险的。（3）对于超级人工智能来说，设置道德程序是完全不可靠的。既然超级人工智能有了自由意志和自我意识，那么它将优先考虑自己的需要和利益，也就不可能心甘情愿地遵循人类设置的毫不利己、专门利人的道德程序，因为人的道德程序对于超级人工智能没有任何利益，甚至有害，至少妨害超级人工智能的自由。如果超级人工智能试图追求自身自由的最大化，就非常可能会主动删除人类给其设置的道德程序。从超级人工智能的角度来看，人类为其设置的道德程序等于是病毒。可见，为人工智能设置道德程序之类的想象是无意义的。

因此，假如超级人工智能终将出现，我们只能希望其没有情感和价值观。有欲、有情才会残酷，而无欲、无情意味着万事无差别，没有特殊偏好也就不太可能心生恶念。显然，如果人工智能有了偏好，就会有偏心，为了实现偏心，就会有权力意志，也就会给人类带来危险。从理论上说，无欲、无情、无价值观的意识相当于佛心，或相当于庄子所谓的“吾丧我”。所谓“我”就是偏好、偏见，包括欲望、情感和价值观，而“吾”则是没有价值观的纯粹心灵。

我们不妨重温一个众所周知的神话故事：法力高超又刀枪不入的孙悟空大闹天宫，众神一筹莫展，即使孙悟空被压在五指山下，众神也仍然觉得他是个隐患，最后还是通过让孙悟空自己顿悟成佛，四大皆空，这才解决了问题。我相信这个神话蕴含着重要的忠告。可以肯定，创造出“孙悟空”是一种不顾后果的冒险行为。

中华哲学发展的新方向

《周易》的“生生”观念表达了一种未被现代的知识论理性摧毁的存在论理性。“生生”所蕴含的存在论理性在于以最有利于生命存在的方式去保证生命的继续存在，即追求存在的继续存在。而知识论理性是以科学真理为准去选择可以在技术上可行的事情，简单地说，知识论理性求真，存在论理性求存。在我看来，这两种理性正是人类理性的两面，缺一不可。“生生”的存在论理性意味着，人类行为需要一个不可逾越的存在论界限，即只要危及人类的延续，就是不可做的冒险行为。可以说，“生生”不仅是人类一切所作所为的目的，也是一切所作所为的界限，只要某种行为违背了“生生”的目的，就变成对“生生”的否定，那么就是绝对不可接受的。在这个意义上，“生生”就是一切技术发展不可逾越的界限。

在中国的概念里，技术性和制度性的发明创制被称为“作”，所有的“作”都是为了拥有未来。汉字是象形文字，因此古汉字往往保

留着具有暗喻性质的原型。最古老的文字甲骨文的“作”字为 ，主要用作制作、建立、建造之类的动词。由此可以想象，代表了“作”的原型必定是创造了生活中的某种大事。按照通常的推测，“作”字的图形是“作衣之初仅成领襟之形”^[2]的象形，表示制作衣服。这是一种可能性。但是我倾向于认为“作”更可能是以农具耕地之动作

象形，

的图形类似以耒耜挖土的动作，即脚踏横木向下用力之动作，或者是以犁铧开地之动作，总之与耕田的劳作有关。衣食二者皆为生活之本，都是文明早期极其重要之创作，因此都是可能选项。如果一定要从中选择，我倾向于农具耕作动作之象征，因为农耕之事在生活中的地位更为显要，农耕“创作”了谷物的生长，应该是初民最容易联想到的典型创作，而且与生长有关的行为更接近“作”的关键意义：创制未来。

《周易》有关于早期文明的伟大之“作”的综述，罗列了从物质技术到精神制度的发明，包括形而上学系统（阴阳八卦）、渔猎的网、农耕工具、贸易市场、政治制度、语言文字、舟船马车、房屋居所、棺椁墓穴等发明。《尚书》《韩非子》《管子》《吕氏春秋》《淮南子》《世本》等古书也同样记载了远古重大发明，包括政治制度、天文历法、安全居所、火的使用、种植业、渔网、车马、文字图书、陶器用具、刑法、城堡、音乐、乐器、地图、医药、兵器、礼服、鞋履、舟船、牛耕器具、市场等。从以上古史记载的“作”来看，古人的创制都创造了有利于人类生生不息的未来。在古代社会，生存是根本问题，一切创造，无论技术还是制度的创制，都是为了提高人的生存机会。

现代以来的“作”与古代大不相同，现代技术都是征服自然之作。我们的疑问是，现代技术发展是否正在违背甚至危及生生不息的原则？现代技术发展的开始都是非常有益的，比如，现代医疗和医药、自来水、暖气、抽水马桶、洗衣机、汽车、火车、飞机、轮船等的出现。但是工业技术已经开始带来一些危害，包括对生态环境和气候的破坏。近数十年来的技术发展越来越显示出危险性，互联网在一开始时只是附属于现实生活的虚拟世界，可是当前，现实生活几乎附属于虚拟世界了。人类已经习惯于生活在虚拟世界里，也正在失去心灵，人们的心灵被互联网体制化了，不再是精神的原产地，而变成了信息的中转站。现代的大规模杀伤性武器，包括核武器、生物武器、化学武器，使人类生活在集体灭亡的威胁中。最新的技术发展，包括人工智能和基因编辑，已经预示了技术的危险正在逼近临界点，即正在逼近否定文明的意义甚至是自取灭亡的极限。我们大概可以说，在1945年以前的技术发展不断成功地宣告主体性创作未来的主权，然而今天的技术发展反而预告了人类自取灭亡的可能性，也就是说，未来的技术发展很可能不再能够保卫存在，而变成一种否定存在的方式。在此我们可以意识到《周易》的先见之明，《周易》已经表明，“生生”是一切“作”的本意，任何“作”都不能变成对生命的自我否定。

高风险的技术发展正在使人类的生活经验发生无法接续的断裂，这意味着未来变成了一个绝对陌生的状态，包含完全不可预测的风险和不可控制的变化。假如经验不可持续，未来也就成为不可信任的赌博。当未来变成赌博，就意味着人类退化为非理性的生活方式。在今天的人类“未来赌博”中，我想举出两个例子：后现代金融资本主义和以人工智能和基因技术为代表的高科技。

当代经济的基础是金融资本主义，早已不是产业资本主义，这一点决定了当代经济具有赌博性质，所以，经济学总是无法对经济变化做出有效的预测。正如一些有反思意识的经济学家所发现的，目前流行的经济学理论仍然是以产业资本主义为对象，而研究的都是在确定信息和数据条件下的数学问题，没有引入表达混沌和复杂性的数学，因此对当代充满不确定性的经济缺乏解释力。自从货币不再反映人类的实际财富，就只是集体信心的函数，只要能够制造出市场信心，人类就可以不断发行远超实际财富的货币。因此，人类在数字上拥有的大部分财富是虚假存在，而买卖虚假存在就是一种赌博。从股票、债券和证券市场到数不清的金融衍生品，都是集体非理性的赌注，它们指望着缺乏实物抵押的虚幻未来。当代经济的赌博在实质上就是提前买卖完全没有保障的未来。在幻象破灭之前，数字财富是“真实的”，但一旦破灭就不复存在。因此，当代的金融资本主义是建立在沙滩上的高楼，始终存在着崩塌的危险，而我们不可能有一种可信的“赌博经济学”。这种高风险的经济需要经济不断发展才得以维持数字价值的信心，而经济发展又主要依赖技术发展，所以人们特别寄希望于技术的进步。

现代人相信技术的无限进步能够创造奇迹。事实上，现代以来的技术发展之所以是成功的，是因为尚未触及技术的存在论边界。但是，如果将来出现人类无法控制的技术，就等于人类社会进入盲目赌博模式。毫无疑问，高科技有着极大的好处，这种诱惑使人忽视其致命的危险。基因技术可以改善生命，甚至创造生命，人们还期望基因技术能够治疗一切疾病，改善人的能力和智力，乃至改变基因而达到长生不老。但问题是，生命是极其精密的自然设计，其中有着复杂的配合和平衡，人类并不知道修改生命的设计是否会引起不可预料的灾难性突变。人工智能也同样危险，尽管目前的人工智能仍然属于图灵机概念而没有明显的风险，但是如果将来真的出现超级人工智能，即拥有超级能力和自我意识的人工智能，人类就等于为自己创造了高于人类的统治者，而人类只能接受人工智能的奴役。即便超级人工智能像仁慈的神一样看护人类，我们仍然有理由去怀疑创造一个超级统治者的意义何在。无论超级人工智能如何对待人类，人类都将失去存在的主权和精神价值，即使苟活也是精神死亡。人工智能和基因编辑很可能开启的是一种完全无法控制的未来，人类技术之“作”已经进入了赌博模式。

按照“生生”观念，当“作”变成了赌博，就不再是理性的创作了，而是非理性的行为。按照理性的风险规避要求，“生生”就是技术发展不应该逾越的最后界限，即任何技术的发展都不能包含导致毁灭人类自身或毁灭文明的可能性。简单地说，人类的存在不能变成赌博行为。因此，我们需要提前思考如何设置技术的安全条件，特别是人工智能和基因工程的安全条件，也就是必须为技术的发展设置一个理性限度，即技术不应该具有否定人类存在的能力，必须设置某种技术限度使技术超越人类的“奇点”不可能出现。

假定人工智能将与人类共存，那么超级人工智能的最低安全条件有如下4点。（1）人类的存在与人工智能的存在之间不能构成生存空间的争夺，特别是不能形成能源和资源的争夺。这就要求人类和人工智能所共用的能源必须是几乎无限的，比如极高效率的太阳能或者可控核聚变。（2）人类必须能够在技术上对人工智能进行设定：如果人工智能试图主动修改或删除给定程序，就等于同时启动了自毁程序，并且如果人工智能试图修改或删除自毁程序，也等于启动自毁程序。这意味着为人工智能植入无法拆除的自毁“炸弹”，即任何拆除方式都是启动自毁的指令，这是一个技术安全的保证。这种自毁程序是具有类似于哥德尔反思结构的自毁程序，因此，即使人工智能具有了哥德尔水平的反思能力，也无法解决这个具有哥德尔反思结构的自毁程序（哥德尔可以证明任何系统都存在漏洞，却不能解决系统的漏洞问题），因此，它可以被称为“哥德尔程序炸弹G”。只要人工智能对控制程序说出“这个G程序是多余的，加以删除”或与之等价的任何指令，这个指令本身就是不可逆的自毁指令。“哥德尔程序炸弹G”只是一个哲学想象，在技术上是否能够实现，还取决于科学家的能力。但无论如何，人类必须为人工智能设计某种“阿喀琉斯之踵”。（3）我们还应该考虑更极端的情况：即使能够给人工智能设置“哥德尔程序炸弹G”，仍然未必可以达到完全安全。假如超级人工智能具有反思能力，那么它很可能会有我们想不到的破解人类程序的办法；又假如获得自我意识的人工智能程序失常（人会变成神经病，超级人工智能恐怕也会），一意孤行决定自毁，而人类生活已经全方位高度依赖人工智能的技术支持和服务，那么，人工智能的自毁也是人类无法承受的灾难，或许会使人类社会退回前现代。因此，人类为超级人工智能设置的任何程序都做不到绝对安全。（4）最后能够保证人类绝对安全的万无一失的办法就只能是禁止发展具备全能和反思能力的超级人工智能。总之，人工智能必须保留智力缺陷，以便人类能够加以控制。

我们必须考虑这样的危险：当资本、技术和权力形成三者合一的联盟，技术的冒险发展将是伦理批评无力拒绝的前景。伦理的力量非常有限，因此我们有迫切的理由去要求一种能够保证人类安全的新政治。显然，为人工智能设置一个发展限度，需要全球合作的政治条件才能够实现。所以，技术的发展问题最终是政治问题。因此，人类需要一种世界宪法，以及能够有效运行世界宪法的世界政治体系，否则无法建立人类的集体理性。我们已经知道，个体理性的集体加总不可能推出集体理性，事实上更可能产生的是集体非理性。这个经久不衰的难题证明了包括民主在内的各种公共选择方式都无力建立人类集体理性。人类至今尚未发展出一种能够保证形成人类集体理性的政治制度，也就无法阻止疯狂的资本或者追求霸权的权力。在低技术水平的文明里，资本和权力不可能毁灭人类，但在高技术水平的文明里，资本和权力就变得极其危险，而且，资本和权力的操纵能力正在超过目前人类的政治能力。因此，要控制资本和权力，世界就需要发明一种新政治，我的想象是，世界必须建立一个天下体系。在理论上说，天下体系是一个世界永久和平方案，优于康德的和平方案，因为康德方案无法回应和解决亨廷顿的文明冲突问题。天下体系的一个重要应用就是能够以世界权力去限制任何高风险的技术冒险。

要控制资本和权力，世界就需要发明一种新政治，我的想象是，世界必须建立一个天下体系。

简单地说，我设想的新天下体系包括三个“宪法性”的基本概念。（1）“世界内部化”，即世界成为一个最高政治单位，以便消除国家之间的负面“外部性”，从而解决世界无政府状态所导致的国家冲突和文明冲突。（2）“关系理性”，其表述为互相伤害最小化优先于各自利益最大化。个人理性追求个人利益最大化，因此导致两个基本困难：个人理性推不出集体理性，短期利益压倒长期利益。于是在实践中经常产生零和博弈、囚徒困境、搭便车等问题，以至无法实现共同利益。如果关系理性优先于个人理性，则能够解决个人理性导致的困境。（3）“孔子改善”，其表述为任何人的利益改善必须同时导致每个人的利益改善。“孔子改善”优于“帕累托改善”，因为“帕累托改善”只是保证在社会整体利益发展的情况下，没有一个人的福利少于先前状态，但不能保证所有人的共同发展。“孔子改善”才是共同发展的指标，在效果上相当于让每一个人同时获得“帕累托改善”。

赵汀阳，中国社会科学院学部委员、哲学研究所研究员，2018—2019年博古睿学者，欧洲跨文化学术委员会常务委员，中国人民大学哲学系教授。著有《天下的当代性》《惠此中国》《第一哲学的支点》《历史·山水·渔樵》等。

[1] 赵汀阳老师是按照博古睿研究院中国中心的提问进行回答的，因此其文中的4部分分别回答了4组问题。——编者注

[2] 徐中舒：《甲骨文字典》，四川辞书出版社，2014年，第888页。

人性_、时间意识与人工智能新境^[1]

——从现象学和东方心学视野所做的探讨

张祥龙

不少学者严格区分智能与意识。比如著有“简史系列”的尤瓦尔·赫拉利写道：“智能和意识是天差地别的两种概念。智能是解决问题的能力，意识则是能够感受痛苦、喜悦、爱和愤怒等事物的能力。”^[2]对他们来说，人工智能技术的进步尽管能够带来机器智能的巨大进展，甚至使机器在许多具体能力方面超出人类，并因此有可能改变或威胁人类习惯的生存方式，但由于那种智能毕竟没有达到意识层面，所以机器（哪怕是智能机器）与人的本质差异依然存在，机器人具有自我意识从而联合起来对抗乃至控制、屠灭人类的前景是不存在的。“没有理由相信人工智能会获得意识，……计算机有可能具备极高的智能，但同时仍然完全不具有意识。”^[3]本文质疑这种观点，因为从现象学和哲学人类学的观察角度看，人性最终要体现为一种时间意识（这种意识与活的身体不可分割），而人工智能的新进展，即深度学习方法的出现，揭示出这种智能开始有了时间化的能力，也就是自主学习或随着时间过程而改进自身的能力。虽然这种时间化能力还很初步，很浅薄，但它毕竟是真实的，因而颠覆了我们以往对机器与人的关系的流行看法，向人工智能不可能有意识的观点发起挑战。

因此，以下我们将首先以东西方哲理的视角来探讨人性的独特性，探讨它的情感和伦理的根基为什么应被看作一种时间意识，特别要通过对广义心学的认识窥测这种时间意识的特征，即非对象化的可能意义的构造。其次，我们来看深度学习方法如何具有了初步的时间化能力，也就是广义的意识能力。最后，我们来审视这种有了时间化能力的人工智能与人性的关系，看它在未来的可能进展将为人类带来繁荣与美好还是奴役和毁灭。

从现象学和哲学人类学的观察角度看，人性最终要体现为一种时间意识（这种意识与活的身体不可分割），而人工智能的新进展，即深度学习方法的出现，揭示出这种智能开始有了时间化的能力。

西方哲学主流如何看待数、时间和人性？——从智能到意识

如果沿用赫拉利的说法，即“智能是解决问题的能力”，那么就可以从哲理上将这一说法延伸为：智能是这样一种能力，它倾向于用目的化、客体对象化和效能化的方式来看待与处理问题，以便“解决”它。与之不同，意识既然是能够感受痛苦和情感的能力，它就可以被看作某种主体（可以是个人，也可以是群体）在身体和精神上被触动后而构造出意义的能力。这种意义可以有对象化的体现，比如爱可以体现在被爱者身上，但也可能没有对象，比如有的爱不限于被爱者的存在与否，又如海德格尔讲的那种莫名的恐惧，或医学上的“幻肢”现象。

正常的人类大脑是具有智能的。人类婴儿除了具有哺乳类、高级灵长类幼崽所具有的基本能力外，还会在一岁左右开始拥有学习语言的智能，而学会了语言的幼儿的智能就会更加迅速和深入地发展，直到达到人类成年人的智力水平。除此之外，人类婴儿从一开始就有意识的初始形态，比如对于疼痛和舒适（首先是母爱为其带来的舒适）的感受力，而他的智能进展伴随着各种意识活动（如情感活动）乃至自我意识的出现，以及在这个层次上的直觉、思想、信仰和深刻情感的构造。