人工智能时代：破解人机共存密码（套装共10册）

人性的终结并不意味着人类作为生物物种将不复存在，而是说人将永远丧失其独特性和独一无二的崇高地位，即人的本质。

通过模糊人和非人存在的界限，人工智能技术允许我们不仅在空间上而且在存在的意义上将人的存在扩展到新领域。也就是说，我们已经变得既不仅仅是自然物种演化的结果，也不仅仅是自然赋予的东西。在一定的意义上，我们现在就是我们自己所造就之存在。科学家在讨论人是否已经超越全新世进入人类世，即一个人能够在很大程度上改造自然的新时期。正如保罗·克鲁岑和克里斯蒂安·施瓦格尔所说：“现在的情况已经不再是我们与自然的对立。相反，是我们决定自然现在是什么，将来会是什么了。”^[9]考虑到人工智能的挑战，我们或许可以补充一句，我们决定的不仅是自然，而且还包括我们自己：在很大程度上，我们将决定我们现在是什么，将来要变成什么。在人类世即将到来的背景下，人类物种的自然状态的巨大飞跃可能既是进步又是异化，既是祝福又是诅咒。说它是进步在于，我们将大幅提高能力和威力，能够做到和实现从前只有在神话中或者梦境中才存在的理想。变化只要让人变得更加适应生存环境，就可以被视为进步。说它是异化在于，我们将永远离开自然的根基。异化的概念本身就建立在我们人类是或应该是的某种“本质”之上。如前所述，人类本质在很大程度上是一种虚幻的观念，某种我们觉得应该拥有的东西，想到它感觉很安心的东西，但是我们从来没有发现这种东西，虽然一直以来我们都在不停寻找。无论如何，我们可以说我们也在经历异化，在背离我们的现状、我们的历史和我们的理想。我们不再是已经习惯了的自我形象。我们现在大不一样了。正如当今习惯于使用智能手机的一代人无法想象自己没有智能手机的生活一样，一旦人变成了与机器智能的混合体，就再也无法回到原来的纯自然状态了。在这个意义上，这种异化是不可逆的，是永恒的。

人工智能技术将同时给我们带来进步和异化，这听起来自相矛盾。但是，它们发生在同一过程之中。事实上，任何进步都伴随着某种丧失。从前那些描述陷入相思之苦的女孩或男孩的古老故事令读者感动，他们深受渴望爱情的折磨而痛苦。如今，现代通信技术已经终结了这种状况。小说家必须找到其他方法来讴歌人类的这种情感。我们现在乘坐飞机只需一个晚上就从纽约飞到了上海，这使我们永远丧失了体验与同行的乘客在海上长达一个月的充满诗意的旅行的机会。《庄子》记录了一个有趣的故事。孔子的弟子子贡曾经和灌园老人对话。这位老人在菜园子里，挖地道到井中，抱着瓮取水浇园子，用力多而见效小。子贡告诉他，有一种机械，一天灌溉一百亩田，用力很少但见效大。子贡问“为什么不使用这样的机器呢？”灌园老人面有怒色，却笑着说：

吾闻之吾师，有机械者必有机事，有机事者必有机心。机心存于胸中，则纯白不备；纯白不备，则神生不定；神生不定者，道之所不载也。吾非不知，羞而不为也。（《庄子·天地》）

灌园老人代表了一种紧紧抓住传统不放的人，他们坚守自己的存在方式，抗拒任何偏离纯朴天性的东西。他认为，接受新技术就要求人们放弃原初状态，这是有道理的。异化的确存在，鱼与熊掌不可兼得。当最初的纯朴天性被认为是做人或者拥有美好生活必不可少的东西时，接受新技术的风险就太大了，可能得不偿失。但是，只有当我们接受最初的纯朴天性是我们做人必不可少的东西时，灌园老人的哲学才是合理的。如果没有这样的前提，我们就没有多少理由不接受新变化了。在最终认识到我们已经再也不能回到我们从前的那个样子后，在认识到我们人类从来就没有而且将来也不会有不变的本质后，人工智能进入我们的生活而带来的这种异化就不再应该遭到强烈反对了，反而应该得到称赞才对。

人工智能技术的出现和快速发展给伦理学带来了空前的挑战。我们能否成功应对这些挑战将对我们的生活方式和人类未来产生深刻的影响。其中一个重要的问题是我们是否应该将高级人工智能机器当作伦理存在来对待，以及如何对待它们。

作为一项传统事业，伦理学一直是在据称根基稳固的世界的存在秩序的基础上发展起来的。大体说来，世界分成若干范畴，即人、生物有机体、其他物体。这些分类的形成要么通过演化，要么通过神灵创造，要么依靠其他途径。伦理学的每个概念，尤其是在西方的主流传统中，都是把人当作唯一的道德行为者和道德行为的施受者，把世界上的所有其他生物都排斥在道德领域之外。随着环保意识的崛起，当今有些伦理学家开始将道德领域扩展，希望把生物有机体包括进来。在各种有机体的确切道德立场问题上，人们有意见分歧。有人坚持认为，从道德上说，只有人才是重要的。有人则认为，道德领域应该包括其他“高级的”生命形式（如马和狗）。不过，仍然有人认为，所有生命形式在道德上都具有相关性，因为生命本身拥有内在的价值。尽管有这些分歧，但人们非常清楚自己应对的是什么范畴，即动物是动物，植物是植物。17世纪法国哲学家笛卡儿的做法是将动物贬低为机器，因为它们没有灵魂——他坚定不移地把守人与物的界限，认为人是会思考的存在，而其他一切都不过是在空间上延伸的物体而已。他的名言“我思故我在”中的“我思”代表智慧，这是人的专有品质。但是现在，人工智能技术带来了另一项巨大挑战，直接指向人的独特性。它带给我们一个完全不同的东西。人工智能是机器，却是一种拥有智慧的特别存在。人工智能的出现永远地动摇了传统伦理学赖以生存的世界范畴划分和认识。它迫使我们以全新的眼光重新看待伦理学。

人工智能的出现永远地动摇了传统伦理学赖以生存的世界范畴划分和认识。它迫使我们以全新的眼光重新看待伦理学。

遇到机器人伦理学的议题，我们首先必须考虑人工智能存在的智慧特征是否使其有资格被当作道德行为的施受者来严肃对待。道德行为的施受者是指拥有道德资格的存在体，道德行为者（如正常人）对其拥有道德责任。人是道德行为的施受者，我们应该对人表示尊重，但是自行车不是道德行为的施受者。虽然出于某种考虑，我可能精心保管自行车，比如出于对你的道德义务，我妥善保管你的自行车，但是对自行车本身而言，我并没有道德义务。有些环境保护伦理学家已经要求我们扩大范围，将动物和生物有机体当作道德行为的施受者看待，因为动物也能感受到痛苦，也有尊严或者生命本身拥有的内在价值。其他人则坚称，只有理性的存在才有道德资格。按照康德的说法，只有人才有道德资格，这不是因为我们的生物学物种的身份，而是因为我们有理性，理性是道德资格的基础。因为理性和智能的契合性，^[10]有些伦理学家已经把非人的智慧物种如狗、海豚、大象都当作道德行为的施受者的候选对象。现在，人工智能也加入了这个行列。因为人工智能有智慧，我们也应该相应地对待它们。就道德问题而言，这意味着人工智能机器应该被当作道德行为的施受者。《华盛顿邮报》的约尔·加罗在2007年的一篇报道中称，美国陆军的一位军官在看到机器人扫雷时一次又一次地被炸掉了腿，却持续不停地往前爬行后，取消了机器人扫雷实验。军官宣称，这个实验太不人道。^[11]该场景类似于军人关心他们的随军警犬。有了智能让高级人工智能机器与我们更亲近，引发我们的同情。我们受到感动，倾向于将其看作道德行为的施受者。但是，我们到底应该如何将社会中的人工智能当作道德对象，这一问题的答案仍然很不明朗。毕竟，人工智能是机器，不是生物，不像狗一样有生命。它也不能像生物有机体那样有感受痛苦的潜能。而且，与生物物种不同，人工智能的智能不是统一的，智慧层次千差万别，既有智能程度很低的自动化机器人，也有非常先进的仿人机器人腱悟郎，至于未来的人工智能机器，可能更加超乎我们的想象。即使我们同意高级人工智能机器能够和应该被当作道德行为的施受者，但有关究竟该如何对待它们这一问题的答案仍不明朗。比如，世界各地医院的人工智能医生数量越来越多，对它们的工作条件应该采用什么样的管理规定？是不是应该像我们对待真人医生那样，对其工作条件设置最低标准？随着人工智能技术将情感以及智能置入人工智能机器，使其变得越来越像人类，这种需要已经越来越迫切。

而且，最近人工智能伦理学的讨论主要集中在人工智能机器是不是道德行为者的问题上。道德行为者是能够辨明是非并据此做出选择的主体。从传统意义上来说，伦理学的道德行为者仅限于人类本身。我们认定人有道德责任，动物却没有。即便很多环保伦理学家接受动物充当道德行为的施受者，但是把动物当作道德行为者的就很少了，其理由无非动物不能辨明道德上的是非。人工智能机器有道德主体性吗？高级人工智能机器有能力做出不仅具有经济后果而且具有道德后果的决定。美国军方已经开始开发人工智能硬件和软件，以确保作战机器人能够遵循战场上的道德伦理标准。^[12]此类有关人工智能潜能的开发不仅仅局限于编写机器人在预料之中的场景的有限范围内的可能行动方案程序，也将使人工智能成为开放性的系统，收集和综合信息，预测和评估现有选择的后果，并部署适当的反应。这样的潜能将使高级人工智能系统更加接近独立自主的人而不仅仅是传统意义上的机器。麻省理工学院媒体实验室的“道德机器”实验已经提出了拥有该潜能的自动驾驶汽车的道德两难困境：汽车是否应该扭转方向以便避免撞上小孩，但这样做的后果是可能撞上老太太？^[13]应该设计这样的自动驾驶汽车吗？应该让它这么做吗？人们可能认为，在这种情况下，仍然是人在替人工智能机器做决定，毕竟是人在为机器编程。

但是，人类自己不也是从小通过接受社会为我们编写的道德程序，通过学习等途径，学会尽量避免伤害人，哪怕是以牺牲猫为代价？就接受道德程序而言，高级人工智能机器与人的差别主要是接受方式的不同，而不是性质的不同。

人工智能决策制定能力的快速进步使这种复杂的机器越来越接近成为道德行为者。这就要求在设计先进人工智能系统时将伦理学融合进来。人工智能技术的这个维度之所以对道德哲学构成最大挑战，其部分原因在于，伦理学家在什么样的规范伦理学最好或者最合适这一问题上不能达成共识。道德义务论者认为，伦理学必须建立在道德义务的基础上。功利主义者认为，行动应该带来最值得向往的后果。德性伦理学者将会希望让人工智能机器的行为表现出优秀的美德。人们可能认为，我们应该寻找最小公分母，使用“不害人”原则作为先进人工智能机器的伦理要求。但是，这或许并不那么容易，因为很多人工智能系统的设计恰恰就是要伤害人的。现在，几个军事大国之间已经展开一场不宣而战的军备竞赛，各自都在开发能在战场中取代真人士兵的自主机器人。这些旨在杀人的人工智能机器的进步无疑将让世界变得更加凶险，也更容易导致武装冲突。那么，是否应该出台禁止任何人设计和生产用于战斗的人工智能机器的国际禁令？

要回答这些问题并不容易，不过，如果我们希望维持确保人类繁荣发展的世界和平，严肃对待和适当处理所有这些挑战就都是必需的。因为人工智能技术的快速发展及其对世界的巨大影响，应对这些挑战的任务变得越来越紧迫。与采取渐进式自然演变道路的进化过程不同，各种快速发展的先进人工智能系统将占据世界的各个角落，并在事实上改变人们生活的方方面面。其实，电话和电脑现在已经拥有了内置的人工智能技术，这已经在很多根本方式上影响了人类。人工智能技术可能决定人类的命运。在这个意义上，成功应对人工智能的相关伦理挑战甚至比应对人工智能的相关技术挑战更为艰巨。理解这些挑战的紧迫性至关重要。

那么，我们应该向人工智能机器灌输什么样的价值观呢？在人工智能高度发达的时代，人类就生活在仿人机器人中间，它们在很多方面就像我们的同事。仿人机器人在完成工作任务时需要自己做出决定。作为机器创造者，我们人类应该确保其决策制定受到某些伦理学和道德原则的指导，就像我们希望在其他人类同胞身上看到的情形那样。什么样的机器人伦理学对我们的道德情感是切实可行和合适的呢？为了回答这些问题，我们需要首先明确机器人伦理学的本质。在这方面，儒家道德哲学能够为我们提供有用的资源。儒家对伦理学的理解包括两种进路，分别以孟子和荀子为代表。孟子认为人是独特的，因为我们生来有不忍之心。培养仁德之心将让我们真正具有人性，引领我们走向有道德的人类生活。我们可以把对人类道德本质的这种理解称为“软心肠途径”。在这种观点看来，伦理学源于和遵循不忍之心。荀子则认为，人是通过习得社会规范变得有道德的，他们刚出生的时候并没有道德，只是后来“依靠编程”学会了道德行动。我们可以称这个途径为“社会程序的途径”。

孟子和荀子都强调人的独特性。孟子的焦点集中在人心的独特性上，这是人有而动物没有的品质。他的名言是：

所以谓人皆有不忍人之心者，今人乍见孺子将入于井，皆有怵惕恻隐之心。非所以内交于孺子之父母也，非所以要誉于乡党朋友也，非恶其声而然也。由是观之，无恻隐之心，非人也；无羞恶之心，非人也；无辞让之心，非人也；无是非之心，非人也。恻隐之心，仁之端也；羞恶之心，义之端也；辞让之心，礼之端也；是非之心，智之端也。人之有是四端也，犹其有四体也。（《孟子·公孙丑章句上》）

孟子认为，人与禽兽的差别就在于是否拥有不忍之心。在孟子看来，人并不是指生物学物种而是拥有道德的存在。只有拥有不忍之心的人才是有德之人。培养不忍之心就是继续人与生俱来的道德特性。

从这个意义上来说，孟子划的分界线不在智人和其他存在之间，而是在有德之人和其他所有的存在（包括无德之人）之间，判定的标准主要是有无不忍之心。沿着这条思路，人工智能机器如果获得这样的“心”，就可以被包括在有德之人之列。有了孟子这样的不忍之心，人工智能机器就能像有德之人那样在社会上行动。

当然，孟子的“心”不是指生理器官心脏，而是在心理上和情感上关心他人、善待他人的能力。在机器人伦理学上，如果我们遵循孟子的途径，或许应该在仿人机器人身上安装一个系统，以“不害人”作为压倒一切的原则，确保机器人不能采取极端破坏性的行动伤害人、伤害其他生命形式或者相互伤害。我们将拥有类似于约翰·黑文斯所说的“仿人心人工智能”。^[14]该进路或许最适合医学人工智能机器。在照顾病人的时候，首要原则可以追溯到希波克拉底誓言中的“不能给病人带来痛苦与危害”。有了这个原则，人工智能机器的伦理行动将与孟子哲学一致。

但是，只要人工智能机器由人来设计和制造，并且由人来灌输一种伦理学（无论是孟子的还是荀子的），从根本上来说，它仍然属于荀子的哲学指导的范围，因为伦理学是社会构建的产物，是荀子主张的人为塑造（“伪”）。荀子也强调人的独特性，不过表达的方式不同。他说：

水火有气而无生，草木有生而无知，禽兽有知而无义，人有气、有生、有知，亦且有义，故最为天下贵也。力不若牛，走不若马，而牛马为用，何也？曰：人能群，彼不能群也。（《荀子·王制》）

荀子认为人是世界上最高贵的存在。他辨认出人类独特性的两个品质：一个是“义”，即道德得体意识；另一个是“群”，即组成群体的能力。人类要繁荣发展，此二者缺一不可。“义”让人产生一种意识，我们不仅需要有道德，而且需要道德得体。荀子相信人性恶，认为如果顺从人性的要求可能导致社会陷入混乱和毁灭。如果没有圣人的社会构建，处于萌芽状态的“义”不足以让人克服人性恶而向善。^[15]倪德卫认为“义”是荀子道德的源头，但他将其解释为有智慧的能力，并坚持认为“义”并不生来具有“任何特别的内容”。^[16]倪德卫的解释让荀子的“义”看起来更像人的理性思考能力，使其成为组成社会群体的工具。荀子将“群”视为人类独特性的另一个特征。为了组成社会群体，人类需要设计礼仪法则，即判定哪些行为得体并有助于群体繁荣发展的法则。荀子强调的是社会管理中伦理法则的重要性，而不是不忍之心。人工智能伦理学的“荀子进路”主要关心的是设计出有效的伦理法则。

如果遵循“荀子进路”，我们可能会安装能够指导人工智能机器的行为法则，却没有压倒一切的保护性原则，即保护人、世界上的其他生命形式或者其他仿人机器人不受伤害。我们可能会给机器人制定其所需要遵循的法则，就像无人驾驶汽车要遵循交通法规一样。遵循这些法则，人工智能机器将主要完成所分配的任务，根本不考虑任务的性质。究竟使用“孟子进路”还是“荀子进路”，这取决于机器人的具体类别。在应对照顾人的机器人时，“孟子进路”似乎更有道理；对很多其他目的而言，“荀子进路”的可行性似乎更高些。儒家哲学的历史一直赋予孟子远高于荀子的地位。不过，最近的儒家研究似乎越来越重视荀子了。就人工智能伦理学而言，应该将这两种进路融合起来以便服务于未来的先进人工智能机器。

小说家、未来学家伊萨克·阿西莫夫曾经提出指导机器人行为的三个基本法则。它们是：

第一，机器人不得伤害人类个体，或者目睹人类个体遭受危险而袖手旁观。

第二，机器人必须服从人给予它的命令，当这种命令与第一法则冲突时例外。

第三，机器人在不违反第一、第二法则的情况下要尽可能地保护自己的生存。^[17]

阿西莫夫的第一个法则清楚地表达了类似孟子的主题。即便它以一种原则的形式出现，但它仍然展示了不伤害人类的最高重要性。这样的要求反映了孟子表现出来的根深蒂固的人类价值观。这些定律以法则的形式出现，荀子应该也会接受。今天的人工智能伦理学需要比阿西莫夫的三大法则复杂和深远得多的法则。但是，无论人工智能伦理学将来有多么先进，将孟子和荀子的立场纳入进来似乎并无不妥。我们或许可以这样重新表述他们的原则：首先，高级人工智能机器必须以有益于人类作为首要目标；其次，其活动必须由基于第一个原则的法则来管理。人工智能机器能够采取有利于自己的行动，但是有益于人类是其首要目标，这是有关人工智能的其他考量的基础。而且，人工智能机器必须在符合第一个原则的法则的管理下行动。将这两个原则结合起来可以让人工智能机器与人类和平共处，成为人类共同体的延伸和组成部分。

人工智能技术的发展已经催生了一些重要问题，不仅涉及伦理学，而且涉及一般哲学。就像其他哲学传统一样，中国哲学发展了几千年，没有遭遇人工智能挑战引发的种种问题。现在，中国哲学必须应对这些挑战。它必须面对这样一个现实：人类独特性要么消失，要么变得越来越模糊不清了。我们必须考虑这种情形，即人工智能机器在未来社会成为重要的参与者。接下来，我将提出两个观点。第一个是儒家哲学的某些重要特征如“差等之爱”使其有能力调整道德要求回应人工智能的挑战。第二个是儒家哲学需要调整一些传统主张以便应对人工智能的挑战。我将使用儒家关于“学”的主题来展示第二个观点。