人工智能时代：破解人机共存密码（套装共10册）

无论是语言上还是其更深刻的意义上，马尔科夫对“人性关怀”这个词的使用都相当接近儒家可能谈到的“仁”和“孝”。请考虑《论语》中的下面这两个段落。

子游问孝。子曰：“今之孝者，是谓能养。至于犬马皆能有养；不敬，何以别乎？”

子夏问孝。子曰：“色难。有事，弟子服其劳；有酒食，先生馔，曾是以为孝乎？”（《论语·为政》）

在和两个不同的学生的交谈中，孔子指出了同一个要点。的确，“孝”有很多具体行为，年轻人帮助老人干活，请老人先吃喝，但是这些还不足以称为孝（孔子认为在他那个时代，人们的这些行为是对古老圣人时代的拙劣模仿）。真正重要的是人们在做这些事情时的感觉，孔子期待的是人们对父母的态度——不是仅仅给父母提供吃的东西，而是在做这些事情的时候表现出尊敬。此外，孔子强调对父母年纪越来越大而感到焦虑，当然，这的确可能导致人们的具体行为，但最重要的仍然是人们这些行为背后的态度。

如同上文谈及的美德一样，“仁”和“孝”从来都不是简单地做出正确的行动。在狭隘的意义上，仅仅确保父母拥有高质量的生活（比如吃得好）还不足以称为“仁”或“孝”，无论这一行为是由机器人还是自己来做。真正关心另一个人意味着渴望他们的生活体验充满活力和激情。依靠技术手段做到这些就都是坏事吗？这个判断总是很清晰、肯定吗？比如，你年迈、行动不便的父亲需要去一个地方，你背着他过去就是最好的选择吗？你开车送他过去或安排他坐上无人驾驶汽车前往是否也能表现出同样程度的关心？［我们假设在孟子的故事里，舜之所以背着父亲去海边是因为他找不到汽车（见《孟子·尽心章句上》）。］在关心他人的时候，我们使用机器人或者其他形式的人工智能来帮忙并不是坏事，只有当我们这样做时不是出于真心或者事实上根本不将此当回事时，才是有问题的。多亏了技术的发展，我们相互之间的纽带越来越紧密，即使我们身处不同的地方。我们能够用更具仁德的方式维系这种纽带，当然也可能以自私的方式利用这些联系达到自己的目的。

我们来看另一种美德——“义”。对“义”的常见和早期定义是将其等同于“宜”，不过，万百安指出，这个定义非常浅薄。万百安认为“义”更加具体的定义（尤其是孟子使用这个词的时候）是“一种遵从与行动者相关的禁令的习性，这种禁令涉及对自身伦理品格的表现和维持”（Van Norden 2007，258）。也就是说，有“义”这种美德的人不屑于做可能贬低自己人格之事，如果做了什么卑鄙之事，自己会感到羞耻。正如万百安所强调的那样，这里涉及的“伦理羞耻”是，当他意识到自己有某种性格缺陷时所感受到的东西，无论其他人是否意识到。常见的观点是，羞耻是外在的，取决于别人能否看见，而内疚是内在的。对此，万百安提出了不同的看法，他反而认为羞耻是有关自我的（尤其是自己的性格），内疚则是个人的行为对他人造成的影响（Van Norden 2007，259–260）。因此，我们看到培养“义”的美德是核心目标，正如《论语》所说，“道之以政，齐之以刑，民免而无耻；道之以德，齐之以礼，有耻且格”（《论语·为政》）。受道德和礼仪指引而行事的人自然规范有序，因为他们内心已经形成了是非观念，而因为害怕惩罚不做坏事的人则形成一种欲望，他们想的是如何避免做坏事被抓住。在此，我们的问题是：人工智能会帮助我们培养“义”的美德吗？

应该注意到的一点是，“义”通常与一个社会中普遍被接受的原则有适当的关系，当然也未必总是如此。我们不妨回顾一下万百安的“义”是某种“禁令”的建议，他认为，人们之所以遵循某些法则，不是因为害怕被抓住（或许受到惩罚），而是因为人们认定如果成为违反这些法则的人，自己会感到羞耻。所以，人工智能可以为我们做的是，提醒我们注意到违反法则的潜在可能性，或许以一种特别显著的方式将行为置于框架内。比如，现在我们很多人在开车时都在手机上使用GPS（全球定位系统）为我们导航。GPS这类应用软件很清楚车速限制和当前车速，每当我们超速时，很多软件会提醒我们注意控制车速。关键是，软件并不能自行控制车速，也不会将超速信息发给警察。相反，它采取相对温和的方式，比如用红色而不是不容易引起注意的黑色来显示当前车速。毕竟有时候在具体场景中，人们开车时超过速度限制的确存在合理的理由。有了GPS的帮助，要想忽略违规行为就更加困难了。稍微想象一下，我们就可以毫不怀疑地设法将这种约束性影响扩展到开车之外的其他活动上。

事实上，我们已经看到这些温和的约束性影响被应用了，它们相互之间密切相关，而且与“礼”这一美德紧密相连。对于“礼”究竟是“义”在正式场合使用的附属类别还是拥有独立意义的另一种美德，这要强调人们在遵循法则时的行为方式或做事风格，关于这一点学术界存在一些分歧（见Van Norden 2007，270–272；Olberding2007；Angle 2012，ch.6）。我相信我们能够在无须完全解决“礼”和“义”的关系问题的情况下思考人工智能发挥的作用，部分原因在于在真实生活中，人们做什么事（是否违反法则）与如何做事之间的关系并不能简单地区分。比如，我们可以考虑一下电子邮件系统有能力提醒用户正在写的信息内容是否有冒犯他人之处。据我所知，这只需系统简单地核实一下邮件内容中是否存在某些词汇，但是，我们很容易想象这样的场景，即这个过程变得非常复杂和得到更广泛的应用。同理，现在已经出现了一些跑步者能够随身携带的产品，用以提醒他们跑步姿势不对或步伐太大等，或许在未来能出现类似产品以提醒人们关注其他更笼统的动作姿势，提醒人们在交谈时与对方的眼神接触是否适当等。正如GPS对开车超速的反应案例那样，电子邮件系统并不能阻止人们发送可能冒犯他人的邮件。

儒家的第四个美德是“智”。万百安相信在《孟子》中，我们看到智慧的四个不同维度：（1）适当评价别人性格的习性；（2）目标手段之间协商的技能；（3）理解和避免去做卑鄙之事的习性；（4）合理关心个人的幸福（Van Norden 2007，275）。

显然，所有这四个维度都基于在相似但有重要差别的事物之间做出区分和差异理解的能力，以及理解这些不同事物之间的联系特征的能力。在《孟子》看来，智慧的根源是“是非之心”，实际上，中国早期儒家认为在事物之间做出区分的能力与认识、理解和做出聪明决策的能力之间存在重要的纽带（见《孟子·公孙丑章句上》；Geaney2007；Angle and Tiwald 2017，ch.6）。这些潜能在今天（或不远的将来）或许因某种特殊的人工智能形式即理论家所说的“情感人工智能”的帮助而增强，这种猜测似乎不无道理。

目前，情感人工智能还只是设想，因此我只是提出若干可能让我们变得更有智慧的方式。与理解自身对场景的反应相关的一个关键区分是找到影响人的相关因素和不相关因素的差异。阿兰·德波顿特别指出：

我们的意识根本无法很好地把握主人到底发生了什么。比如，我可能意识不到我之所以恼火是因为感觉疲劳而不是因为伙伴的迟钝和笨拙。但是，情感人工智能将帮助我们获得所需要的自我认知。它将指引大脑的活动，及时提醒我们意识到心理生活的现实。（de Botton 2015）^[9]

其实，害怕我们被不相关的生理因素引入歧途是儒家传统中的深刻忧虑：我们在《孟子》和《荀子》中都看到这一点，只不过二者讨论的方式不同，后来的儒家学者对此问题的讨论更为详尽，其关注话题多是“气”在影响我们的情感和行为方面所发挥的作用。应该承认的是，我们需要非常谨慎，避免在身体因素和其他因素之间做出明确区分，因为儒家明白人是具身的生物，承认我们的身体幸福是美好生活的重要组成部分。在《孟子》中，我们读到身体欲望是人性（规范性）的组成部分，虽然我们不应该过分强调人性的作用。在理学家看来，“理”总是与“气”密切相关（《孟子·尽心章句下》；Angleand Tiwald 2017，ch.2）。虽然如此，德波顿说人们发火咆哮常常不是因为愤怒而是因为饥饿或者疲劳导致人们误读了场景，这种见解还是很有见地的。如果情感人工智能提醒我们“及时”关注这样的场景以影响我们的行为，那么结果可能真能帮助人们发挥更大的智慧。

最后，我将继续探讨“信”这种美德。《论语》和《孟子》等文献中讨论过“信”，“信”通常被理解为说话算数，成为信得过的朋友，但是，后来“信”逐渐被认为是基本美德之一。在理学家看来，“信”意味着以持续不断的和可靠的方式立志接受现实的指导。这种美德帮助我们确保实现其他美德。我们是否设定仁、义、礼、智目标，我们能否取得成功都取决于我们能否看到事物本来的样子，是否立志按事物本来的样子看待它们，而不是陷入帮助我们摆脱困境的自私幻觉（见Angle and Tiwald 2017，162–163）。在本文的背景下，我相信“信”之所以特别重要，不仅因为它在宋明理学传统中被认定的重要作用，而且因为其在使用人工智能增进美德时的特殊意义。下文即将讨论，人工智能所发挥的很多积极作用皆取决于我们充满信心地与他人分享数据和我们与他人共享成果的能力。如果说“信”是本文所说的所有美德的基础——元美德，这并非夸大其词。

或许我们可以从内森·海勒的文章《爱沙尼亚：数字共和国》中找到这个问题的切入点。多亏了雄心勃勃、历经多年的“电子爱沙尼亚”工程，这个波罗的海小国的公民能够：

……在家里通过笔记本电脑投票，对停车罚单提出异议。他们可以通过“仅此一次”政策做到这一点，该政策规定任何一条信息都不能输入两次。申请者无须“准备”贷款申请，而是将数据（收入、债务、储蓄）从系统中的其他地方提取出来。到了医生的候诊室，你也不需要填写表格，因为医生能够看到病人的医疗记录。爱沙尼亚的电子系统基于公民的身份证芯片，这张卡将通常很麻烦的申报过程（如报税）简化成一项能够被轻松搞定的事。（Heller 2017）

海勒的文章有一部分阐述了实现这些奇迹的技术：多种形式的安全措施、本地数据掌握的方式（“你的牙科医生拥有自己的数据，你就读的高中和你的开户银行也有自己的数据。当用户要求一则信息时，信息就像横跨运河的船只需通过水闸就可以交付给你”），以及个人用户只能接触适当数据的方式（如老师能登录浏览成绩信息，却不能看见或更改金融信息）。文章的另一面则谈及“电子爱沙尼亚”确立之后所产生的社会、伦理和政治后果。“企业经营和土地登记等信息被认为属于公共所有”，这导致“令人吃惊的”开放性，如果你想知道有钱有势者的企业利益，很快就能轻松搞定。因为可以在线投票，选民受到威胁的机会并不多。当海勒采访爱沙尼亚的“全国数字顾问”马坦·卡瓦茨时，卡瓦茨在对话即将结束时说：“我一直在对这些小事夸夸其谈吗？其实，这些事并不重要，重要的是人们的心态，是文化，是人际关系，正是这些让我们做到了这一切。”人们对这个系统的安全性和开放性充满信心，这确保了共同体的团结和积极的人际关系。相反，卡瓦茨说，在某些国家，公民缺乏对自己数据的所有权，加上资本主义企业的强大势力，并且在数据使用中缺乏责任追究，这些导致了“社会团结和信任的系统性缺失”。他补充说建立信任不仅需要拥有好的政策：“政客必须以信任为自己的核心价值，因为在当今世界，在某种程度上，任何东西都是公共的。”（Heller2017）

值得探讨的是，卡瓦茨强调的信任与我们在《论语》等早期儒家经典中找到的“信”的政治观点有什么样的联系。

当子贡询问治理国家的办法时，孔子说：使粮食充足，使军备充足，使百姓信任。子贡问：如果迫不得已要在粮食、军备和信用三项中去掉一项，应该先去掉哪一项？孔子说：去掉军备。子贡又问：如果迫不得已在粮食和信用中一定要去掉一项，应该去掉哪一项？孔子说：去掉粮食。自古人都免不了一死，但如果没有信任，是无法立足_的。[10]

《论语》中所说的“信”和卡瓦茨所说的“信任”概念非常相似，两者都与理学家立志接受现实的指导观念有关。差别在于早期儒家和卡瓦茨想象的个人获得与维持信任的方法。在儒家看来，这个过程的关键是领袖表现出高尚的行为，他们行为的自发性和真诚“睟然见于面”^[11]，我们不由得受到感动而信任他们。^[12]在卡瓦茨看来，信任的基础是将上文描述的个人拥有数据和制度的开放性结合起来。阐明当代儒家对这种对比所隐含的政治、法律和经济议题的态度已经超出了本文的探讨范围，不过，请允许我简单提出三点评论：首先，不能将有关维持“信”和“信任”的过程这两个观点融合起来的观点说不通；其次，当代儒家愿意拥抱卡瓦茨风格的开放性是完全有可能的，因为儒家反对私（赞赏公）的方式；最后，正如上文注意到的那样，我相信当我们准备回答使用人工智能来增强美德可能遭遇的主要反对意见时，“爱沙尼亚式”的解决办法是很重要的。下面我们就来讨论一下这个话题。

反对意见和结论

最后一节首先考虑本文讨论的途径的若干反对意见，其次提出若干反思。第一个反对意见可能是：我在本文中讨论的相对简单的技术真的可以被视为人工智能吗？换句话说，我是否回避了哲学家本应该遭遇的人工智能的真正深刻问题？对此挑战，我的回答是我同意还有值得探索的其他重要问题——虽然这些问题也是猜测性的，有些哲学同行的确已经提出了儒家思考超级人工智能的途径。不过，无论超级人工智能是否真有可能出现，本文探讨的议题都是真有可能实现的。这种切实的可行性使这些问题在儒家哲学家看来非常重要，他们总是不仅关心宏大的理论问题，而且关心实际的、具体的和社会的变革。

第二个反对意见要深刻得多。就本文推崇的某些途径依靠大规模的数据挖掘和确保技术对具体场景做出回应（比如这可能被应用在我文中提及的情感人工智能概念）而言，我们如何确保人工智能不会复制现有的糟糕价值观？我们如何确保历史上的种族主义或其他偏见不会影响输入人工智能中的数据？（这种挑战还可参阅William2017。）在这一点上，对此挑战的唯一回应是承认其严肃性，并确保在任何实际设计增强美德的人工智能中都要考虑到这个因素。

第三个反对意见是本文设想的技术可能带来如下担忧，如监控程度增加和隐私泄露等。如果你参与慈善活动或者超速行驶的行为被发现，甚至被政府或公司发现，并以此奖励或惩罚你时，会出现什么情况？在一定程度上，这种现象已经发生了：公司能够监控雇员的驾驶行为或者电子邮箱，个人也同意让保险公司监控自己的驾驶过程。^[13]我提出的用来回答这种担忧的途径遵循了文中有关爱沙尼亚的讨论（至少是海勒文章中所描述的那样）。个人相信他们的数据（包括我们现在可以想象的与其道德表现相关的数据）是他们自己的，不仅是安全的，而且如果他们愿意的话，可以很容易地与特定的某人共享。安全分享这些数据的潜在可能性之所以具有相关意义，就是因为正如我和田史丹曾讨论过的那样，自我修身常常不是孤立事件（Angleand Tiwald 2017，139–140）。即便不谈父母和老师所发挥的作用，我们竭力信守改善自我的承诺的方式通常都具有社会维度。正如从前朋友和伙伴之间能够相互鼓励一样，现在我们可以通过不同的社交媒体分享各自的故事和成就。社交媒体的问题当然很复杂，它带来的坏处可能比好处还多。虽然如此，那些让小组成员相互鼓励去进行体育锻炼的软件，它们的成功的确指向了某些积极的方向，尤其是当我们将其与已经在讨论的将个人数据安全掌握在自己手中结合起来时。

我要考虑的最后一个反对意见将我带回本文开头一节所讨论的若干议题，甚至是本文标题所传达的信息。简而言之，如果人工智能帮助人们采取某种行动，这还能说是有德之举吗？或者还能说是走在真美德之路上吗？回应该反对意见的第一步是注意到大部分或者几乎所有美德都需要花费时间和精力来培养。这不仅适用于（早先讨论过的）休谟的自然美德与人为美德，而且适用于儒家传统中对美德的所有不同描述（在某些思想家看来，少数人可能天生具有美德，虽然这种情况并不少）。第二步是思考外部辅助因素（不是我们身体组成部分的东西）的意义。在此，我集中论述人工智能发挥的作用。但是，事实上，外部辅助因素比现在的智能手机更加多样也更加古老。我们穿的衣服，我们住的房子和所处的公共空间，我们听的音乐，我们遭遇的有潜力影响我们做出反应的众多其他约束性框架无不如此。仅仅举从荀子那里选的一个例子：用带香味的花盖住尸体，我们就能够更好地哀悼（而不是厌恶地走开）。^[14]所以，荀子认为有意识地控制我们遭遇的场景，就能对我们的自发反应产生积极影响，帮助人们更可靠地获得有美德的情感和行为。与此同时，荀子认为，我们可以变得更成熟，更少依赖外部情景的支持，而这种“转型”甚至能够达到这样一种程度，无论情景如何变化，我们都能圆满地应对（《荀子·劝学》）。

有些理论家已经利用哲学和心理学的知识来探索儒家、美德与场景之间的关系，我在上文段落中的观察与其笼统结论正好吻合。^[15]虽然如此，我们需要询问人工智能中有没有什么特别的东西使其作为实现部分或整体美德的手段从而产生一些特殊的问题。或许因为人工智能提供的指导和助力比其他种类的外部辅助设施更加广泛，我们可能过分依赖它，从而不再开发人类自己的潜能。^[16]对此担忧，我可以设想出两种不同的回答，一个比较谨慎，另一个比较激进。谨慎的回答是，我们在设计人工智能助手时就将这个担忧考虑进来。正如他们可能渐渐推动我们变得更加关心他人（如前文所述）那样，它们或许也会渐渐减少我们对外部辅助设施的依赖。比较激进的回答是，我们首先要知道荀子并没有设想由完美圣人组成的社会，这个社会把所有外部辅助事物——衣服、礼仪等都当作不必要的东西统统抛弃。毕竟，圣人非常罕见：从原则上说是可能的，但在实践中稀有得很，致使现实中是否存在圣人对于我们在设计社会构成方式时并没有相干意义。儒家认为人们能够和应该努力修身，更加接近圣人品德，但非圣人的社会制度总是有必要的。或许，我们应该对学习如何与人工智能相处感到舒服才是。

我最后的建议涉及了背景各异的哲学家已经开始探讨的一些引人入胜的哲学话题。如果我们超越智能手机，进一步考虑将技术移植到我们体内——因而变成“赛博格”，儒家会感到担忧吗？人与非人的二元论对儒家是否构成根本性挑战？我们能否设想某种类型的“后人类”未来？对这些问题的回答将部分取决于人们所属的思想传统。毕竟，传统儒家内部已经出现过人与非人的本性差别的复杂辩论。^[17]我们不是要预先判断这些未来对话应该走向何方，请允许我特别强调这个事实，即儒家作为有生命力的思想和实践传统的健康，以及作为具有包容性和多样性的全球哲学的成长，皆取决于儒家提出新问题和进行新对话的能力。因此，请允许我再一次感谢博古睿研究院邀请我参与这些讨论，正是这些讨论促使我反思了上述问题。