人工智能伦理

图7.12 公平不见得是总体最优化的，更不同于公正。一般地，个体情况相差无几时求“公平”，否则求“公正”

有自我意识的机器或生物，它们的文明也许和人类的不同，这能够成为歧视和仇恨的理由吗？今天，我们仍然因文化、种族、肤色、语言、地域等微不足道的差异而相互敌视，却不懂得为志同道合的美好而相互爱慕，何况面对非人类的文明！这个貌似可笑的问题，却是令人羞愧、难以回答的。

图7.13 求同存异是文明融合的前提，相互欣赏是文化交流的基础

我们不知不觉地走入人工智能的时代，习以为常地享用各种贴心的AI服务，它们也在默默地改变着我们。人工智能和人类正在形成一个共生体，同历史上人类发明的所有工具一样，AI也是人类身体的延伸。不过，这次比较特殊，AI拓展的是人类智能。机器智能有望超越人类，并创造一个崭新的文明。人类的焦虑和憧憬早就在文学和影视作品中反映了出来，我们不知道当这一天到来之时，人类会以怎样的方式告别过去、迎接未来。我们祈祷它是平和的、坦荡的、宽容的，坚信那将是人类的解脱。

图7.14 科技进步日新月异，很多发明创造倒退50年都是难以想象的

回顾人类近百年的科技进步，过去很多连科幻作家都无法想象的发明，如今已走入寻常百姓家。世界变得如此复杂，人们迷失在信息的海洋里。如果缺乏监管，不知将有多少罪恶之手伸向科技。科技永远是一把双刃剑，人类需时刻提防自伤，用法律法规、伦理道德、人文关怀等确保科技被善用，以便维护好自身的安全和文明的发展。例如，几乎所有的国家都有网络言论控制，对那些涉及恐怖主义、邪教迷信、民族仇恨、淫秽色情、谣言歪曲、教唆犯罪等内容予以禁止和惩罚。

人是非常复杂的社会性动物，既有理性的一面，又有非理性的一面。人类群体心理的表现比个体的更为复杂，而影响历史的往往是一小撮人。德裔美国心理学家库尔特·勒温（KurtLewin, 1890—1947）有“社会心理学之父”的美誉，他对群体动力学的研究揭示了小群体的发展（如人际关系）对整个大群体的影响。例如，纳粹德国的邪恶源自少数变态和多数人的沉默，沉默的原因很多，其中有很多的怯懦、无奈。直至今天，依然有一些强权国家的联盟在瓜分和霸凌世界。人类的恶行太多，讲双重标准的政客们掌控着话语权，完全耍着强盗逻辑却得不到任何惩罚。

图7.15 人性是善（天使）和恶（魔鬼）的混合体，伦理的目的在于抑恶扬善

如今，我们要教会机器遵守怎样的伦理规范？是丛林法则(the law of the jungle)，还是自由、平等、博爱？人类明辨善恶是非却有意为恶，难怪孔子说：“克己复礼为仁。一日克己复礼，天下归仁焉！为仁由己，而由人乎哉？”（《论语·颜渊》）。所有对智能机器的监管都是人类对自己行为的约束，我们只有把理解善的能力“传给”机器（即教会它识别善恶）才算完成从魔鬼到天使的自我救赎。

图7.16 威尼斯赛舟，魔鬼（左）与天使（右）共同划桨前行。善恶是硬币的两面，是辩证的统一体。没有恶，也就没有善。所以，人类无法彻底消灭恶，只能最大限度地抑制它

善恶是相对的、变化的、有条件的。是故，老子（前571？—前411？）在《道德经》里说，“天下皆知美之为美，斯恶已；皆知善之为善，斯不善已。故有无相生，难易相成，长短相形，高下相倾，音声相和，前后相随。

7.1.1 可验证的伦理标准

对于人工智能的应用，有些需要验证它与伦理无关，有些则需要证明它与伦理相关并能通过伦理“考试”。除了那些有针对性的应用，首先要求模型训练没有种族、性别、年龄等伦理特征的预设，包括均衡的训练数据。其次，要有一套伦理验证的流程，以保证该应用合乎伦理规范。

口 例如，一个盗窃行为识别系统，它的准确率仅仅依赖于对行为特征的分析而非肤色，可以通过各种混杂伦理因素的测试，在因果（而非统计）意义上判断识别与伦理因素无关。

把自动驾驶之类的AI产品的伦理视为其性能的一部分，在模拟环境里对它进行充分的测试、验证，最后用科学的方法给出综合的评估。需要制定伦理核准(verified ethics)的国家标准，只有得到认证的机器才能自主进行伦理决策。