人工智能伦理

图1.185 曹操生性多疑，看华佗不能为其所用，遂将之杀害

反事实推理是对过去事件的一种假设，它的场景是过去的真实世界（并非光怪陆离的虚拟世界），在假设之下推演后续可能发生的一切。如第六世达赖喇嘛仓央嘉措（1683—1706）的《十诫诗》：“最好不相见，便可不相恋。最好不相知，便可不相思。”事实是相见相恋相知相思，反事实就是美丽的《十诫诗》。

反事实推理是因果推断的一种手段，目的是为了确认因果关系，人类很早就将它应用于法律，来做有罪的证明。例如，“如果鲍勃没纵火，珍妮会被烧死吗？”我们在推断鲍勃有罪时，会这样反事实地想。当认定珍妮在反事实中被烧死的概率几乎为零后，鲍勃纵火便成了珍妮的死因。

图1.186 纵火和罹难之间如果有因果关系，则纵火杀人的罪名成立

再如，当人类学家思考尼安德特人在进化过程中消失的原因，他们会做这样的反事实推理，如果智人在迁徙途中没有遇到尼安德特人，人类会演化成什么样子？如果尼安德特人在反事实世界里能存活下来，那么智人便是导致它灭绝的因（譬如智人带给尼安德特人一种导致整个种群灭亡的病毒）。

现代基因技术显示，大多数人类有1%∼4%的基因来自尼安德特人。所以还有种说法，尼安德特人在遗传上处于劣势，逐渐被智人同化。尼安德特人消失之谜，仍未找到一个被可靠证据支持的合理的原因。

图1.187 尼安德特人在三万年前突然神秘地消失了，那正是智人进入欧洲的时候

反事实推理可以借助模拟实现，这也是模拟技术之所以重要的主要原因之一。也就是说，模拟不仅仅是一种近似计算的手段，还是反事实推理的基础。在模拟世界里，让某事件发生或不发生，从而演变出各种可能的结果，让机器通过“反思”获取更多的经验。这是一类重要的学习，对人类和机器来说都是如此。只要对现实的表现不甚满意，“反思”就是想象中的再来一次，直至找到满意的做法。虽然这个经验并不是来自真实世界，但对于今后的“行为做事”一样会有指导意义。

人的生命是有限的，除了直接从经验中学习，还有“反思”。经验可以是自己的，也可以是别人的，“反思”也是类似的。成本最低的财富是把别人的教训当作自己的教训，从别人的经验中学习或反思，这是最聪明的做法。孔子说，“见贤思齐焉，见不贤而内自省也。”（《论语·里仁》）也是同样的道理。

图1.188 “仁、义、礼、智、信”是儒家追求的道德标准

(1) 我们依然用“它们”而非“他们”来称呼那些具有自我意识的智能机器，并无任何歧视的意思，也不代表其无人性。或许，我们应该为之新造一个汉字。

(2) 1956年的达特茅斯会议是“人工智能”的起点。同年，在美国麻省理工学院的一个学术会议上，语言学家诺姆·乔姆斯基（Noam Chomsky,1928— ）介绍了句法理论，心理学家乔治·米勒（George Miller,1920—2012）报告了有关短期记忆的研究，计算机科学家、图灵奖得主（1975）、人工智能先驱艾伦·纽厄尔（Allen Newell,1927—1992）和赫伯特·西蒙展示了他们的通用问题求解器（general problem solver,GPS）。这次会议被视为认知心理学（cognitive psychology）的发端。认知心理学与AI是天生的一对，一个研究人类的认知，一个研究机器的认知。

(3) 工作记忆有点类似机器对有限内存中的信息进行处理，它强调的是“操作”，而短期记忆（short-term memory）强调的是内容。

(4) “语义联想”有助于记忆。例如，有个用谐音来记住圆周率π的小故事：过去，一位好喝酒的教书先生让学生背诵圆周率到小数点后二十位，背不上来要打手板。先生趁学生死记硬背的时候上山找老和尚喝酒，学生们在学堂里苦不堪言。有个聪明的学生灵机一动，写了一首打油诗：“山巅一寺一壶酒（3.14159），尔乐苦煞吾（26535），把酒吃（897），酒杀尔（932），杀不死（384），乐尔乐（626）。”所有的学生背一遍就轻轻松松地学会了，而且一辈子也忘不掉了。

(5) 按照2019年教育部《中国语言文字概况》对方言的划分，汉语有十大方言：官话方言（即北方方言）、晋方言、吴方言、徽方言、闽方言、粤方言、客家方言、赣方言、湘方言、平话土话。推广“普通话”（mandarinChinese）和保护方言都有必要，二者并不矛盾。

(6) 在自然语言和形式语言中，自指（self-reference）是一个语句直接或间接提及自身。例如，一个人声称“我正在说谎”，将导致悖论（说谎者悖论）。如果他说的是实话，那么他在说谎。如果他的确在说谎，那么他说的就是实话。读者思考一下，“不存在永恒的真理”是不是永恒的真理？

(7) 对角论证法是德国数学家、集合论奠基人格奥尔格·康托尔（Georg Cantor, 1845—1918）发明的一种构造技巧，曾用它证明实数是不可数的（见图1.115）。

(8) 如果一个命题为真或者为假都是明确可证的，则称之为可判定的（decidable）。如果为真时可证，为假时无法作出判断，则称之为半可判定的（semi-decidable）。如果无法判断其真假，则称之为不可判定的（undecidable）。

(9) 如果A是一类B，则称B是A的上位概念（上位概念可以不唯一）。例如，“计算机”是一类“机器”，“机器”是一类“设备”。“机器”是“计算机”的上位概念，而“计算机”是“机器”的下位概念（hyponym）。“计算机”的上位概念的上位概念是“设备”，我们称“计算机”是“设备”的后代概念，“设备”是“计算机”的祖先概念，记作“计算机⪰设备”或者“设备⪯计算机”。

(10) 本实验结果是2021年5月的，由于谷歌和百度的机器翻译系统一直处于改进之中，该结果与当前结果可能会有一些出入。读者不妨用类似的方法尝试一下其他的输入。

(11) 《旧约·创世记》第十一章：“那时，天下人的口音言语都是一样。……他们说：‘来吧，我们要建造一座城和一座塔，塔顶通天，为要传扬我们的名，免得我们分散在全地上。’耶和华降临，要看看世人所建造的城和塔。耶和华说：‘看哪，他们成为一样的人民，都是一样的言语，如今既做起这事来，以后他们所要做的事就没有不成就的了。我们下去，在那里变乱他们的口音，使他们的言语彼此不通。’于是，耶和华使他们从那里分散在全地上；他们就停工，不造那城了。因为耶和华在那里变乱天下人的言语，使众人分散在全地上，所以那城名叫巴别（就是变乱的意思）。”

(12) 该程序是由戴维·费鲁奇（David Ferrucci）领导的“深度问答”（DeepQA）计划小组研发，以IBM公司创始人托马斯·沃森（ThomasWatson, 1874—1956）的名字命名。

(13) 《危险边缘》是现场抢答的电视节目，创建于1964年，深受美国观众喜爱，内容涵盖了历史、语言、文学、艺术、文化、体育、地理、科技等，每期有三位选手参加。