人工智能伦理

图5.16 大约10万年前，智人走出非洲，逐渐取代了尼安德特人和直立人而统治了这个星球。在迁徙中，智人遭遇到更多的生存挑战而创造出更强的工具，致使人类智能加速进化，也加剧了语言、文化的分化

5.1.1 好奇心

尽管我国常常在国际数学奥林匹克竞赛中名列前茅，然而这并不能代表国家的数学研究水平。通常，中日韩中学生的数学素养世界领先（见图5.17），但英法德俄等数学强国的水平后来居上。反思我们的教育和社会现实，特别缺乏对好奇心（curiosity）的培养，而好奇心恰是探索未知世界的原始驱动力。

图5.17 多国15岁中学生的数学素养水平：运用数学来描述、预测和解释现象的能力

来源：经济合作与发展组织国际学生评估计划PISA

儿童在掌握少量单词后就开始问问题，像海绵吸水一样通过交流积累知识。与人类不同，现有的机器认识不到自我，它甚至对感知到的未知对象没有任何的好奇心。目前，机器学习都是被动的，不会通过主动提问来不断地丰富自己的知识。例如，机器视觉中的物体识别和人机对话中的自然语言理解没有联起手来，让机器像孩子一样问这问那，为知识表示和推理提供素材。

高级哺乳动物在幼年期都表现出一些好奇心，母亲会把一些生存技能教给它们，譬如哪些东西是食物，哪些动物是天敌等。好奇心是学习的内在动机，它不求外在的奖励而持续地关注于某事物，探究不了解的规律。孔子曾说，“知之者不如好之者，好之者不如乐之者”（《论语·雍也》）。

法国哲学家让–雅克·卢梭在《爱弥儿——论教育》（1762）中也说过类似的话，“同一种本能可以刺激人的不同的官能。当身体的活力极度发达的时候，精神的活力也跟着要受到教育。开始，孩子们只不过是好动，后来就变得好奇；这种好奇心只要有很好的引导，就能成为我们现在所讲的这个年龄的孩子寻求知识的动力。我们始终要区别，哪些倾向是产生于自然，哪些倾向是产生于偏见。有一种求知热的产生，完全是由于想使别人尊敬他为一个学者，而另外一种求知热的产生，则由于人对所有一切在目前或将来同他息息相关的事物有一种自然的好奇心。一方面他生来就有谋求幸福的欲望，而另一方面又不能充分满足这种欲望，因而他不得不继续不断地寻求满足他的欲望的新的方法。这就是好奇心的第一本原，这个本原是自然而然地在人的心中产生的，但它的发展是必然同我们的欲望和知识成比例的”（第三卷第一节）。接着，卢梭指出，“问题不在于教他各种学问，而在于培养他有爱好学问的兴趣，而且在这种兴趣充分增长起来的时候，教他以研究学问的方法。毫无疑问，这是所有一切良好的教育的一个基本原则”^[51]。

图5.18 卢梭自认为《爱弥儿——论教育》是“我的所有作品中最好、最重要的一部”

好奇心不仅是学习的动力，还驱使人类不断地进行科学探索，几乎所有的科学发现都是好奇的结果。

图5.19 2012年8月6日，美国的火星探测器“好奇号”开始对火星气候、地质、水文、生命的进行探测，并持续数年之久

好奇心是所有学者（包括哲学家、科学家、文学家等）的第一美德，爱因斯坦说过，“好奇心是科学工作者产生无穷的毅力和耐心的源泉”。如果机器没有好奇心，它就不可能有自主的发展，进而不可能有内省产生自我意识。微观上，自我意识不是外界强加给主体的，它是意识向内向外的产物。宏观上，人类对自身和外部世界的好奇心，是文明进步的原始动力。

早期的人工智能在规则的框架里研究自然语言处理、计算机视觉、机器人学、知识表示、自动推理等，后来它们从人工智能分离出来发展成一门门独立的分支，并大量使用统计方法。在变得成熟之后，这些分支应该再次融入一个新的人工智能框架，在那里，人们将对“智能”有更深刻的理解。如图灵所建议的，人类担负起儿童机器的老师的角色，以问答式的教学来帮助机器成长，就像我们对待孩子一样。

认识自己

当动物第一次看到自己在水中的倒影，它的第一反应是吓了一跳，它不知道这个同类是否构成威胁。多次尝试之后，它发现那个镜像似乎没有危险，只是好笑地在学自己做同样的动作。然而按照经验，它不是真实的，因为它没有气味，触碰起来感觉也怪怪的。能辨别镜像是自己的动物（如部分灵长类动物、虎鲸、大象、海豚、喜鹊、裂唇鱼、蚂蚁等），即通过所谓镜子测试(mirror test)的动物，常常被认为具有一定的自我认知能力，但也有一些质疑之声反对这个标准。