人工智能伦理

图4.92 杜威强调自学能力，朱熹强调自省能力，二者都是机器学习欠缺的

当前的机器学习并未获得自学能力：要么是填鸭式的有监督学习，要么是“食而不知其味”的无监督学习，只有强化学习有一点点自学能力，但仅限于某个具体任务。机器学习要做到“一通百通”“博采众长”，必须在学习层面之上形成自学能力。至于“学以致用”，那就需要更上一层楼了。好在机器没有人类的惰性和不安，一旦知道如何表示和使用知识，它们对知识的追求将永远如饥似渴。

图4.93 书本和社会实践都是“老师”，人们更多地从那里获取知识与经验

机器学习要解决的关键问题是知识表示和推理，前者要跨越从观察到知识的鸿沟，后者要翻越如何使用知识的高山。到目前为止，还没有哪个人工智能理论能很好地处理这两类问题。很多研究者还停留在行为主义的模式上，把机器学习简单地理解为最优化问题^[90][91]，这无助于泛化机器的智能。虽然在某个具体的应用（如棋类）上，机器确实打败了人类，但它仍然和生产线上的机械臂没有本质区别，并不具备通常意义的“智能”。我们必须深入研究学习、推理、决策等智能活动的基本结构和元规则，提炼出它们的一般规律，才有望创造出能够自主演化的智能。

(1) Logo是解释性语言，通过向海龟发布命令来画图，适合儿童直观地学习程序的运行过程。美国很多小学二三年级就开设了Logo课程，该课程深受小朋友们的喜爱。

(2) 托勒密“地心说”认为所有天体沿圆形轨道绕地球运转。每个天体在一个小圆轨道（称为“本轮”）上匀速转动，而本轮的中心在一个大圆轨道（称为“均轮”）上绕地球匀速转动，而地球不在均轮圆心。该模型在多数情况下基本符合当时的观测数据，也被宗教势力所认可。

(3) 除了撒哈拉沙漠以南的一部分非洲现代人，几乎所有的人类都带有1%∼4%的尼安德特人基因，这说明智人在走出非洲过程中先与尼安德特人混血，然后迁移至世界各地。

(4) 1851年，英国物理学家、“热力学之父”威廉·汤姆森（WilliamThomson, 1824—1907），即开尔文勋爵（Lord Kelvin），提出了热力学第二定律的另一个等价表述。

(5) 为纪念阿贝尔对群论的贡献，满足交换律的群（即交换群）被称为阿贝尔群（Abelian group）。

(6) 即任意命题p和它的否命题¬p不可能同时为假，其中必有一个为真。排中律是反证法的逻辑基础，即一个对象的存在性可以通过否定它的不存在性来证明。直觉主义逻辑拒绝排中律的理由是，否定它的不存在性并不意味着能将该对象构造出来。

(7) “知识之树”只是一个形象的比喻。事实上，知识是靠复杂的网状结构组织起来的。它在人脑里是否有相应的物质基础，至今仍然是未知的。

第5章 自我意识

枯桑知天风，海水知天寒。

——佚名《饮马长城窟行》

扫 地机器人会自己充电保持身体的活力，同时对内部故障也有“感知”，进而在“不舒服”（如轮子跑偏、耗电异常）的时候会主动要求维修，就像人觉得自己生病了去医院看医生一样。是否可以认为扫地机器人有一点点自我意识呢？

机器人看到它自己的照片，通过物体识别技术，它“知道”那是它自己或者过去的自己。它也可以像人类一样，不仅感知外部世界，对自己的身体活动也有所了解。然而，它能够认知自己的精神活动吗？那个寻求维修的扫地机器人，它知道自己正在担忧自己的身体健康吗？

WTAR DROIDS

图5.1 《星球大战》中的一些机器人有很高的智能，蹊跷的是它们大多没有与人类正常沟通的自然语言能力，而语言交流恰恰是强人工智能首先必备的能力之一

当机器用“我”或“我的”来表述自己的情绪或意愿时，譬如，“我的心情不太好”“我有些激动”“我期待您的关爱”……它真的是这么想的吗？事实上，这些“心理状态”都是用函数刻画的，机器只不过凭借取值来表达它们的程度。

在回答这些问题之前，我们必须搞清楚什么是“自我意识”。百度百科是这样定义的，“自我意识是指个体对自己的各种身心状态的认识、体验和愿望。它具有目的性和能动性等特点。对人格的形成、发展起着调节、监控和矫正的作用。”按照这个定义，至少表象上看起来，扫地机器人似乎有了某些自我意识。

自我意识是认识论中最重要的主题之一。伟大的古希腊哲学家亚里士多德声称，一个人在感知任何事物的同时还必须感知自己的存在，思考本身也是可以被思考的。

图5.2 亚里士多德和笛卡儿都指出，认知主体对自身的认知是自我意识的先决条件

1641年，伟大的法国哲学家、数学家勒内·笛卡儿在《谈谈方法》和哲学论文选集《第一哲学沉思集》中振聋发聩地道出了“我思故我在”（Cogito, ergo sum）⁽¹⁾，指出“我思”的主体是“我”。

我怀疑就是我思想。笛卡儿说，我可以怀疑这怀疑那，但不能怀疑“我在怀疑”。一旦我怀疑“我在怀疑”，就正好证实了“我在怀疑”。为了不引起矛盾，所以“我在怀疑”是无法被怀疑的。既然如此，那个“在怀疑”的主体就是“我”。“我发现，‘我思故我在’之所以是我确信自己说的是真理，无非是由于我十分清楚地见到：必须是（思的主体），才能思。因此我认为可以一般地规定：凡是我十分清楚、极其分明地理解的，都是真的。不过，要确切指出哪些东西是我们清楚地理解的，我认为多少有点困难。”^[5]

我知道“我思”，机器知道“我思”吗？读者不难看出，“知道‘我思’”是更高级的“我思”——它明确“我思”的主体是“我”。机器也在做决策，它知道它在思考吗？如果它不知道，那么它还不具备“自我意识”。如果机器知道它正在做的决策是一种思考，那么它必须能区分实施和想象，以及它们之间微妙的关系。