---
schema_version: "library-reader-v1"
source_type: "original_book"
title: "人工智能伦理"
author: null
edition: null
publisher: null
year: null
isbn: "9787302596622"
library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb"
source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472"
pdf_physical_page_count: 1800
pdf_physical_page_index_base: 0
range_start: 1150
range_count: 10
html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1150&limit=10"
markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1150&limit=10"
previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1140&limit=10"
next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1160&limit=10"
---
# 人工智能伦理
> 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。
## PDF_PHYSICAL_PAGE_INDEX=1150 | PRINTED_PAGE=NOT_DETECTED
图4.92 杜威强调自学能力，朱熹强调自省能力，二者都是机器学习欠缺的
当前的机器学习并未获得自学能力：要么是填鸭式的有监督学习，要么是“食而不知其味”的无监督学习，只有强化学习有一点点自学能力，但仅限于某个具体任务。机器学习要做到“一通百通”“博采众长”，必须在学习层面之上形成自学能力。至于“学以致用”，那就需要更上一层楼了。好在机器没有人类的惰性和不安，一旦知道如何表示和使用知识，它们对知识的追求将永远如饥似渴。
## PDF_PHYSICAL_PAGE_INDEX=1151 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1152 | PRINTED_PAGE=NOT_DETECTED
图4.93 书本和社会实践都是“老师”，人们更多地从那里获取知识与经验
机器学习要解决的关键问题是知识表示和推理，前者要跨越从观察到知识的鸿沟，后者要翻越如何使用知识的高山。到目前为止，还没有哪个人工智能理论能很好地处理这两类问题。很多研究者还停留在行为主义的模式上，把机器学习简单地理解为最优化问题[90][91]，这无助于泛化机器的智能。虽然在某个具体的应用（如棋类）上，机器确实打败了人类，但它仍然和生产线上的机械臂没有本质区别，并不具备通常意义的“智能”。我们必须深入研究学习、推理、决策等智能活动的基本结构和元规则，提炼出它们的一般规律，才有望创造出能够自主演化的智能。
(1) Logo是解释性语言，通过向海龟发布命令来画图，适合儿童直观地学习程序的运行过程。美国很多小学二三年级就开设了Logo课程，该课程深受小朋友们的喜爱。
(2) 托勒密“地心说”认为所有天体沿圆形轨道绕地球运转。每个天体在一个小圆轨道（称为“本轮”）上匀速转动，而本轮的中心在一个大圆轨道（称为“均轮”）上绕地球匀速转动，而地球不在均轮圆心。该模型在多数情况下基本符合当时的观测数据，也被宗教势力所认可。
(3) 除了撒哈拉沙漠以南的一部分非洲现代人，几乎所有的人类都带有1%∼4%的尼安德特人基因，这说明智人在走出非洲过程中先与尼安德特人混血，然后迁移至世界各地。
(4) 1851年，英国物理学家、“热力学之父”威廉·汤姆森（WilliamThomson, 1824—1907），即开尔文勋爵（Lord Kelvin），提出了热力学第二定律的另一个等价表述。
(5) 为纪念阿贝尔对群论的贡献，满足交换律的群（即交换群）被称为阿贝尔群（Abelian group）。
## PDF_PHYSICAL_PAGE_INDEX=1153 | PRINTED_PAGE=NOT_DETECTED
(6) 即任意命题p和它的否命题¬p不可能同时为假，其中必有一个为真。排中律是反证法的逻辑基础，即一个对象的存在性可以通过否定它的不存在性来证明。直觉主义逻辑拒绝排中律的理由是，否定它的不存在性并不意味着能将该对象构造出来。
(7) “知识之树”只是一个形象的比喻。事实上，知识是靠复杂的网状结构组织起来的。它在人脑里是否有相应的物质基础，至今仍然是未知的。
## PDF_PHYSICAL_PAGE_INDEX=1154 | PRINTED_PAGE=NOT_DETECTED
第5章 自我意识
枯桑知天风，海水知天寒。
——佚名《饮马长城窟行》
扫 地机器人会自己充电保持身体的活力，同时对内部故障也有“感知”，进而在“不舒服”（如轮子跑偏、耗电异常）的时候会主动要求维修，就像人觉得自己生病了去医院看医生一样。是否可以认为扫地机器人有一点点自我意识呢？
机器人看到它自己的照片，通过物体识别技术，它“知道”那是它自己或者过去的自己。它也可以像人类一样，不仅感知外部世界，对自己的身体活动也有所了解。然而，它能够认知自己的精神活动吗？那个寻求维修的扫地机器人，它知道自己正在担忧自己的身体健康吗？
## PDF_PHYSICAL_PAGE_INDEX=1155 | PRINTED_PAGE=NOT_DETECTED
WTAR DROIDS
## PDF_PHYSICAL_PAGE_INDEX=1156 | PRINTED_PAGE=NOT_DETECTED
图5.1 《星球大战》中的一些机器人有很高的智能，蹊跷的是它们大多没有与人类正常沟通的自然语言能力，而语言交流恰恰是强人工智能首先必备的能力之一
当机器用“我”或“我的”来表述自己的情绪或意愿时，譬如，“我的心情不太好”“我有些激动”“我期待您的关爱”……它真的是这么想的吗？事实上，这些“心理状态”都是用函数刻画的，机器只不过凭借取值来表达它们的程度。
在回答这些问题之前，我们必须搞清楚什么是“自我意识”。百度百科是这样定义的，“自我意识是指个体对自己的各种身心状态的认识、体验和愿望。它具有目的性和能动性等特点。对人格的形成、发展起着调节、监控和矫正的作用。”按照这个定义，至少表象上看起来，扫地机器人似乎有了某些自我意识。
自我意识是认识论中最重要的主题之一。伟大的古希腊哲学家亚里士多德声称，一个人在感知任何事物的同时还必须感知自己的存在，思考本身也是可以被思考的。
## PDF_PHYSICAL_PAGE_INDEX=1157 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=1158 | PRINTED_PAGE=NOT_DETECTED
图5.2 亚里士多德和笛卡儿都指出，认知主体对自身的认知是自我意识的先决条件
1641年，伟大的法国哲学家、数学家勒内·笛卡儿在《谈谈方法》和哲学论文选集《第一哲学沉思集》中振聋发聩地道出了“我思故我在”（Cogito, ergo sum）(1)，指出“我思”的主体是“我”。
我怀疑就是我思想。笛卡儿说，我可以怀疑这怀疑那，但不能怀疑“我在怀疑”。一旦我怀疑“我在怀疑”，就正好证实了“我在怀疑”。为了不引起矛盾，所以“我在怀疑”是无法被怀疑的。既然如此，那个“在怀疑”的主体就是“我”。“我发现，‘我思故我在’之所以是我确信自己说的是真理，无非是由于我十分清楚地见到：必须是（思的主体），才能思。因此我认为可以一般地规定：凡是我十分清楚、极其分明地理解的，都是真的。不过，要确切指出哪些东西是我们清楚地理解的，我认为多少有点困难。”[5]
我知道“我思”，机器知道“我思”吗？读者不难看出，“知道‘我思’”是更高级的“我思”——它明确“我思”的主体是“我”。机器也在做决策，它知道它在思考吗？如果它不知道，那么它还不具备“自我意识”。如果机器知道它正在做的决策是一种思考，那么它必须能区分实施和想象，以及它们之间微妙的关系。
## PDF_PHYSICAL_PAGE_INDEX=1159 | PRINTED_PAGE=NOT_DETECTED
下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1160&limit=10)