--- schema_version: "library-reader-v1" source_type: "original_book" title: "人工智能伦理" author: null edition: null publisher: null year: null isbn: "9787302596622" library_document_id: "4f33a8d5-185f-4dd7-8093-04a4119470cb" source_sha256: "fcd3c9683d64b90a0f86208e72b703029dcf8f67d635958e09e34a63875b4472" pdf_physical_page_count: 1800 pdf_physical_page_index_base: 0 range_start: 1220 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb?start=1220&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1220&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1210&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1230&limit=10" --- # 人工智能伦理 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=1220 | PRINTED_PAGE=NOT_DETECTED 图5.30 智能机器之间的意识交流，是真正的心电感应，一切尽在不言中 机器之间的信息交流比人类的更高效，只不过当前它们并不是有意识地进行交流。学习机对数据的处理完全受人类的操纵，它不懂得主动地从数据中提取知识改进自身的认知能力。机器要明白围棋衍生的意义，它必须有围棋之外更高级的知识体系，能指导它发现围棋与其他谋略（如兵法）的相似之处。 众所周知，“授人以鱼不如授人以渔”，但我们仍然只会告诉机器静态的知识，至于如何高效地使用这些知识以及怎样获取新的知识，还是未开垦的理论荒原。 若要两个智能体之间达成共识，只有将彼此的知识融合，才能知道对方是否就某概念的理解和自己的一致，这样的交流才是有意义的。如同一个深谙烹调的厨师，他的知音一定是能吃出门道的美食家。 机器一旦有意识地获取知识，它们之间共享知识的效率远超过人类。机器人只需一瞬间就能教会机器狗成为棋类高手，知识和技能可以被“点石成金”。相比之下，人脑的学习能力效率低下，根本不是机器的对手。 机器的意识 奥地利心理学家、哲学家、精神分析之父西格蒙德·弗洛伊德（Sigmund Freud, 1856—1939）认为在意识之下还有一个潜意识（unconscious），它是被压制的欲望，而从未被自我清楚地意识到。弗洛伊德认为人的精神（或人格）有三个部分：本我（不受主观意识控制的潜意识）、自我（认知客观世界的主观意识）、超我（内心的良知）。梦是一种潜意识的活动。 ## PDF_PHYSICAL_PAGE_INDEX=1221 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1222 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1223 | PRINTED_PAGE=NOT_DETECTED 图5.31 弗洛伊德著有《梦的解析》一书，通过分析梦来了解潜意识 弗洛伊德将意识划分为意识（水面之上）、前意识（浅水区）和潜意识（深水区）三个层次，人格如同一座冰山，水面之上可见的仅是自我和超我的一小部分，本我和大部分的超我则隐藏在潜意识的深水区，它们是人格的主体部分。 ## PDF_PHYSICAL_PAGE_INDEX=1224 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1225 | PRINTED_PAGE=NOT_DETECTED 图5.32 弗洛伊德的“心理冰山”：本我（id）、自我（ego）、超我（superego）是组成划分，意识、前意识（preconscious）、潜意识（unconscious）是层次划分。其中，前意识介于意识和潜意识之间，它包含人们能够回忆起来的经验 对机器而言，弗洛伊德的“心理冰山”是否具有参考价值？机器能有前意识和潜意识吗？“心理冰山”是不是因为人类心理和生理的局限性导致的？人类的邪恶的心理基础是什么？它们对机器成立吗？这些问题值得我们认真思考。 ## PDF_PHYSICAL_PAGE_INDEX=1226 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1227 | PRINTED_PAGE=NOT_DETECTED 图5.33 心理冰山是一种隐喻，看不到的潜意识是水下的大部分，而意识只是水面之上可见的那一小部分 譬如面对火灾，潜意识对危险的恐惧让人类的“本我”首先想到躲避，然而“超我”的道德观点又认为不能对身困火灾的生命见死不救。生命至上，救人第一。“自我”意识理性地分析了当前的局势和各种应对策略的后果，而后立即冷静地打电话报警（说清楚着火地点、火势大小、围困人数、报警人信息等），大声呼救，用浸湿的棉布保护好自己（使用灭火器、淋湿的棉被等）及时开始营救……当火势不大时应争分夺秒，奋力将火势控制住以便救出人员。如果火势过大，或者力所不逮，则应做力所能及的事情，切莫鲁莽行事白白牺牲，尤其对判断能力尚弱的青少年来说更需如此。 ## PDF_PHYSICAL_PAGE_INDEX=1228 | PRINTED_PAGE=NOT_DETECTED ## PDF_PHYSICAL_PAGE_INDEX=1229 | PRINTED_PAGE=NOT_DETECTED 图5.34 面对火灾等险情，人类有不自觉的恐惧和逃生欲望。然而，“超我”的道德又告诉我们不能袖手旁观。理性的做法是量力而为地积极施救 人工智能伦理要帮助智能机器实现一个“超我”，而“本我”的潜意识则是一些简单的决策规则的集合（例如，危险→躲避），它们与“自我”意识一起构成“机格”，对应着弗洛伊德的“人格”。“机格”不必与“人格”相同，譬如，机器人救火可以很专业地奋不顾身，因为它们的精神有备份，躯体可以再造，理论上讲它们是不死的。 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/4f33a8d5-185f-4dd7-8093-04a4119470cb.md?start=1230&limit=10)