人工智能伦理

图5.30 智能机器之间的意识交流，是真正的心电感应，一切尽在不言中

机器之间的信息交流比人类的更高效，只不过当前它们并不是有意识地进行交流。学习机对数据的处理完全受人类的操纵，它不懂得主动地从数据中提取知识改进自身的认知能力。机器要明白围棋衍生的意义，它必须有围棋之外更高级的知识体系，能指导它发现围棋与其他谋略（如兵法）的相似之处。

众所周知，“授人以鱼不如授人以渔”，但我们仍然只会告诉机器静态的知识，至于如何高效地使用这些知识以及怎样获取新的知识，还是未开垦的理论荒原。

若要两个智能体之间达成共识，只有将彼此的知识融合，才能知道对方是否就某概念的理解和自己的一致，这样的交流才是有意义的。如同一个深谙烹调的厨师，他的知音一定是能吃出门道的美食家。

机器一旦有意识地获取知识，它们之间共享知识的效率远超过人类。机器人只需一瞬间就能教会机器狗成为棋类高手，知识和技能可以被“点石成金”。相比之下，人脑的学习能力效率低下，根本不是机器的对手。

机器的意识

奥地利心理学家、哲学家、精神分析之父西格蒙德·弗洛伊德（Sigmund Freud, 1856—1939）认为在意识之下还有一个潜意识（unconscious），它是被压制的欲望，而从未被自我清楚地意识到。弗洛伊德认为人的精神（或人格）有三个部分：本我（不受主观意识控制的潜意识）、自我（认知客观世界的主观意识）、超我（内心的良知）。梦是一种潜意识的活动。

图5.31 弗洛伊德著有《梦的解析》一书，通过分析梦来了解潜意识

弗洛伊德将意识划分为意识（水面之上）、前意识（浅水区）和潜意识（深水区）三个层次，人格如同一座冰山，水面之上可见的仅是自我和超我的一小部分，本我和大部分的超我则隐藏在潜意识的深水区，它们是人格的主体部分。

图5.32 弗洛伊德的“心理冰山”：本我（id）、自我（ego）、超我（superego）是组成划分，意识、前意识（preconscious）、潜意识（unconscious）是层次划分。其中，前意识介于意识和潜意识之间，它包含人们能够回忆起来的经验

对机器而言，弗洛伊德的“心理冰山”是否具有参考价值？机器能有前意识和潜意识吗？“心理冰山”是不是因为人类心理和生理的局限性导致的？人类的邪恶的心理基础是什么？它们对机器成立吗？这些问题值得我们认真思考。

图5.33 心理冰山是一种隐喻，看不到的潜意识是水下的大部分，而意识只是水面之上可见的那一小部分

譬如面对火灾，潜意识对危险的恐惧让人类的“本我”首先想到躲避，然而“超我”的道德观点又认为不能对身困火灾的生命见死不救。生命至上，救人第一。“自我”意识理性地分析了当前的局势和各种应对策略的后果，而后立即冷静地打电话报警（说清楚着火地点、火势大小、围困人数、报警人信息等），大声呼救，用浸湿的棉布保护好自己（使用灭火器、淋湿的棉被等）及时开始营救……当火势不大时应争分夺秒，奋力将火势控制住以便救出人员。如果火势过大，或者力所不逮，则应做力所能及的事情，切莫鲁莽行事白白牺牲，尤其对判断能力尚弱的青少年来说更需如此。

图5.34 面对火灾等险情，人类有不自觉的恐惧和逃生欲望。然而，“超我”的道德又告诉我们不能袖手旁观。理性的做法是量力而为地积极施救

人工智能伦理要帮助智能机器实现一个“超我”，而“本我”的潜意识则是一些简单的决策规则的集合（例如，危险→躲避），它们与“自我”意识一起构成“机格”，对应着弗洛伊德的“人格”。“机格”不必与“人格”相同，譬如，机器人救火可以很专业地奋不顾身，因为它们的精神有备份，躯体可以再造，理论上讲它们是不死的。