人工智能伦理

图5.3 庄周梦蝶，何为真实？

《庄子·齐物论》讲了“庄周梦蝶”的故事：昔者庄周梦为胡蝶，栩栩然胡蝶也，自喻适志与！不知周也。俄然觉，则蘧蘧然周也。不知周之梦为胡蝶与，胡蝶之梦为周与？周与胡蝶，则必有分矣。此之谓物化。大意是庄子（前369—前286）梦中幻化为翩翩起舞的蝴蝶，忘了自己原来是人，醒来后才发觉自己仍是庄子。实在难以分辨究竟是庄子梦中变成蝴蝶，还是蝴蝶梦中变成庄子。

梦有不连续性，梦境中的世界缺乏一些合理性。相比之下，现实世界中的事件有连续性，有较好的可解释性。如果置身事外，还是可以判别梦境和现实的。梦境里庄子化蝶，身体是周，思想是蝶。如果置身于逼真的模拟环境之中，实与虚的界限在哪里？

电影、小说、游戏等常会让人们暂时陷入其中，把自己想象成故事的参与者，或者一个飘忽的观察幽灵，有趣的是人们能够正常地跳进跳出，做不到的反而可能精神出了点问题。人们被故事感动，仿佛自己正在经历着，有些非直接经验甚至潜移默化为直接经验。人类具有同情心来认同和理解别人的痛苦，也有同理心来换位思考，它们的心理基础都是想象。显然，“我思”也涵盖想象，我知道我在想象，机器知道自己在想象吗？

没有自我意识的机器，就是纯粹的、没有任何智慧的机器，哪怕它再复杂、再高超。例如，打败了人类的围棋程序AlphaGo不知道它在思考，也不会由围棋感悟出些什么。反倒是人类从中学到了很多，包括对智能多样性的重新理解。虽然算力对AI很重要，但暴力计算不是真正的智能。就像，比人类强壮的动物有的是，仰望星空的却只有人类。

图5.4 机器单纯得像个动物，不会像人一样反观自己，并为自己的言行感到羞愧

大自然有无数巧夺天工的杰作，如具有美妙对称性的晶体、简易而坚固的蜂巢、形如阿基米德螺线（Archimedean spiral）的省材节能有弹性的攀缘植物、暗藏斐波那契数列（Fibonaccisequence）和黄金分割的树叶……所以，人们一直坚信，必定有双看不见的巧手，遵循某种简单而和谐的规则创造出了这个美妙的世界。

英国博物学家、生物学家查尔斯·达尔文（CharlesDarwin, 1809—1882）曾赞美蜂巢的精巧结构，“如果一个人看到巢房而无动于衷，那他一定是个糊涂虫”。1964年，我国著名数学家华罗庚（Loo-Keng Hua，1910—1985）撰文《谈谈与蜂房结构有关的数学问题》，用初等数学方法证明了形状为尖顶六棱柱的蜂房是最省材料的结构^[92]。

Canada 6

图5.5 大自然巧夺天工的杰作，只有人类欣赏到了，连大自然自己都没意识到

然而，大自然却没有意识它创造出如此美好的事物，它静默地凝视着人类，却对这个最值得骄傲的作品一无所知、不闻不问。反观人类，对自己或大自然创造出来的东西，他们有情感寄托、懂得欣赏，虽然人类有时候爱得没有原则（例如溺爱纵容、由爱生恨）。人们不禁会问：机器会不会有真正的爱呢？

20N 1974n0o4a CCP

3AYEA

C TMX MAPOR

· " - \* "

ATONOPTPET

图 5.6 法 国 画 家 让- 巴 蒂 斯 特 · 格 勒 兹 （Jean-Baptiste Greuze,1725—1805）的油画作品《宠坏的孩子》（1765）告诫人们一个辩证的教育规律——“慈母多败儿”

荀子说，“君子博学而日参省乎己，则知明而行无过矣”（《劝学》）。当人类思考自我时，大脑中一个叫作内侧前额叶皮质（medial prefrontal cortex,mPFC）的区域就会变得活跃起来。影响mPFC的外在因素是社交，它容易让人们更多地思考自我。而影响mPFC的内在因素是自我评价，神经学家观察到从孩童到青春期，mPFC的活跃程度逐渐递增，15岁左右到达峰值，这与青春期更多的自我评价是相关的。

一个成年人的大脑占体重的2%∼3%，却用掉了25%的能量和20%的氧气。尤其在接收新鲜事物和思考的时候，脑细胞进入活跃状态，大脑耗能比平时更多。除非有个无法拒绝的理由，不动脑子随大流是人之常情。

图5.7 马克·吐温

美国著名作家、演说家马克·吐温（Mark Twain, 1835—1910）曾说，“一般人缺少独立思考的能力，不喜欢通过学习和自省来构建自己的观点，然而却迫不及待地想知道自己的邻居在想什么，接着盲目从众”。

另外，大脑对熟悉的事物不再兴奋，“入鲍鱼之肆，久而不闻其臭”，这是大脑与生俱来的自适应能力。人们常会对重复性的工作失去耐心，而又惰于学习新事物，所以在浑浑噩噩中习惯了迷醉自己。如果机器具有了自我意识，是否可以摆脱这个怪圈呢？

例5.1 人类可以进行理性的思考，有时也会头脑发热。非理性的根源非

常复杂，例如，同一件事情，不同的表述方法有可能导致不同的效果。心理学家曾做过这样的实验：对于开刀治疗肺癌，人们对下面的两种说法有着不同的反应。

(1)开刀后第一个月的存活率是90%。

(2)开刀后第一个月的死亡率是10%。

听到第一种说法的病人多数选择开刀。然而，听到第二种说法的病人多数选择不开刀。其实，二者的含义是一样的，只是人们的心理而非理性的思考影响了决策。这是语言的魅力，还是人类理性的陷阱？