人工智能伦理

图1.64 群体智能是大量个体通过某机制逐渐涌现出一种奇妙的行为规律，从而摆脱个体的认知局限，实现了智能的跃迁

在回程中，该蚂蚁沿途留下信息素（pheromone），含有食物的某些信息。信息素是一种可挥发的化学物质，同类生物通过嗅觉器官能够探知到。如果其他蚂蚁闻到这条轨迹，会顺着它找到食物，并在返回蚁穴时再次留下信息素。越短的路径所含信息素的浓度越高，因此越多的蚂蚁选择短路径。蚁群所表现出来的群体智能（swarm intelligence），并不是因为蚂蚁很聪明，而是信息素的特性所致。

图1.65 一开始，蚂蚁们随机地选取路径。随着信息素的沉积，最短路径便“涌现”了出来。之后，蚂蚁们像是商量好了似的，都选择走最短路径

J.11.(3-2)

1976

图1.66 鲁迅被誉为“民族魂”

在现实世界中，群体智能常常超越个体智能。机器学习的蚁群优化（ant colony optimization, ACO）算法，就是受蚁群路径寻优机制的启发而得到的^[20]。“这正如地上的路；其实地上本没有路，走的人多了，也便成了路。”这句话是鲁迅（1881—1936）先生的短篇小说《故乡》（1921）的结束语，用来描述蚁群优化算法是再恰当不过了。

与之类似，单个神经元的能力有限，但有没有一种机制让千万个合作着的神经元“涌现”出一种神奇的群体智能？深度神经网 络 （ deep neural network, DNN ） 和 图 神 经 网 络 （ graphneural network,GNN ） 都 是 很 好 的 尝 试 ， 比 起 感 知 器（perceptron）和单隐层神经网络进步很多，可惜仍缺少类似信息素那样的物质，使得神经元群体智能产生一个巨大的跃迁。

大量神经元的连接如何产生超越相关性的智能，至今仍是一个谜题。未来的脑科学与认知科学能不能给出合理的答案？无论人类智能还是人工智能，都需要我们对智能有更深刻的理解。只有搞清楚智能的产生机制，人类合作、脑机结合、机器协同才有可能强强联手，形成一类超级智能。

图1.67 1963年、1970年诺贝尔生理学或医学奖授予神经传导的研究：（左图）神经细胞膜周围和中央部分兴奋和抑制的离子机制；（右图）单个神经元的轴突与其他神经元的树突之间有极小的间隙，称为突触。轴突末端释放一种叫作神经递质的化学物质，通过突触间隙扩散到相连的神经元上，促使其放电或抑制其放电

人们常说“团结就是力量”。想象一下，“缸中之脑”被连接在一起形成一个协同工作的“超级大脑”，有负责认知的、有负责推理的、有负责计划的……，每个负责人都是顶尖高手，这样的“超级大脑”的智慧自然比单个大脑不知高明多少倍。

图1.68 米开朗基罗的绘画《创造亚当》中，上帝率众天使组成了“超级大脑”。这幅画暗喻上帝“激活”了人类智能，人类或许也要以类似的方式“激活”机器智能

然而事实上，人类群体的体系结构并不理想，其智慧经常被相互掣肘内耗掉许多，甚至有时失去理性。人类从来没有真正和谐如一地团结在一起，甚至在某些基本伦理（例如，堕胎、单配偶制等）上也从未达成过共识。不完美的人类能不能创造出超越自己的机器智能呢？

1.1.2 自然语言理解

语言文字是人类交流的工具，既然是工具便可以人为地创造和改造。起源于象形文字的汉字深刻地影响了东亚的文化。《明一统志·人物上古》记载：“仓颉，南乐吴村人，生而齐圣，有四目，观鸟迹虫文始制文字以代结绳之政，乃轩辕黄帝之史官也。”这便是所有华人耳熟能详的仓颉造字的故事。再如，朝鲜王朝第四代君主世宗于1443年创造了朝鲜字母《训民正音》，20世纪已在朝鲜半岛普及，而汉字也逐渐被废用。与此形成鲜明对比 的 是 ， 一 些 在 古 代 曾 经 无 比 辉 煌 的 语 言 ， 如 梵 语（Sanskrit）、拉丁语等，虽然今天仍有少量的使用者，但它们基本上已经退出了历史的舞台。