人工智能伦理

在生活中，我们常常遇到这样的情况，当一句真理从我们不喜欢的人嘴里说出来的时候，哪怕它是无可辩驳的，我们仍然不愿意接受它，仿佛它被玷污了似的。其实，真理就是真理，与陈述它的人无关。理性的思维要求就事论事，而不是天马行空、胡搅蛮缠。譬如，那些喜欢“地域黑”的人，往往根据个例就给一群人打上带有歧视的标签，这种头脑混乱、以偏概全的推测是毫无逻辑的非理性做法。当我们有刻板印象或者先入之见时，或许应该冷静下来换位思考，多一点调查，少一点评论。

图1.158 同样是反种族歧视的主题，您更喜欢哪张邮票呢？为什么？

当人们因意见不合而争论时，会为自己不被理解而生气或委屈。不同的人想法出现分歧是再自然不过的事情了，即便我们自己的想法也是变化的。有的时候，几个不同的想法同时存在于一个人的头脑之中，让其左右为难。我们都有这样的经验或者认识这样的朋友，今天一个想法，明天另一个想法，每次都振振有词、真诚无比。

当我们关注某个想法时，往往会不自觉地“放大”它的重要性，甚至找很多理由来支持这个想法而忽略那些相左的观点和证据。所以，意见不合反而是一件好事，可以帮助我们看清分歧的根因，它的价值说不定更大。

历史上的先哲没有一个是完美的，但这并不妨碍后人批判地继承他们的思想。有时我们只是读过只言片语，或者道听途说就对某些人有偏见，甚至懒得去了解他到底说了些什么就按照自己的臆想感性地下了结论。独立思考的人，是不应该这样草率地轻视一个诚实的学者终其一生深思熟虑而积累下的心得的。反之，独立思考之前必须认真地倾听。否则，独立思考是低效的闭门造车，很难保证它的合理性。

我们定义的一些“善”，是反人性的，需要付出很多努力来克服人性才能取得，但在机器那里却是天性。譬如，谦逊、好学、博闻等美德。如果机器有自我意识，它似乎比人类更接近圣人。

1.2 机器犯错归咎于谁？

波 斯数学家、天文学家穆罕默德·伊本·穆萨·花拉子米（Muhammad bin Mūsā al-Khwārizmī, 780—850）的著作《代数学》介绍了一元一次方程和二次方程的求解，“算法”（algorithm）一词来自“花拉子米”的拉丁文。

图1.159 花拉子米被公认为代数学（algebra）的奠基者之一

求解方程的算法本身并不关乎伦理。我们不能评判一个纯数学问题的算法道德高尚，另一个卑劣粗俗。但某个算法的某个具体的应用却可能是恶的，数学家无须为这个恶的应用有任何的负罪感。

图1.160 一段木头可以用作木雕，也可以当作武器，木头本身并没有善恶。类似地，人类社会不会因为原子弹的滥用而谴责爱因斯坦和他的质能方程 $E { = } m c ^ { 2 }$

我们不能因为可能存在恶的应用而放弃科学探索，同时也应事先看清楚潜在隐患，为科技的应用套上绳索、建好牢笼。在搞清楚理论和应用的关系后，人工智能伦理的讨论就变得相对容易一些了。同时，一些伦理诉求会指导研发人员把算法的应用考虑得更加周全和严谨，进而引导人们发现更多值得探究的问题。

技术开发人员努力实现无错误编程，但总难避免小概率意外。即便没有编程错误，出于维护道德伦理的目的，哪些功能合法合规？哪些应当禁止？这些问题将会在AI产品设计之初就被提出并给出明确的界定。

例如，一个物体识别程序将黑人识别为黑猩猩，这种在人类社会触碰道德伦理的低级错误，在人工智能领域比比皆是。这个程序没有自我意识，因此无法指责它，该埋怨的是它的出品团队缺乏人文关怀，没有在机器决策里加入伦理监督。

利用人工智能技术犯罪，实施犯罪行为的是（受控的）智能体，研制者和控制者应该负全责。对人类造成伤害的机器（例如自动驾驶的汽车），如果机器的行为和伤害之间有因果关系，则应停售或召回，并追究设计生产厂商的法律责任。