人工智能伦理

CARLJOHAN LISTHERBY

1

图4.15 人类现在研究机器智能，未来智能机器有望帮助人类搞清楚人类智能

人类认知能力的这种分阶段发展就像电子跃迁，在吸收足够能量之后，可以从低能级转移到高能级。机器的认知是否也应该分层级呢？

例4.9 美国计算机科学家（2011年图灵奖得主）朱迪亚·珀尔（Judea Pearl, 1936— ）在《为什么——有关因果关系的新科学》^[44]一书中提出了由“观察”“干预”“反事实推理”（即“想象”）三个梯级构成的因果关系之梯，在归纳推理的框架里实现了从关联分析到因果推断的飞跃。

nederland

50+20 cent

图4.16 因果链如同倒塌的多米诺骨牌，根因和结果可能相距甚远

现有的机器学习缺乏因果分析的能力，故而做不到从数据向知识的提炼。在某给定的标准之下拟合数据而得到的模型参数估计并不是知识，这是因为在更多的训练数据上得到的参数更新不能构成推理的素材，也不能产生经得起实践考验的新知识，更不能形成新旧知识的积累。

临渊羡鱼不如退而结网，按照“人工智能之父”图灵在《计算机器与智能》一文中的设想，机器学习应赋予“儿童机器”以学习的能力，而非直接模拟所谓的“智能行为”。人工智能要如何构造机器的认知心理（包括主动学习的能力），这是一个亟须解决的难题。

事实上，前人对学习的一些经验之谈值得人工智能借鉴。例如，孔子曾说，“吾尝终日不食，终夜不寝，以思，无益，不如学也”（《论语·卫灵公》）。同时，他又提醒，“学而不思则罔，思而不学则殆”（《论语·为政》）。

图4.17 《论语》是孔子的语录汇编，是由他的弟子及后人整理编撰而成的儒家经典。全书共20篇492章，涉及伦理、治国、教育、修身等，其中不乏有关学习的言论

学习后经过思考再去学习，一是逐渐构筑自己的知识体系，二是培养主动学习和独立思考的能力。对人而言，学习是一个过程，其目的不仅是完成某项具体任务，更重要的是能力的培养。

图4.18 知识里充满了智慧，但是知识不是智慧。如果只教给机器知识而不教会它运用知识和主动获取新知识，机器充其量是一个只会背书的呆子

机器学习何尝不是如此呢？与其逐点地让机器识别这个、识别那个，不如教会机器识别和形成概念的能力。我们或许早就应该反思，在纯粹数据驱动（data driven）的机器学习之外，是否应该多关注一些元学习（meta learning），即有关学习的学习（例如学习策略），以及知识表示和对已有知识/经验的省思（例如类比、猜想、反思等），见图4.19。

图4.19 (a)方法论指导如何学习/实践，然后将结果表示为知识/经验，再经过提炼为省思提供材料。最后，省思的结果用于改进方法（如元规则），开始新一轮的机器学习。(b)机器学习与知识推理、语言理解的关系

机器学习、知识推理、语言理解是认知计算（cognitivecomputing）的“三驾马车”，它们之间是相互影响、相互依存的关系。知识推理和语言理解的最终解决离不开规则的方法，而机器学习综合利用归纳、演绎、类比等也将成为必然趋势。只有从认知计算的宏观视角看待机器学习，才不至于孤立地研究它，甚至一叶障目地把它当作最优化理论的某个具体问题。

人工智能早期几乎所有的分支（包括机器学习）多采用规则的方法。之后，随着数据获取日益便利，统计机器学习逐渐占据主流，数据分析的方法受到学界的青睐。俗话说，“三十年河东，三十年河西”。可以预见，待到AI对知识和推理的诉求达到一定程度，在新理论支撑下的规则方法必然再次回归。