人工智能伦理

图6.37 格罗滕迪克和庞特里亚金

德国数学家奥斯瓦德·泰希米勒（Oswald Teichmüller,1913—1943）是复分析方面的天才（例如创立了“泰希米勒空间”的理论），同时又是一个狂热的纳粹分子，最终战死于东线战场，令人唏嘘不已。与泰希米勒形成鲜明对比的是德国物理学家维尔纳·海森堡（Werner Heisenberg,1901—1976）。海森堡曾经参与德国核武器开发计划，但他尽力拖延，最终使得该计划未能实现。两位天才的命运是如此不同，前者助纣为虐死无葬身之地，后者揆情审势后全身而退。

法国数学家、1966年菲尔兹奖得主亚历山大·格罗滕迪克（Alexander Grothendieck, 1928—2014）是一个和平主义者。在1970年的某次会议上，当苏联著名数学家列夫·庞特里亚金（Lev Pontrya-gin,1908—1988）谈到微分对策可应用于导弹追踪飞机时，格罗滕迪克上台抢过话筒，抗议数学演讲涉及军事问题。后来，格罗滕迪克发现他的研究部分资助来自于法国国防部，于是毫不犹豫地辞掉了法国高等科学研究所（IHÉS）的工作，搬到农村过着隐居的生活，并放弃了数学研究。

德国化学家、1918年诺贝尔化学奖得主弗里茨·哈伯（Fritz Haber, 1868—1934）因在第一次世界大战期间卓有成效的毒气研究（造成近百万人伤亡）而被称为“化学武器之父”。他的第一任妻子和他们的儿子不堪忍受化学武器造成生灵涂炭的伦理折磨而先后自杀。然而，哈伯陷入了科学伦理（morality of science）的困境，他认为“在和平时期，科学家属于世界，但在战争时期，他属于他的国家”。当纳粹开始迫害犹太人时，身为犹太人的哈伯逃往了瑞士并突发心脏病客死在异国他乡。

图6.38 哈伯因发明了用氮气和氢气合成氨的工业哈伯法（用于化肥和炸药制造）而名标青史。最终，他因为研制化学武器而家破人亡，这是一场科学伦理的悲剧

天使和魔鬼，只在一念之差。其实，哈伯犯了一个科学伦理的错误。每一位科学家，在任何时候都应该属于全人类。哪怕身处战争，科学家为祖国服务，也不应该站在人性黑暗的一边。

为了促进数学学术和研究的利益，并帮助维护科学繁荣所需要的那种相互信任和道德行为的健康环境，2005年1月，美国数学学会（American Mathematical Society, AMS）理事会通过了《AMS伦理准则》，对AMS成员以及从事数学研究、教育的所有个人和机构提出了行为期望。准则包括：保证数学成果的原创性、正确性，及时纠正或撤回错误的工作，不使用任何压制或不恰当的语言损害他人的工作，及时公开发布结果的完整细节，尊重数学能力（不必考虑种族、性别、年龄、性取向、宗教或政治信仰、身体缺陷等），评审避嫌，等等。在欧洲，剑桥大学数学伦理学会关注数学应用的伦理问题，例如统计学的滥用、决策误导、数学发现的优先权等。

图6.39 美国数学学会（成立于1888年）的徽标

在科学研究中适当地强调成果的重要性是人之常情，但必须以事实和学界标准为基础。如果任凭浮夸之风盛行，置伦理道德于不顾，则会落个“金玉其外败絮其中”的结果，不利于构建健康的学术生态。

孔子说，“无欲速，无见小利。欲速则不达，见小利则大事不成”（《论语·子路》）。做学问来不得半点虚假和急功近利，追逐名利胜于真理的人都是假学问家，他们在乎的不是学问本身，也永远体会不到追求学问的乐趣。

图6.40 滥竽充数和千锤百炼是两种不同的做学问的态度

人类通过文化、伦理、法律追求和平，科技的应用也必须如此。科学研究不能是反人类的⁽²⁾，例如，滥用或强迫活体人类进行医学试验，像臭名昭著的日本731部队（战后，这些魔鬼通过向美军提供研究资料而逃脱了惩罚），这是真真切切的反人类罪！要做到无悔无憾问心无愧，科学家的内心必须直面学术伦理的拷问，坚守住道德的底线，做一个诚实正直的人。其实，对所有人都是如此。

6.1.2 远征外太空

人类对外层空间的开发会经历一段竞争期，很多技术和军事有关，大国之间最终会达成协议共同开发。月球是基地建设的首选，因为它总是一面对着地球，是再好不过的中转站。在影视作品中，在文明高度发达的未来，宇宙间仍充斥着暴力，战争似乎是一个永恒的话题。

图6.41 人类不可能永远受困于地球，远征外太空是历史的必然

在机器智能超越人类智能之日，文明变得更加和谐，睿智的机器比人更明白和平、合作的含义，疾病生死不再是束缚，知识的积累和传播更加高效。佛教把“贪嗔痴”视为三毒，若要戒掉这三毒，需勤修戒定慧。贪嗔痴是人的属性，是恶的根，要拔掉谈何容易。机器则不然，它天生有戒定慧，因此没有贪嗔痴。