人工智能伦理

图7.56 半个世纪以来，人们获取新闻信息的方式已经发生了翻天覆地的变化

借用别人创造的新闻内容增加自己的流量所赚到的钱，要不要分给内容的原创者？微软主动选择了“要”。脸书一开始还有点小倔强，宁愿撤掉新闻服务也“不要”，它认为新闻借助脸书社交网络加速了传播，对新闻发布者是一件好事。最后，脸书还是为了共赢与新闻界妥协。对高价值内容的保护，日后将成为常态，搜索、推荐等服务“借鸡生蛋”的好日子可能要一去不复返了。

问答网站“知乎”通过邀请制度构建内容，“维基百科”则利用开源积累知识，但都未经过充分的结构化，基本面向人类服务而非机器。在内容质量上，由专家编纂的百科全书通常会更好一些。如果有一种认证机制，对高质量内容的创建者进行有偿奖励（如虚拟货币），则可以吸引更多的专家投入。

从人们的日常驾驶中获取“状态–行为”数据，用于自动驾驶模型的训练，已经成为一种共赢的运营方式。每个驾驶员不知不觉中成了数据的标注者，模型的效果不断改进，用户是否应该享受免费升级系统？大数据公司从这里拿一些内容，从那里再拿一些，积沙成塔，集腋成裘。每一个贡献者都不觉得有什么大不了（损失要么是隐性的，要么是微不足道的），也没有一个代表他们权益的组织为他们鸣不平，再加上有免费的服务可用，就更没有人质疑大数据公司的做法了。何况还有一些内容的提供者，巴不得优先得到搜索或推荐。

隐私和效率并不是水火不容的，技术和法规能够保障鱼与熊掌兼得。如果有健全的隐私保护，没人愿意用隐私换效率。因为缺乏自我保护意识，人们对隐私的重视略有滞后，只有深感切肤之痛（如对电信诈骗不堪其扰，银行存款被人冒领）的时候，才会想起是个人隐私泄露的恶果。在法律法规之外，是伦理道德的天地。只有大力推广AI科普教育，让所有人参与到AI伦理建设中，才能为AI的良性发展营造一个健康的大环境。

7.2.2 造福人类

所有新技术，包括人工智能，如果让社会财富越来越集中在少数人身上，使得贫富差距逐渐拉大，那么它就没能被善用，就需要一些变革来改变财富分配的规则。我们不主张虚无主义(nihilism)，消极地看待世界和自己，否认它们存在的意义。我们追求真理和更高级的文明，人工智能既是手段也是目标。仁爱是给予，大爱是创造美好，而具有自我意识的人工智能是人类能留给世界的至善。

图7.57 成立于1992年的联合国科学和技术促进发展委员会(CSTD)是经济及社会理事会(ECOSOC)的附属机构，旨在增进各国对科技政策的理解

2016年，为了“学习和制定最佳人工智能技术的实践”，亚马逊、苹果、谷歌、脸书、微软、IBM等公司组织成立了一个非营 利 联 盟 “ 人 工 智 能 造 福 人 类 和 社 会 的 伙 伴 关 系 ”（ Partnership onAIto Benefit People and Society ， 简 称PAI，见https://www.partnershiponai.org）。“为了支持我们造福人类和社会的使命，PAI进行研究、组织讨论、分享见解、提供思想领导、与相关第三方协商、回答公众和媒体的问题，并创建教育素材，促进对人工智能技术的理解，包括机器感知、学习和自动推理。”2018年10月，百度成为第一家加入PAI的中国公司。

图7.58 发展科技的目的在于改善民生，让所有公民都从中受益

很难说“造福人类和社会”和帮股东抢夺AI话语权以追逐更高的利润，哪个才是它们的真实目的。这里有一个屡试不爽的试金石——不要听它说了什么，而要看它做了什么。如果普通民众没有从中受益，“造福人类和社会”就是一句空话。

对技术进步的反思

1995年，美国数学家、无政府主义者、恐怖分子西奥多·卡 辛 斯 基 （ Theodore Kaczynski, 1942— ） 在 《 华 盛 顿 邮报》和《纽约时报》上发表反科技檄文《论工业社会及其未来》^[113]，抗议现代科技与工业化对人类社会的侵蚀。1978—1996年，在被捕之前，卡辛斯基给美国大学、航空公司匿名邮寄炸弹以求关注，造成3死23伤，获得绰号“大学航空炸弹客”(unabomber)。1998年，卡辛斯基被判终身监禁，不得假释。

我们坚决反对卡辛斯基的恐怖主义——无论以何种理由伤害无辜的人都是罪恶的，他为此得到了应有的惩罚。值得庆幸的是，他的文章《论工业社会及其未来》在当时多多少少唤起了人们对技术和社会的一些反思^[112]。

口 卡辛斯基揭露了资产阶级左派的虚伪。他一语成谶，现实中的美国正被“政治正确”绑架，意识形态严重分裂。

口 卡辛斯基质疑科学家的科研动机。“除了极少数例外，他们的动机既不是好奇，也不是造福人类的愿望，而是需要经历权力过程：有一个目标（要解决的科学问题），努力（研究）并达到目标（解决问题）。科学是一种替代活动，因为科学家的工作主要是为了从工作中得到满足。”诚然，有很多科学家从事科研是为了养家糊口，或者为了地位和虚荣，但不能一概而论否认也有兴趣和好奇的动机。几乎所有的科学家都有很强的自我认同感，把科研工作当作人类崇高的事业。

口 卡辛斯基认为自由与技术进步不相容，人们被技术牵着鼻子走。“人们只是想当然地认为，每个人都必须屈服于技术的需要。有充分的理由：如果把人的需求放在技术需求之前，就会出现经济问题、失业、短缺或更糟的情况。在我们的社会中，‘心理健康’的概念在很大程度上是由一个人的行为在多大程度上符合制度的需要，并且不会流露出承受精神压力的迹象。”事实上，在人类历史中技术一直在进步，它是历史进步的一部分，人类的适应性并没有卡辛斯基想象的那么脆弱，大趋势也并未糟糕到让多数人不堪重负。

口 卡辛斯基正确地预见到了大数据侵犯隐私的问题。“公司和政府机构发现个人信息很有用之后，也会毫不犹豫地进行采集而丝毫不考虑隐私问题。”然而，法律并没有袖手旁观。卡辛斯基对此持悲观态度，“无论是法律、制度、习俗还是伦理规范，任何社会约定都不可能提供永久的保护来防止技术的侵害。历史表明，所有的社会约定都是短暂的，它们最后都会改变或崩溃”。

口 卡辛斯基对AI技术心怀恐惧，试图预测人工智能时代的社会灾难，他数次提到“革命”，应该想过未来的社会将通过变革以适应更先进的生产力。很可惜，卡辛斯基并未看清资本靠科技吸血的本质，错不在科技本身，而是再分配的社会制度。

在《论工业社会及其未来》的第172∼176段，卡辛斯基分析了强AI和弱AI对人类社会的冲击，辛辣地指出了资本对AI技术的滥用，为的是一小撮精英的利益。卡辛斯基是一个具有时代悲剧色彩的人物，在物欲横流、资本嗜血的社会，他的呐喊如同闪电划破夜空，耀眼却转瞬即逝。

“首先，让我们假设计算机科学家成功地开发出智能机器，它们能比人类做得更好。在这种情况下，所有的工作大概都将由庞大的、高度组织的机器系统来完成，而不需要人为的努力。两种情况都可能发生。一种是允许机器在没有人类监督的情况下自己做出所有的决策，另一种是人类保留对于机器的控制。

如果我们允许机器自己做出决策，就不能对其结果作任何揣测，因为我们不可能猜出这些机器的行为。我们仅仅指出，人类的命运将取决于机器。有人可能会说，人类决不会愚蠢到把所有的权力都交给机器。但我们并不是在暗示人类会自愿将权力移交给机器，也不是说机器会存心夺权。我们的意思是，人类可能很容易让自己陷入对机器如此依赖的境地，以至于除了接受机器的所有决策之外，别无选择。随着社会及其面临的问题越来越复杂，机器越来越智能化，人们会让机器替他们做更多的决策。这仅仅是因为机器做的决策会比人的决策带来更好的结果。最终可能会达到一个阶段，在这个阶段，维持系统运行所需的决策将是如此复杂，以至于人类已无能力明智地进行决策。在该阶段，机器实质上已处于控制地位。人们不能简单地关掉机器，因为他们已如此地依赖这些机器，关上它们无异于自杀。

另一方面，也可能人类还能保持对机器的控制。在这种情况下，普通人可能可以控制自己的某些私人机器，比如他的汽车或个人计算机，但对大型机器系统的控制权将掌握在一小部分精英手中——就像今天一样，但有两点不同。由于技术的改进，精英阶层对大众将有更强的控制；由于不再需要人力劳动，大众将是多余的，成为体系的无用负担。如果精英冷血无情，他们完全可能决定灭绝人类大众。如果他们还有些人情味，也可以利用宣传或其他心理或生物技术来降低出生率，直到人类大众自行灭绝，把世界留给精英阶层。或者，如果精英由心软的自由主义者组成，他们也可能为剩余的人类种族扮演好牧人的角色。他们将确保每个人的身体需求都得到满足，所有的孩子都在心理健康的条件下成长，每个人都有一个健康的爱好打发日子，任何可能不满意的人都要接受‘治疗’来解决他的‘问题’。当然，生活将是如此毫无目的，人们将不得不在生理上或心理上进行改造，要么消除他们对权力过程的需求，要么使他们的权力欲‘升华’为某种无害的爱好。在这样一个社会里，这些被改造的人类也许会幸福，但他们肯定不会自由。他们将被贬低到家畜的地位。