人工智能伦理

(14) DeepMind 公 司 创 建 于 2010 年 ， 致 力 于 深 度 强 化 学 习 （ deepreinforcement learning ） 和 蒙 特 卡 罗 树 搜 索 （ Monte Carlo treesearch）等关键技术，研发出打败人类顶尖高手的围棋程序AlphaGo。2014年，DeepMind被谷歌公司收购，后续推出了AlphaGo的几个升级版本，最终版本是AlphaZero。

(15) 布 尔 巴 基 学 派 由 一 些 来 自 巴 黎 高 师 （ École NormaleSupérieure, ENS）的一流数学家组成，他们用“Nicolas Bourbaki”这个笔名发表论著。自1940 年至今，布尔巴基学派已出版了11 卷的巨著《数学基础》（Éléments deMathématique），它们是结构主义的数学百科全书。

(16) 最常见的集合论公理体系是德国数学家恩斯特·策梅洛（ErnstZermelo, 1871—1953）和亚伯拉罕·弗兰克尔（Abraham Fraenkel,1891—1965）提出的策梅洛-弗兰克尔集合论，简记为ZF。如果把选择公理（axiomof choice,AC）加入其中，则是ZFC系统。

(17) 集合A的所有子集构成的集合（或者等价地，所有A到{0, 1}映射的集合）称为A的幂集合，记作 $\mathbb { P } ( A )$ 或2^A，它的势为 $\mid 2 ^ { A } \mid = 2 ^ { \mid A \mid }$ 。在ZFC公理体系里，单位闭区间I=[0,1]与 $2 ^ { \mathbb { N } }$ 之间存在着一一对应：I上的每个实数都能表示为一个二进制小数，其中1所在的位置对应着自然数集合 $\mathbb { N }$ 的某个子集，反之亦然。因此， ${ \mathfrak { c } } | = | I | = | 2 ^ { \mathbb { N } } | = 2 ^ { | \mathbb { N } | } = 2 ^ { \aleph _ { 0 } }$ o

(18) 此概念由德国数学家费利克斯·豪斯多夫（Felix Hausdorff,1868—1942）于1918年引入。豪斯多夫是拓扑学的奠基人之一，他因不堪忍受纳粹德国迫害犹太人的暴政而自杀。

(19) 欧氏空间是平坦的，曲率处处为零。我们生活在一个二维球面之上，它就是一个曲率大于零的弯曲空间。地球表面（更一般的概念是“流形”）的每个小局部都可近似地视作一个欧氏空间。

(20) 对判定问题的算法只有两个输出：是/否。例如，自然数1729是素数吗？集合S={−3,1,2,8,10}的某些元素之和为零吗？1956年，库尔特·哥德尔 （ Kurt Gödel, 1906—1978 ） 在 给 约 翰 · 冯 · 诺 伊 曼 （ John vonNeumann,1903—1957）的一封信中，提到了判定问题的计算复杂度的问题。显然，时间复杂度宁可是多项式函数也不要是指数函数，后者的增长速度实在太快，例如， $2 ^ { 6 4 } { \approx } 1 . 8 4 X 1 0 ^ { 1 9 }$

(21) 由相互作用或相互依赖的组件所形成的系统，一般很难通过直接建模或者模拟来揭示其性质、描述其行为、预测其动态，例如，多体问题、社会经济行为、群体心理等。哪怕若干简单规则，也会让系统在数代演化之后涌现出复杂的形态，甚至导致混沌现象，更何况现实中的规则多是繁杂的。

(22) 《数学原理》（Principia Mathematica）是逻辑主义代表人物、英国数学家、哲学家阿尔弗雷德·怀特海（Alfred Whitehead, 1861—1947）和他的学生英国哲学家、数学家、逻辑学家、文学家伯特兰·罗素（Bertrand Russell,1872—1970）倾注多年心血合写的数理逻辑巨著。

(23) 我们把主谓宾用三元组 $T { = } \left( \mathit { w } _ { S } , \mathit { w } _ { P } , \mathit { w } _ { O } \right)$ 表示，其中每个元素都是知识网络中的一个概念节点，称T为一个语义三元组。“孔乙己吃了两个苹果和几口面包”可以表示为“(孔乙己,吃,两个苹果)∧(孔乙己,吃,几口面包)”，或者粗略地表示为“(孔乙己,吃,两个苹果和几口面包)”。

(24) 德国社会学家、哲学家卡尔·马克思（Karl Marx, 1818—1883）在《资本论》的第一章即讨论了商品（commodity）。“商品首先是一个外界的对象，一个靠自己的属性来满足人的某种需要的物。这种需要的性质如何，例如是由胃产生还是由幻想产生，是与问题无关的。这里的问题也不在于物怎样来满足人的需要，是作为生活资料即消费品来直接满足，还是作为生产资料来间接满足。”^[42]

(25) “有轨电车难题”应该还有一个选择——抛一枚质地均匀的硬币，让随机性来决定是否扳动操作杆。如果决策者觉得难以抉择但又不得不二选一，只能求助于随机选择，让“上帝”来决定。

(26) 2020年下半年，特斯拉几款车型频发失控事件。经过检查，特斯拉认为车辆不存在质量问题，并将事故原因归咎于车主的误操作，或者现场道路导致了车辆的异常加速。

(27) 同一行为在不同国家有合法与非法之别。例如，安乐死在大多数国家是非法的，但荷兰、比利时、瑞士、加拿大等国允许严格控制之下的安乐死。机器应主人要求协助其自杀，显然是不符合AI伦理规范的。

第²章 数据为王

博观而约取，厚积而薄发

——苏轼《杂说送张琥》

当 一位顾客走进商场，监控摄像头背后的人工智能系统开始分析他／她的行为，以便预测他／她将行窃的概率。如果偷盗行为已经发生，系统以高的信念度（belief degree）确认对它的判定。当这个预测或判定概率超过一定阈值的时候，商场工作人员会出面介入，譬如，询问、警告或检查当事人。（更d书f享搜索雅 书.YabooK）

假设模型并没有预设任何有关肤色、性别的特征，机器学习算法通过对大量标注数据的分析，自动地提取出一些特征用于行为分析。如果这些机器提取的特征与肤色或性别强相关，或者系统预测的结果总是指向具有某些生物或生理特征的一群人，我们是否可以指控机器学习算法具有种族和性别歧视？或者，我们对标注数据可以提出类似的指控？

SUDAN

10 SDG

Betterr Data. Beter Lives

10 SDG

65

图2.1 统计应用的目的在于优化数据、改善生活，然而数据采集与分析应该避免触碰个人隐私、种族（或性别）歧视、商业秘密等敏感红线

通常，机器学习算法本身并没有种族或性别歧视的意识，它只是根据标注数据寻找分类的边界。换句话说，它做的事情不过是解了一道最优化的数学题。如果行为分析是被允许的话，我们没法指责一个求解算法做了违背道德的事情。

而那些标注数据完全是基于现实世界里发生过的事件，样本符合总体分布（有时为了“避嫌”，甚至人为地将之均衡化）。我们无法否认它们的存在，而且这些数据也经过了脱敏的处理，抹掉了一些有关个人的信息。也就是说，系统不会因为某个人以前偷过东西而提高预测他／她将行窃的概率。因此，我们也无法指责数据包含了任何歧视的信息，如果这些数据的收集没有被刻意地加以导向某种分类效果。

人为监控可能会有一些先入之见或者个人因素，从而引发人们对它的质疑。然而，对于人工智能的预判，这种质疑的根基是否就不存在了呢？换言之，我们是不是就无法指控没有任何歧视意图的人工智能所做的行为分析带有歧视的色彩？

如果机器对行为的预测非常准确，我们是否应该赋予机器这种评估的权利？我们知道，在现实世界里，对行窃的指控需十分地小心谨慎，出于对政治正确的考虑，人们担心那些对歧视的联想会节外生枝，引起更多的麻烦。

因为人有善恶，所以对人工智能技术一定要有所管控，尤其一些敏感的人工智能技术，要明令禁止未经许可的应用。例如，利用自然语言处理和数据挖掘（data mining）技术擅自采集、传播个人隐私数据，包括姓名、出生日期、婚姻状况、身份证信息/驾照号码、住址、电话、邮件地址、社交信息、搜索记录、登录位置、教育经历、经验技能、职业期望、工资预期、政治倾向、医疗保健、性取向等。

图2.2 从多个角度对隐私数据进行保护，如加密技术、法律法规、社会监督等

2020年，我国颁布的国家标准《信息安全技术——个人信息安全规范》中，从下述两条途径判定某项信息是否属于个人信息（personal information）^[47]。

（1）识别：即从信息到个人，由信息本身的特殊性识别出特定自然人，个人信息应有助于识别出特定个人。

（2）关联：即从个人到信息，如已知特定自然人，由该特定自然人在其活动中产生的信息（如个人位置信息、个人通话记录、个人浏览记录等）即为个人信息。

凡符合以上两种情形之一的信息，按照规范均应判定为个人信息。

例2.1 2018年，一家第三方公司非法搜集了8 700万脸书（Facebook）用户的个人信息，引起巨大的社会反响。年底，脸书6 800万用户的私人照片数据因为安全漏洞再遭泄露，该漏洞导致用户没有公开的照片也可被读取。

2019年，脸书公司以50亿美元与美国联邦贸易委员会（Federal Trade Commission，FTC）达成和解。脸书公司因这些数据泄露（data breach）事故股价大跌，加上巨额罚款，损失惨重。