人工智能伦理

图2.32 英国数学家斯蒂芬·沃尔夫勒姆（Stephen Wolfram, 1959

— ）和艾萨克·牛顿（Isaac Newton，1642—1727）的“换脸”

人们利用深伪技术和配对训练可以生成视频，让某人面带表情地说话。除非借助专业的“打假”工具，人眼甚至很难（通过声音以及表情和嘴形的变化）鉴别这些视频的真假。这项伪造技术如果用在政治家身上来混淆大众的视听，很容易引起社会的动荡。用在普通人身上，则有可能让污证、勒索、欺诈、恶作剧泛滥。

当然，深伪技术有许多正面的应用。例如，深伪技术整合其他AI技术（如自然语言处理）可以让作古的名人“复活”：让爱因斯坦当物理老师，让希尔伯特当数学老师，让图灵当计算机老师；可以让离去的所爱之人回到身边，甚至与他们面对面地交流。

人们已经厌倦了被铺天盖地、毫无节制、泛滥成灾的虚假新闻所包围，深伪技术无疑加剧了对真实性的担忧。有矛就有盾，与这些伪造技术相对抗的鉴别技术，也将得到人工智能伦理的支持。未来会有专业从事鉴别的服务，对数据（包括文本、音频、图像、视频等）的真伪进行综合评估。

2018年以来，中国、美国、英国、加拿大等国对恶意伪造音频和影像的行为提出了惩戒的法规，明确认定它们是犯罪行为。例如，美国参议院于2018年提出了《恶意深伪禁令》，众议院于2019年提出了《深伪问责法》。

图2.33 由于缺乏隐私保护意识，某些个人信息是用户主动公开到网络

上去的，它们有被滥用的潜在风险。例如，被利用来生成深伪数据

一些人喜欢在网上晒各种私人信息，晒得越多越置自己于危险之中。有一些大数据的采集者，利用人们的好奇、贪小便宜、有病乱投医的心理，以抓人眼球的服务钓鱼，吸引用户心甘情愿或不知不觉地上传个人数据。从内因角度讲，如果人人都有保护好隐私的意识，让心存不轨的人无法轻易获取你的姓名、电话、家庭住址、亲人信息等，电信诈骗就没有生长的土壤。

例2.14 2013—2017年，雅虎30亿用户的信息泄露，包括姓名、电子邮件、电话号码、出生日期、密码等。雅虎在事态曝光之前，一直遮藏泄露事件。最后，雅虎为它的违规行为支付了8 500万美元罚款。

例2.15 2018年，美国万豪酒店的客房预订数据库遭到骇客入侵，约3.83亿名客人的信息被泄露，事态严重程度仅次于雅虎泄露事件。万豪数据泄露涉及1 850万个加密护照号码，525万个未加密的护照号码，910万个加密的支付卡号。

图2.34 酒店入住信息泄露客人的行程，会涉及商业机密、家庭安全等问题

此次数据泄露导致万豪股价暴跌6%。让其雪上加霜的是，2019 年 ， 万 豪 被 英 国 信 息 专 员 办 公 室 （ InformationCommissioner’s Office, ICO）按照GDPR的条款处以1.24亿美元的巨额罚款。2020年，万豪再次发生数据泄露，多达520万名客人的信息被盗。

例2.16 航空公司掌握乘客的大量个人信息，容易成为骇客的攻击对象。2019—2020年，被欧盟以GDPR罚款的英国航空和国泰航空的数据泄露事件都是骇客非法入侵引起的。

口 2018年，英国航空（British Airways）泄露了50万名乘客的个人信息，包括姓名、账号、信用卡、住址、电子邮件、行程预订等。2019年，ICO按照GDPR处罚英国航空公司约2.3亿美元。

图2.35 航空票务系统存有高价值的个人信息，若被恐怖分子利用，后果不堪设想

同年，国泰航空（Cathay Pacific）也发生了数据泄露事件，影响全球约940万乘客，泄露的敏感信息包括姓名、护照、出生日期、电子邮件、电话以及旅行历史等。2020年，国泰航空已被ICO处以50万英镑的罚款（按当时汇率，1英镑约合1.25美元）。

例2.17 2019年，法国国家数据保护委员会（NationalData Protection Commission, CNIL）对谷歌公司开出了GDPR首张巨额罚单5 000万欧元，原因是谷歌为用户提供个性化广告推送服务中违反GDPR的透明性原则，并且没有在处理用户信息前获取有效同意。

谷歌在提供搜索、广告、地图、邮件、浏览器、安卓系统、YouTube等服务时收集了大量个人数据。按照GDPR的条款，用户有权了解不同的服务如何收集、处理和使用其个人数据。而谷歌的隐私策略，只要用户勾选“同意”，即代表谷歌的任何服务都可以收集和处理用户的个人数据。另外，“同意提供个性化广告服务”的复选框也被谷歌预置勾选，并被故意隐藏。谷歌的隐私策略违反了GDPR关于数据处理透明性的原则，也侵犯了用户的自主选择权。

例2.18 2020年12月，法国CNIL向谷歌公司开出有史以来最高的1亿欧元的巨额罚款，以惩罚谷歌在使用广告网路追踪器Cookies方面违反法国规定。以同样理由，亚马逊公司被罚款3500万欧元。

例2.19 签名（signature）如今依旧流行，常用于识别艺术品、手稿、支票等的作者。字迹作为行为特征，有一套成熟的鉴定技术以辨真伪。

44handochrilthe心kenningNederland 2010图2.36 字迹的许多不易察觉的复杂特征可以被提取成机器可识别的模式（pattern），进而用于鉴别签名的真实性

2015年，美国麻省理工学院认知科学家乔舒亚·特南鲍姆（Joshua Tenenbaum, 1972— ）的团队在《科学》上发表了贝叶斯规划学习（Bayesian program learning,BPL）及其在手写文字生成上的应用，利用极少量的样本便能教会机器写字，竟然通过了图灵测试——评测者无法辨别哪些字符是人类写的、哪些是机器写的^[48]。