人工智能伦理

图7.45 合乎句法但不合乎语义的语句。其中，S表示语句，NP表示名词短法，VP表示动词短语，A表示形容词，N表示名词，V表示动词，Adv表示副词

对智能水平、安全等级、应用效果、伦理规则的综合评估，应该形成系统化的方法。否则，难免出现“王婆卖瓜，自卖自夸”的乱象。正如《新一代人工智能发展规划》所设想的，“人工智能基础数据与安全检测平台重点建设面向人工智能的公共数据资源库、标准测试数据集、云服务平台等，形成人工智能算法与平台安全性测试评估的方法、技术、规范和工具集。促进各类通用软件和技术平台的开源开放。各类平台要按照军民深度融合的要求和相关规定，推进军民共享共用。”同时，构建和完善AI评估体系。“构建动态的人工智能研发应用评估评价机制，围绕人工智能设计、产品和系统的复杂性、风险性、不确定性、可解释性、潜在经济影响等问题，开发系统性的测试方法和指标体系，建设跨领域的人工智能测试平台，推动人工智能安全认证，评估人工智能产品和系统的关键性能。 9

长期以来，在人工智能学界缺乏公允的测试标准和测试数据。拿二分类器来说，在某次随机试验中常用准确率(accuracy)、精确率(precision)、召回率(recall)、F-度量等性能指标，这些指标都是基于混淆矩阵(confusion matrix)定义的。相对公正的评测需要大量重复的随机试验（例如k-折交叉验证），然后再考虑性能指标（例如准确率）的经验分布。只有准确率的均值和方差都达到了满意的程度，才能算作一个好的二分类效果。

图7.46 胡适

遗憾的是，很多模型的评测缺乏可信度，试验也不具备可重复性。“细心搜求事实，大胆提出假设，再细心求实证”⁽⁵⁾是新文化运动的领军人物、实用主义哲学家胡适（1891—1962）的治学名言，热爱发表论文胜过追求真理的假学者却是别有用心地“求证”——在众多试验结果中精心挑选一些好的发表。显然，无法用“造假”来形容其试验结果，然而这种求证的方法是没有任何科学精神的，因此其研究成果也没有任何学术价值可言。

作为计算机科学、认知科学、数学的交叉学科，人工智能的研究同样需要科学精神和科学方法，还要有理性的想象。日本工业界、学术界、文艺界

一直非常看重机器人技术和文化。1952年，日本漫画大师手塚治虫（1928—1989）创作的科幻漫画作品《铁臂阿童木》开始连载，影响了几代人的科幻之梦。1980年，中央电视台引进了动画连续剧《铁臂阿童木》的黑白版，社会反响巨大。

图7.47 《铁臂阿童木》曾是很多人童年美好的AI梦，是最好的AI启蒙教育

因为人口老龄化严重，日本需要在自动化上弥补劳动力的不足⁽⁶⁾，因此成为世界上最重视机器人研究的国家之一。另外，机器人学与机械、控制、材料、人工智能等学科关系甚密，牵一发而动全身，因此备受各界关注。例如，1997年首届机器人足球比赛RoboCup就是在日本名古屋举办的。

自20世纪80年代起，日本政府即开始促进工业机器人的研究和普及。经过40年的积累，日本政府在2016—2020年《科学技术基本计划》里宣布其目标是“引导和动员科学、技术和创新方面的行动，在日益增长的数字化和互联互通的背景下，实现一个由人工智能的进步所赋予的繁荣、可持续和包容的未来”。日本科技巨头松下、东芝、夏普等公司都在发展机器人技术。例如，丰田公司出品的生活辅助型机器人，可被远程控制做一些家务和护理工作。

图7.48 充满正义感的机械战警成为维护人机社会治安的执法者

2009年、2013年、2016年、2020年，美国计算机界联盟(Computing Community Consortium,CCC)四次更新报告《美国机器人技术路线：从互联网到机器人》，探讨了未来5∼15年机器人技术对经济的影响，特别是在制造业、医疗保健和服务业领域。为确保美国在AI研究创新、技术应用的领先地位，该报告提出了以下需求。

材料、集成传感器和规划/控制方法的新研究。

在多机器人协调、稳健计算机视觉识别、建模和系统级优化方面的新研发。

提高情景感知、稳健性和服务类型的性能。

加强劳动力培训，确保新技术的有效利用。

口 确保有适当的政策框架，使美国能够在新技术的设计和部署方面走在前列。

美国教育强调动手能力，很多著名的公司都诞生于车库，如惠普、苹果、雅虎、亚马逊、谷歌、YouTube等。“车库文化”的本质是创新，说不准哪个伟大的发明又来自车库。在美国，有很多面向中小学生的机器人竞赛，真可谓“从娃娃抓起”。例如 ， 美 国 国 家 机 器 人 挑 战 赛 (National RoboticsChallenge,NRC) 、 国 际 奥 林 匹 克 机 器 人 大 赛 (World RobotOlympiad,WRO) 、 RoboRave 国 际 机 器 人 大 赛 (World RobotOlympiad) 、 FIRST 机 器 人 挑 战 赛 (FIRST RoboticsCompetition ， FRC) 、 Botball 国 际 机 器 人 工 挑 战 赛 (Botball

Educational Robotics Program)等。这些竞赛无疑将培养出未来的机器人专家，一些创新必然诞生于此。

7.2 法律法规

欧 盟对“数据”和“安全”的立法深刻影响了世界数据治理格局。按照《通用数据保护条例》，欧盟已经对全球某些企业开出了巨额罚单（见第2章）。我国出台的《国家安全法》《网络安全法》《电子商务法》《密码法》《民法典》，已从不同角度论及个人数据保护。2021年6月10日，第十三届全国人民代表大会常务委员会第二十九次会议通过了《中华人民共和国数据安全法》。另外，《电信法》《个人信息保护法》等的制定也在紧锣密鼓的筹备之中。

PILIINAS3.50

图7.49 除了通过技术手段限制AI的滥用，法律手段也是必不可少的

《通用数据保护条例》规定，除非数据主体为一个或多个目的提供了对数据处理的知情同意，否则不得处理个人数据（有法律依据允许这样做的除外）。对个人数据的处理必须合法、公正、透明，遵循以下基本原则。

【目的限制】收集目的必须特定、明确、合法。在未通知主体之前，数据不得用于和原设目的不相关的用途上。

【最小数据】个人数据的收集应适当、相关并且仅限于目的所必要的内容。

【准确无误】确保数据完整准确，及时删除或修改错误之处。

【存储限制】个人数据的保存不得超过处理目的所需的时间。

【完整保密】在技术和组织上，防止未经授权或非法的访问、破坏、处理、泄露数据，确保数据安全。

在网络时代，人们在智能终端（如手机、计算机、平板、可穿戴设备等）上的行为特征是可被分析的。指纹、人脸等生物特征属于隐私数据，采集和使用这类数据的非官方机构必须有资质，即满足以上基本原则。

例7.7部分美国TikTok用户集体诉讼字节跳动(ByteDance)公司通过应用程序收集他们的生物特征、联系人信息等个人隐私数据，将之用于精准广告投放并从中牟利。2021年2月，字节跳动与用户达成和解协议，同意赔偿9 200万美元。