权力的数据伦理学大数据与人工智能时代的人本方法新解

瑟尔的论述说明了人工智能研究的两个原始愿望之间彼此矛盾：创造出来的是能自主思考与理解的机器，还是“仅仪”能为人类处理信息并解决问题的机器？同时，瑟尔的观点还代表了早期人工智能的话语表征，后来这些话语构成了人工智能研究进展及其在社会中得以应用的基本框架。伊莱什(Elish)和博伊德(boyd)(2018)将人工智能描述为一种一直悬浮在真实性与想象性文化观念之间的技术，将其看作是一种脱离了人类控制之后能够自主行动的机器能动者：

西方世界对于人工智能是什么的看法——它(不)能做什么以及它可能会做什么——取决于长期以来他们对于机器的文化想象(即机器将会脱离机器创造者的控制)、以及对于自动化机器与人造生命的美好前景以及潜在风险的想象。(Elishandboyd, 2018; 8)

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

86

即便在21世纪10年代，机器可能有朝一日不受人类控制而完全自主进化的观念仍然甚嚣尘上。例如，霍金在2014年警告：发展到完全人工智能的那一天也就是人类文明被终结之日(Cellan-Jones.2014-10-2)。此外，奇点运动的创始人雷·库兹韦尔在2016年预言：人工智能将会更新人类的过时软件，并创造出一个彻头彻尾的超智神灵(Lunau，2013-10-14)。无论是在人工智能的智力水平以及机器人潜在能动性的广义公共讨论当中，还是在关于人工智能即将产生的发展潜力或威胁的想象之中，都可以找到上述观点的影子。学界关注人工智能能动者将会取代人类劳动力，新人工智能系统的艺术性与创造性则反映了人类对于社会之中出现全新型自主性能动者的想象。

因此，正如伊莱什与博伊德(2018)所言·人工智能的“魔力”只是在干它可以将一项技术神秘化，因而形成“炒作”与“恐惧”的循环，最终将我们对于人工智能潜在功用的想象盘剥殆尽。借此·他们也认为，只有通过参照人工智能设计流程研发一个丰富的数据分析方法框架，才能有效应对这些恶性循环。同样，我们也可以将此论述延伸到社会当中研用人1智能的数据伦理方法之上。

然而。要想制定一个能实现这一目标的方法论框架，我们需要一个特定的概念，即能够将人智能视为一个允许人类设计与控制的数字数据程序。换言之，我们须将对于人工智能的关注点聚焦于可以设计的数据系统与数据程序之上，从而保证对人工智能的管理易于对社会中行为失控能动者的管理。人T智能在社会中被逐步投入实际应用的方式已经发生转型：从以往基于编程规则的专家型系统(以人类专家知识编码)，逐渐发展到支持自我决策能动性与自我决策能力强化性人I智能系统。前者主要应用于人类社会与自然环境之中，后者则能够在数字环境下从大数据当中不断进化与学习。本文中我所关注的正是第二种人工智能在数字数据处理方面的实际应用。

第3章大数据人工智能社会技术基础设施

87

专家型系统

在实际商业层面上、人工智能应用范畴广泛；而在哲学目标层面上，人工智能则面临诸多挑战，举步维艰。囿于上述困境，人工智能的社会技术研发道路总是跌宕起伏、曲折盘桓。在针对20世纪50年代至90年代人工智能发展历史的描述当中，人工智能研究者兼企业家丹尼尔·克勒维耶(Daniel Crevier)将当初人工智能的构建努力描述为科学家为了揭示人类思想复杂本质所做的种种尝试。实际上。这并非只是单纯的想象。事实上，20世纪50年代和60年代的人工智能研究首先就是一种实验，具体尝试都在研究实验室之内进行，旨在模仿人类在数学与计算处理当中的决策思维过程。结果，到了20世纪70年代中期，人工智能研究领域迎来了第一个“人工智能的冬天”。由于缺乏实际应用的可能性与可行性，这些最初的雄心壮志在投资界的吸引力降至冰点(Crevier。1993)。

然而，在20世纪70年代，基于逻辑编程的“专家型系统”研发为人工智能的初步商业化创造了全新的想象空间。因此，在20世纪80年代，通过从人类专家那里搜集信息并将其编码为计算机的规则与程序(Alpaydin，2016)，专家型系统被成功创造出来，从而支持其至取代专业环境中的人脑决策。

这些系统起初在降低人力资源成本方面的目标尤为宏远。克勒维耶提供了20世纪80年代来自各行各业的各种案例。这些行业用专家型系统取代了人类专家，目的就是降低人员培训以及调动现场专家分享知识(如：排除问题)所要支付的经济成本。其中一个例子就是北美通用电气公司，该公司的资深工程师大卫·史密斯（1)avidSmith)是全公司唯一一个能够处理电力机车维修问题的技术专才，因此他需要身体力行地到处修理坏掉的发动机。1981年，当史密斯考虑退休之际，通用电气公司想方设法将他的专业知识编入了一个专家型系统，并将其命名为柴电机车故障排除辅助工具(DELTA)。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

88

它集成了史密斯在这一领域的专业知识，包含了数百条故障排除与解决规则。到了1984年，DEITA可以诊断出80%的故障，并提供针对发动机故障进行维修的详细说明(Crevier.1993：198)。

在20世纪80年代初，专家型系统在降低成本、公司内部共享以及传承专业知识方面的前景可谓一片光明。然而，好景不长，许多专家型系统被证明价值有限，因为其只能在个别环境当中发挥作用，而且效果并非尽如人意(Alpaydin，2016)。在DELTA案例当中，用户需要在系统最初开发之后接手维护工作·但根本没人愿意承担这一责任·因此它从未被真正地应用于工业实践(Gill，1995：66)。早期专家型系统的一些问题可以归因于技术环境发展问题，比如专家型系统可能与公司的一般计算环境不相匹配(Gill。1995：64)。而系统的其他问题则可以回溯到其无法融入人类环境，DELTA也不例外。例如。人们对于研发人员与系统采用公司的责任心存疑虑：人们对于系统所能解决的问题不以为然；用户对于外部开发系统心存抵触：抑或是系统核心研发人员跳槽(Gill，1995)。

机器学习决策系统

在第一代专家型系统被发明并应用之后的几年之内，数字化大数据环境开始蓬勃发展，这为“机器学习”系统的登场唱足了前戏。机器学习可以说是人工智能在21世纪10年代最为实在的应用案例。通过机器学习。人工智能系统的知识来源发生了翻天覆地的变化：系统基本上不再由人类专家提供知识，因为它能基于数据进行自我学习与升级。相应地，系统获得了自主性与能动性。在这种情况下，为人工智能赋能的不再是人类专家，而是数字化的数据集。正是基于自动化数据处理，机器学习系统能够学习并进一步进化升级。

大卫·莱尔(D)avid Lehr)与j保罗·奥姆(Paul()hm)将机器学习过程的数据分析能力描述为“发掘数据集中变量之间相关性(有时也被称为关系或模式)的自动化过程，常被用于针对某一结果的预估”

第3章大数据人工智能社会技术基础设施

89

权力的数据伦理学：大数据与人工智能时代的人本方法新解

(Lehr and Ohm，2017:671)。其中一个例子是苹果公司的语音助手Siri.它能直接在苹果设备上或通过互联网搜索来分析语音问题与指令。Siri的智能之处在于，该程序能通过用户的提问数据不断自我学习与进化升级。这样，通过为用户创建数据画像，Siri与用户拟合程度逐日提升，最终能堪重用，成为用户的私人助理。

在21世纪10年代末，用于实时分析数据或实时采取行动的机器学习系统越来越多地嵌入社会各行各业的数据系统，无论是在医疗保健领域还是社交网络平台·都可以找到机器学习系统的身影。计算机工程教授埃特海姆·阿尔帕伊登(Etherm Alpaydin，2016)将机器学习系统的这场重大变革归功于数字环境的兴起。在20世纪80年代，微处理器的发明开启了个人计算机大规模发展的新纪元。得益于此，计算机以及后来的个人设备方能广为普及。此外·从20世纪90年代到21世纪的数字化过程进一步使得海量的大数据收集成为可能。现在，所有的信息，从照片中的颜色到音频中的音调，都可以转化为一连串的数字、并支持计算机处理(Alpaydin，2016)。

这些技术进步为机器学习的快速发展与互联网产品的不断翻新奠定了基础，进一步促进了通过大数据学习与进化的人工智能系统在自主行为与自主分析方面日臻完善。为了说明这一点，请看智能玩具龙 CogniToy Dinosaur 这一案例：该玩具使用了世界上最强大的机器学习模型之一，即屡获殊荣的IBM 公司Watson 计算机，来评估儿童与它的互动。该玩具并没有预先设定好回答，而是从儿童的问题与反应中学习，并且根据这些问题与反应给出相应的回应。比如、当孩子说“我最喜欢的颜色是红色”时，玩具龙会问答“好的，我会努力记住”，同时为实现将来更为个性化的游戏而将这些信息储存下来。

值得注意的是，尽管在某些方面机器学习不再需要人类专家的帮助，但它并没有完全排除在机器学习系统数据设计方面的人类介入。相反·基于机器学习的人工智能系统的自动化程度取决于人类对于数据处理的干预程度，包括问题界定、数据收集、数据净化以及机器学习算法训练的方方面面(Lehr and Ohm，2017)。

90

莱尔与奥姆将机器学习过程中的这种人类干预称为“操控数据”。他们认为，法律学者一直以来过于关注机器学习系统的自主性，这表现为他们主要关注系统的“运行模式”(其采用方式).而忽视了塑造机器学习系统的数据处理活动。正如他们所言，机器学习系统并非具有内部运作机制的神秘黑箱。事实上，它们是“人类密集型劳动—来自数据科学家、统计学家、分析师、计算机工程师—的复杂产出成果”(Lehr and()hm，2017：717)。从这个角度来看、或许我们可以认为21世纪初最为广泛应用的人工智能系统形式一基于机器学习的人工智能系统—本质上是一种具有一定程度自主性的数据处理实践，可能会受到不同形式的(不仅包括技术设计，还包括它们在社会中的组装与应用)人类干预的影响。

我在这里使用的也是这种人工智能概念。与其说它是一个科学或技术术语，我更倾向于关注这一概念在特定历史时刻的复兴与应用，并不打算进一步思考人工智能(在技术层面或哲学层面)的潜在“智能”。之所以如此使用这--术语，我的目的在于解决其在公共话语当中更为普遍的使问题。具体而言，在21世纪10年代末的欧洲政策话语之中，它关注的是社会大数据系统的技术演变与社会演变。同样，我还想说明：虽然“人工智能”这一术语的确是在这一时期尤为常见，但仍真人1智能实际上并不是其关注的重点。

欧盟人I智能高级别专家组(HIEG)着手完成的首要任务之一就是界定人1智能。这一技术定义后来被作为专家组的成果发表出来，强调了人工智能的数据过程与人类十预：

人工智能(A1)系统是由人类设计的软硬件系统、在给定复杂目标的情况之下。可以从物理或数字维度、通过数据获取来感知环境、解读所收集到的结构化或非结构化数据，并基于知识进行推理，或是通过处理来自数据的信息，从而为实现既定目标来决策最优行为。(HIEGC，2019：6)

第3章大数据人工智能社会技术基础设施

91

随后制定的欧盟委员会政策与投资战略同样是专门用于保障人工智能的数据资源(例如·这一点在2020年2月颁布的欧盟数据策略当中就有相应表述·欧盟委员会H2020计划)，或确保开发并获取大数据人工智能增强工具(产品和服务)的权利，从而为欧洲个体与公共部门提供支持(例如，在2020年2月与欧盟数据策略一起颁布的《欧盟人工智能白皮书》，欧盟委员会I2020计划)。

社会中的人工智能

现在·我们对21世纪初日常使用的商业化人工智能形式有了一个基本的技术界定，即它是一个复杂的数据处理系统，具有人类干预而来的自主性能力。通过无数数字连接物件，人工智能增强了网络大数据系统的技术分析能力与技术感知能力。然而·这些全新的技术能力也是一种社会演变，它们被嵌入人类社会技术基础设施当中，进而深刻地改变了各行各业以及公民生活的公私领域。特别是在21世纪10年代.人工智能系统在公私领域迅速推广开来·海量人1智能应用被开发并应用于教育、环境、能源、医疗保健、政策制定、金融、IT、智慧城市、交通与可持续发展等诸多领域(Allam andDhunny.2019)。试想，如果没有得到高层统一部署，不同领域对于人1智能的采用策略将会受到不同程度的人类干预。以下是来自各个不同社会领域的案例：

·公共领域

在这方面，欧洲各国制定了各种不同的战略。例如，将人工智能纳入公共机构当中、用于研发个性化援助、聊天机器人与对话平台，并且用于针对家庭进行社会评分或者追踪定位弱势儿童。此外，公共部门还将这些程序用于公务员任务自动化处理、警务预测以及欺诈检测等方面(Spielkamp，2019；AlgorithmWatch，2020)。

·金融领域

在金融领域，金融正转变为人机“权力共享”的“赛博金融”(Lin，

权力的数据伦理学：大数据与人工智能时代的人本方法新解

92

2014)。例如，外汇市场(从事世界货币买卖的交易场所)上80%的交易都是由机器执行(Bigiotti and Navarra，2019);金融“机器人顾问”能够为投资管理提供理财建议(Lieber.2014)；金融机构将人工智能程序用于市场分析、信用质量评估以及价格贷款合同拟定(金融稳定委员会，2017)。此外，人工智能系统还被用于消费者评估与信用评分(Pasquale。2013)。

·社交网络

由脸书与谷歌等平台提供的最常见的社交网络服务·正将人工智能系统用于：提供个性化排序与推荐、分析搜索词并确定同义词、面部识别追踪照片中的用户、理解并回应对话。以及监测虚假信息与非法有害内容①。

·智慧城市

城市已经被带有传感器的联网物品所改造、这些传感器能实时收集数据。人工智能被集成到城市管理与工程建设当中，以实时分析城市各个角落相关数据的分布情况并将其集中(Allam andDhunny.2019)。

·医疗保健

在医疗保健领域，人工智能被广泛用于疾病概率预估、个性化医疗、疾病监测治疗规划、重症监护、疾病诊断、治疗决策与分流(WH(),2018)。

人工智能伦理

在北欧神话中、阿斯加德(Asgàrd)的国王奥丁(Odin)长际飘飘，身披金甲.头戴鹰盔，手持长枪，傲居王座、准备迎接从人间战场凯旋的维京战上:英灵。奥丁原本不是“独眼龙”，但是为了获得更多知识，他自愿把一只眼睛献祭了出去。不过，他有两只会说话的渡鸦—福金(Hugin、意为“思想”)与雾尼(Munin，意为“记忆”)(Orchard，1997)，它们不仅能眼观六路、耳听八方，还能做到过目不忘、预测未来。作为奥丁的耳目、它们漫游山野、侦察世界，并向奥丁报告。然而。这是一种权衡之术，是奥丁不得不接受的权力下放，以便能够掌控现在、预测未来，因此他也心存隐忧—“福金和雾尼每天早上都要飞往广袤无垠的外在世界。我很担心福金不会回来，但我更担心雾尼”(“Grimnismál”。Thorpe、1907)。这位古老的维京天神心存忧虑其实也反映了人类对于自身失去能动性的焦虑，这也适用于目前关于人工智能权力伦理的相关研讨。当我们渴望通过研发、采用并管理人工智能社会技术基础设施来摆脱人类躯体与思维的桎梏之时，我们又愿意接受何种让步？也许，我们能从奥丁对于可能失去记忆(雾尼)的焦虑中学到些什么：试想，如果丧失了人类记忆(雾尼)和经验这样的动态品质，思想(福金)/智力又有什么意义？

第3章大数据人工智能社会技术基础设施

①脸书与符歌的人工智能部]：hitps://ai.lacebook.com/。https://ai.google.

93

不同于20世纪中叶的科学尝试与科幻想象。人工智能在21世纪初已然落地生根，长出了社会技术系统这一“幼苗”，并在人类社会这一土地上迅速成长蔓延开来。正如前文所述，大数据系统的全新人工智能技术能力同样也是一种社会进化。我们发现，公私领域的基础设施系统正在逐步转型：它们正在告别实体化与人控化，越来越多地基于数字大数据，并通过人工智能得到强化。因此·这些领域的决策过程也越来越多地受到大数据人工智能系统提供的预测各种实际(或潜在)分析的影响，甚至会被这些系统取代。

那么，这在实践中又意味着什么呢？让我们来看几个例子：通过对用户个人数据进行画像分析，个性化推荐系统塑造着用户在网络当中的所见、所闻、所感与所知；通过扫描驾驶员前方的街道，自动驾驶系统能评估路上不同物体的风险与价值，并在发生不可避免的事故之时决定汽车的碰撞对象；通过寻找被传的背景模式，司法风险评估系统能告知法官谁最可能在未来犯罪；通过分析患者过往病史与人口数据，分流系统可以选择肾源的最佳受体。所有这些过程当中，无论是部分还是完全自主决策的人工智能系统都深陷伦理困境之中，并且这些困境日渐扩展加重。比如，在宏观层面，作为民主社会的公民，我们对于人工智能系统推动改造的政治进程应有多大程度的选择力与洞察力？或者，在微观层面，发生故障的汽车应该选择首先撞谁？是有犯罪前科的年轻人.还是从未犯过罪的老年人？

权力的数据伦理学：大数据与人工智能时代的人本方法新解

94

随着人工智能系统在21世纪10年代设计而出.并被嵌入社会基础设施当中，其伦理影响也与人工智能系统的复杂数据处理交织在了一起，并被具化为道德决定与选择的形式。因此，在公众重新关注人工智能的时，“人工智能伦理”作为一个关注人工智能系统伦理影响的新型研究领域应运而生。尽管以往很多术语被用来描述这一领域的不同方面。我在这里选用“人工智能伦理”这一术语，来对该研究领域—牵涉到人工智能在社会中实际应用的伦理影响方面的关切——进行一般性描述。

现在，我将探讨之前提出的伦理问题：涉及人工智能系统的设计、采用以及社会固化过程当中不同程度的人类干预，这也是“人工智能伦理”研究领域的首要研究主题。此外，我会将这些伦理问题与上述提到的想象场景联系起来，深度刻画人工智能对于人类本身、人类可控威胁以及自主性人I智能超越人类缺陷的潜力。实际上，鉴于对人工智能的认知j理解因人而异，人工智能伦理的实际应用也会牵涉到人类在人工.智能设计与治理过程中不同程度的干预问题。在我看来，最有价值的应用人工智能伦理方法就是在人工智能研发过程中优先设置最高水平的人类干预。

人工智能系统应用于个人与社会决策过程所带来的伦理影响也是人工智能伦理研讨当中的一项常见议题。正如我在接下来的章节当中所要展小的那样，其覆盖范围广阔、既包括对于机器能动者在人类道德世界之中作为一种积极性或破坏性变革力量的讨论，还包括应用人工智能伦理的方法与框架的交锋。尤其是后者，可以从人工智能决策过程的设计与组织当中不同程度的人类能动性与人类干预这一视角予以研究。

第3章大数据人工智能社会技术基础设施

95