权力的数据伦理学大数据与人工智能时代的人本方法新解

当我们探讨21世纪之初嵌入 BDSTIs与AISTIs 发展之中的各种基础设施实践之时，我们注意到了欧洲文化空间当中概念化的BDSTIs与AISTIs同期实际形式(通常被定义为“陌生”空间)之间的冲突与协商时刻。在本书的第一部分，我认为权力的数据伦理学在类似这样的关键时刻可以发挥重要作用，因为它们促成了文化妥协或是全球社会技术系统变革与发展所需的技术动量(Hughes，1983，1987)。同样，它们对于创新发展阶段也至关重要，因为它们构成了社会技术系统的转型，而这种转型恰恰产生于寻求解决系统关键问题的过程当中。因此，数据伦理也可以在机构、公司、政府与政府间组织中找到蛛丝马迹，这些组织或遵循自然状态，或制定倡议和实践(即“谈判空间”)，从而致力于塑造合乎法律的价值与伦理反思。

(2)权力与人工智能。

在本书第二部分关于权力与人工智能(第3章和第4章)的讨论当中，我探究了具有人工智能能力的BDSTIs(即AISTIs)的历史脉络及其特殊权力特征。人工智能已经不再基于人类专家知识编码(主要应用于规则性人类物理环境)的专家型系统，当下已然发展成为日益具有自主决策能动性并能基于数字环境当中的大数据而自动学习与进化的系统。

此外，我还探究了人工智能的伦理影响(以及人工智能技术在21世纪10年代末期演变成为AISTls的伦理影响)以及应对这些特定影响的伦理学范式。我主要针对人类的分布式伦理能动性与人工智能的道德能动性之间的关系展开研究，这种综观视角正在日渐深刻地塑造着我们的伦理经验。这里，我认为人工智能应用伦理研究领域当中的一个重要主题就是：在人工智能系统的设计、采用与社会整合过程之中不同程度的人类干预。同样，这些关切还体现在关于人工智能对人类以及人类可控威胁的伦理之忧，抑或是自主人工智能超越人类缺陷的潜力之忧。然而，我并没有选择两者之中的任何一种极端路径展开讨论。相反，我选择了一条中庸之道——承认人工智能的道德能动者地位并不等于我们必须承认其伦理责任能动者地位。换言之，我们的关注点不应该是机器是否应当或者是否可以具备人类水平的伦理能动性与责任性，而是需要关注我们如何确保人类能够继续以实然的责任感来有效干预人工智能的所作所为。例如，我们可以考虑通过非常具体的方式为人工智能与机器人创造全新的标准与法律，以便确保AISTIs当中人类的干预与赋权(Pasquale，2015，2018，2020)。同时，我还建议我们应该将赋予人工智能意义的文化系统视为一种不可控制的自主性道德能动者，或者将其看作是人类干预发挥重要作用的人类数据设计。

米

权力的数据伦理学：大数据与人工智能时代的人本方法新解

206

基于此、我认为权力的数据伦理学的核心伦理焦点是将AISTIs与BDSTls视为具有某种社会分层的文化规范系统、其中社会主导主体的利益占据绝对优势。借此、我特别探讨了塑造AISTIs的开发者、科学家、立法者与使用者的实践文化系统。这里，通过参照塑造21世纪10年代末期人工智能技术动量的意义制造文化系统，我仔细研究了作为不同数据文化表达方式的人工智能数据当中所包含的利益。其中，权力的数据伦理学关注的是技术变革，它被看作是不同技术文化利益之间进行权力谈判、相互妥协，抑或是一个文化系统对另一个文化系统进行支配的场域。基于休斯对技术动量的描述(1983，1987).我建议采用一种俯瞰式分析视角、将利益视为一组复杂的因素集合、它可以跨越不同的利益相关团体社区、并且汇集在共享文化知识框架与世界观之中。基于一系列的研究讨论·我认为AISTls的伦理焦点主要体现在人类的批判性协商与伦理能动性(“关键文化时刻”)是否能被固化在人工智能道德能动性之中。

(3)人类权力与数据伦理。

在本书的前两个主要部分，我将权力的数据伦理学描述为批判性伦理参与，涉及BISTIs与AISTls等不同社会技术数据文化的权力与利益之间的博弈、冲突以及伦理妥协。BIDSTls与jAISTls构成了两种权力形式，在人类现实与社会的不同维度“发挥作用”。

第6章结论

207

BDSTIs主要通过将所有事物转化为固定化数字数据在空间之中发挥作用；而AISTIs还涵盖时间，它基于这些数字数据，在未来的影像当中积极塑造过去和现在。因此，我们认为，权力的数据伦理学的核心在于将这些AISTIs与BDSTIs看作是一种具有社会分层的文化系统。在该系统之中，社会当中的主导主体利益被空间化与固定化，因此对其进行批评与重新协商将会变得愈发困难。

在本书的最后部分(第5章)，我们研究了人类权力与伦理能动性的特殊性。这些对于任何(非)工程化社会技术变革的伦理治理行为都意义非凡，同样它们也是权力的数据伦理学的核心所在。从本质上看，权力的数据伦理学关注的是人类作为伦理存在的角色，人类不仅对于自身的生存，而且对于一般的生命存在都要负有相应的伦理责任。我们需要将这种“人本方法”作为AISTIs与BDSTIs治理的指导性思想。换言之，我们需要一种优先考虑人类环境、人类伦理能动性与责任的方法。正如书中最后一部分所示，我将人本方法这一概念主要用于强调人类判断、治理与关键情境经验，而非关注技术人工制品的道德能动性，因为后者只能表征、再现并强化那些没有经验性与批判能动性的生物。我们可以用人工智能伦理领域的一个非常简单的例子来说明这一点：人工智能能动者并不会主动改善自身偏见，因为它只能像一个“完整性”系统一样运作；人类可能看不到或者并不关注它本身的偏见，但人类具备足够的潜质能够看到这些偏见，关注这些偏见，并在关键文化时刻有所应对。

总之，人类权力需要在特定的时空条件之下才能发挥作用，尤其是在21世纪之初，人类的伦理能动性始终处在与 BISTIs和 AISTIs道德能动性的协商之中。后者不仅将权力机制具体化，而H从根本上挑战着人类伦理能动性与这些权力之间的协商与对抗。换言之，人类的批判伦理能动性与BDSTIs与 AISTIs的社会技术权力结构并没有相似性与一致性，自然也难以在其权力结构夹缝当中发挥关键作用。这就是为什么我们迫切需要采取行动以保障人类关键文化时刻，并为构建关键协商空间创造条件。我们需要积极建立替代性社会技术数据基础设施与系统，使之以不同方式与人类能动性、权力与伦理进行互动。我们需要在设计治理之中应用数据伦理学·旨在确保人类生活、经验与批判能动性参与社会技术数据系统的数据设计、治理、使用以及实施。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

208

下一步是什么？

在本书的研究过程当中，我偶然发现了作为“自动武器”的“伦理调节器”的机械设计简图。这是一个技术组件，主要被用于处理塑造人工智能“战士”能动性的数据流：这是一种内置于能动者数据设计之中的机械数据控制组件，功能在于确保其行为符合一套规定的伦理要求(Arkin et al..2009)。这一“伦理调节器”将通过处理能动者行动领域的数据来得以运作，并在此基础上允许或禁止某项行动。例如，有关于人类、重要建筑与文化遗址的数据，能动者的数据设计会将其转化为禁止致命打击行动的数据流。另外、有关威胁的数据(其中可能包含关于人类的数据)以及一些数据威胁场景，通过与“伦理调节器”伦理边界的其他数据相互结合，也可以转化为允许致命打击行动的数据流。这代表了数百年来军事法律与复杂性伦理边界的产物被转化为数据设计的过程。

针对生死、文化、炸弹与致命打击行动做出应对性伦理决策极其复杂，但将其转化为数据过程的伦理决策似乎易如反掌。我认为，当今时代人类复杂性降低是 BDSTIs与 AISTIs研发应用的关键动机之一，二者使得我们的生活、社会与文化更易处理：使得我们作为个人在家庭、工作、学校、社会、医院、选举、福利系统、司法系统中以及在战争或流行病等危机时期必须做出的那些艰难的伦理决策不那么棘手。哲学家亨利·伯格森于1940年在巴黎的一个警察局登记自己犹太人身份之时所面对的就是这样一个系统——他在本书当中发挥了至关重要的作用。罗伯特·威廉姆斯这个普通人同样也是如此。在那一瞬间，他整个人的复杂性就被压缩为几个相关的数据点，并被淹没在当代数字数据权力的复杂系统之中。由于面部识别系统将他与罪犯的脸部错误匹配，导致他甚至遭到警察逮捕与拘禁。

第6章结论

209

我们每天都要艰难地做出各种各样具有伦理影响的人类决策，而且不止一次地自我意识到或被他人告知：我们做得不好或是存在伦理问题。然而，人类有意识的自我批评是数据过程所不具备的[正如路易丝·阿穆尔(2020)所说，算法并不会进行自我怀疑].这也是我们需要自己不断做出这些决策的根本原因。思考一下你能想象得到的最危急情况之下的伦理评判，比如在战争期间投掷一枚炸弹，然后将它转换为一个没有批判能动性的数据过程。这简直可怕！然而，实际上正是由于这种减少伦理决策的复杂程度与解决人类困境的美好憧憬促成了如今我们对于BDSTIs与AISTIls的研发应用。

实际上，如果我们不停下来重新调整目前BDSTIs与AISTls的发展方向，我最为担忧的这种人类批判能动性丧失将成为我们的社会技术现实。然而，我们似乎并没有意识到这一点，因为将人类排除在外并不意味着将道德能动性也置之不顾[确切来说，制定决策(即便是道德决策)总是可以通过针对数据过程进行设计来得以实现]。然而，正如我在本书当中试图说明的那样，在这一过程之中，我们将针对自身民主社会及其体制至关重要的人类批判伦理能动性丢掉了。人类的批判能动性似乎不再是我们社会技术空间架构的组成部分，也从我们的社会想象、规范与文化当中逐渐消失殆尽。

现在，我们面临着一系列核心任务，以此引导我们所需要的变革。总体而言，这些任务将会全部致力于发展并巩固一个高度复杂的社会技术系统，其将由诸多文化、经济与社会因素共同塑造。我只能在这里提到其中的几个任务。

在建立并采用AISTIs与BDSTIs之时，我们首先需要的是一种想象力，想象一种不同的技术文化或人类权力的“数据文化”。我们必须针对完美社会、高效社会甚至是公平社会的不切实际的愿望提出挑战，这些都可以在设计文化当中得以实现。要知道，人类、生物与社会本质上具有无序性与难测性。它们从来都不完美，同时往往有违公平，因此绝对值得我们赋予一定伦理关注与批判。然而，大数据系统或人工智能并不能改变这一现状。唯有人类才能通过保障创造人类批判能动性所需的条件与权力结构做出真正的变革。然而。我们所能做的仅仅是将BDSTIs与AISTIs想象成为潜在的顺手工具，可以为人类的关键伦理决策提供证据支持。例如，可以加强科学分析的装置，或是的确可以帮助我们提高效率的仪器。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

210

我们需要那些能够增强个人批判能动性的社会技术基础设施的技术组件。当然，毫无疑问，我们必须确保真正意义的人类干预牵涉其中，这一点我们可以通过在BDSTIs与AISTls社会技术结构当中为人类自身经验与能动性创造空间来实现。首先，要做的就是开发一个默认尊重人们隐私并且赋予个人权力的数据基础设施·欧洲在21世纪20年代初似乎已经着手这一方面的工作并开始大手笔投资。如今·数据基础设施的此类技术组件有很多名称(如数据信托、个人数据管理系统、个人数据存储等)与多种形式。就其基本功能、互操作性以及法律框架而言，还有很多东西有待探索。在这里，我们还需要刻意嵌入真正的“人工控制”组件、同时需要能够解释关键功能与标准的数据系统。

此外，我们需要对大数据与人工智能系统足够了解的专家，以便能在使用、获取、构建大数据与人工智能系统并为其制定法律时，以有意义的方式与之沟通互动。我们需要对儿童、教育工作者、学生与政策制定者开展社会技术数据扫育教育，普及相关知识。

显然，我们无法绕过规范性法律框架。我们需要审查并更新这些框架，以确保在BDSTIs与AISTIs研发应用当中依法实施有意义的人类控制，并且捍卫人类的专业知识(Pasquale。2020)。

同时，我们还需要更多批判性数据研究，以识别出特定数据设计、实践与数据政治的文化与权力机制之中的数据利益。本书当中的许多例子来自这些领域之内出色的调查研究。然而，大部分研究都是在西方背景下进行的，这不仅使得这些特定文化领域中的权力机制变得清晰可见，同样也对其中BDSTls与AISTIs的伦理问题与困境构成了挑战。

第6章结论

211

至关重要的是，权力的数据伦理学并不只有一种声音，当然也不可能是唯一有分量的声音。通过大数据社会技术系统进行的权力分配、主导与优势问题是权力的数据伦理学的核心组成部分，但数据监控与权力经验并不同质。在全球大数据权力结构当中处于最不利地位的人类、社区与文化的基本经验需要更强有力的发声。事实上。本书的局限性还在于我的西方(欧洲)视角以及我是站在全球社会环境当中优越性的社会经济地位展开分析的。在我们这个时代不断发展壮大的大数据社会技术系统之中，全球社会环境以迥然各异的节奏不断发展，并处于独具特色的优劣势态当中。这就是我们迫切需要更多基于不同文化、社会、经济的经验性权力的数据伦理学研究的原因。

最后，加入人类“伦理调节器”会产生怎样的效果呢？如果我们在人工智能与大数据社会技术发展的治理当中设计出独立的(我指的是真正意义上的独立，不仅在经济与利益方面，而且在其意义制造、想象与叙事的文化概念框架方面)、多种专业知识(而非多利益相关方)的伦理委员会和机构，会怎么样呢？他们将批判性地评估伦理困境与价值冲突，在本书中探讨的三个时间尺度与抽象分析水平(微观、中观和宏观)之上工作：在组织与企业内部，在独立审计师这一外围层面，以及在与政策制定者进行政策法律谈判层面。就这些机构独立治理的权力结构而言，各个国家在这方面都牵涉极大的利益，因而它们难以达成一致。当然，行业本身也从未要求或打算让它们接管这一职能。因此，为什么现在不给民间社会组织（具体而言，就是那些已经证明具备长期独立性并能致力于人类利益的民间社会团体和非政府组织)一个机会呢?我们有理由为这些民间社会团体(爱与人类能动性的代表)提供一个超越“活动家”角色的真正治理主体的身份：给它们提供资源，让它们参与竞争并推动其实现专业化，从而帮助其成长为大数据时代的“伦理调节器”，最终实现结构性改变。

权力的数据伦理学：大数据与人工智能时代的人本方法新解

212

第6章结论

213

参考文献

214

参考文献

215