作为视觉的数据
人类能“看到”数据过程和它们的影响吗？数据设计看到了什么(训练数据)，然后感知到了什么(如何指导它对训练数据进行操作)？
视觉是数据设计中数据利益的能动性本身(我们能或者不能看到什么，以及我们如何看到它)。在理想情况之下，人类视线可以轻松地向外延伸。然而，毫不夸张地说，在一个基于数据的数字环境当中.我们用来观察与感知环境的仪器(我们的电子眼睛)已经深人数据设计环节，决定着我们实际能看到的东西的类别与多寡。
诚如前文所述，数据设计同样扮演着道德能动者的角色，因为它规定并控制着我们对于信息与数字化信息基础设施的参与情况。在数字系统当中，眼晴与视觉是一种隐喻式的存在。一方面，正如欧盟人工智能高级别专家组在《可信人工智能的伦理指南》当中所言·数据通常被描述为人工智能的传感系统①，基于该系统，人T智能形成自身行为模式；另一方面，数据也是我们人类个体的“眼睛”。例如，数据“为人工智能系统提供决策，涉及数据收集、数据标记及其算法方面的决策”(HIEGA，2019：18)。另外，这里使用的“透明度”这个概念通常指的也是其字面含义，表示我们能否清晰地看到数据流程以及这些流程是否能够被记录与追踪。然而，数据的“黑箱算法”(Pasquale，2015)处理往往会遮蔽我们的视线，导致我们无法真正了解人工智能系统。可以说，可见性管理———新兴技术环境的可见性结构——构成了一种社会组织与权力分配模式(Brighenti，2010;Flyverbom，2019)。什么是可见的、什么是不可见的，以及最重要的一点，谁被授权透过可见性社会组织去查看具体数据过程，这些都直接影响了社会中的利益能动性。作为人工智能技术的数据设计，电子眼正是这样进行权力分配的。为了说明这一点，我们可以想象这样一个用于分析人们所享受的社会福利方面数据的人工智能系统。该系统为公共机构的社会工作者提供了一个面板，面板上包括一般的数据统计、欺诈检测以及个人风险评估。这个面板就是我们在人工智能系统当中的眼晴。在这种情况之下，只有社会工作者的数据利益以及希望掌控公共资源和优化工作流程的公共机构的利益才能成为该系统的眼睛。同样，我们也可以思考一下其他类型的数据设计。在这些数据设计当中，享受社会福利的人们能够通过数据访问获得他们的电子眼，进而在系统中具备能动性。比如，添加数据或更正缺陷数据，或者针对提供给他们的服务进行个性化设置。
1 411 3.
权力的数据伦理学：大数据与人工智能时代的人本方法新解
①例如，欧盟人智能高级别专家组将人工智能的传感系统描述为：“通过数据获取感知外部环境。并能解设所收集到的结构化或非结构化数据，同时基了已有知识进行推理或处理信息、最终从数据当中得出实现既定目标的优化操作”(HLEGA.2019，36)。
130