通过这种方式·她在用户、云服务提供商与人工智能模型的数据利益之间进行权衡，并做出了设计选择。访谈过程当中，她还回忆起一个案例：一个特定职业群体的数据利益最终战胜了一个企业客户的数据利益。具体情况是这样的：作为开发者，她想要将员工的业绩数据用于其正在为客户设计的人工智能系统之中。然而，她不得不与保护员工利益的行业工会进行协商、因为从这些数据当中可以推断出个别员工的业绩表现。当被问及工会是如何介入之时，她透露了另一种基于数据利益之间博弈与权衡的设计选择：“为了使用员工相关数据，我们需要与工会开展协商，最终我们放弃了这种设计选择。”
为什么一个数据设计师在考虑所研发的技术数据设计当中的不同利益之时，会做出她这样的选择呢？她的文化环境起到了什么作用呢？在这一章中，我们将尝试去理解并研究社会技术基础设施(如AISTls)的技术组件(意义制造文化系统当中实现利益表达的物质形式)的微观环境。我认为：理解这种意义的文化组织对于社会技术变革中复杂的“伦理治理”至关重要。因为共享意义的文化概念地图将使我们能够在共同理念与目标指引下采取行动。
在前面的章节，我们将社会技术变革形态看成是人类和非人类因素的复合体，这些因素共同体现在社会技术的设计、采用、使用与治理之中。然而，正如我将在本章继续论述的那样，它们并不是被任意地连在一起。相反，社会技术变革是由政治与文化制造而来，这就意味着它不是“中立的”或者“自然的”，而是嵌入了某种利益。准确来讲，这种变革其至不能用“它”来形容，正如在“伦理人工智能”设计运动的例子当中所说明的那样、应该用“许多”来形容：许多嵌入的利益、许多固有的文化，许多世界观、优先事项和概念框架，或和谐共存，或互相冲突。这也就意味着，使变革得以巩固的“技术动量”(Hughes，1983，1987)来自上述多个方面文化利益之间的相互妥协与博弈。
第4章数据利益与数据文化
115