比特与原子：信息时代的政治经济学

)， 因此，在在线社交空间中，将机器人与人类区分开来并不总是那么容易。人物角色也有可能部分由软件程序控制，部分由人类直接控制....这就导致了这些空间中伦理争论(更不用说警务了)的理论和实践问题，因为演员和道德代理人之间通常的一对一对应关系可能会丢失。(莫布雷，2002:2)

因此，软件机器人不仅使行动者和道德行为人之间一对一的对应关系复杂化，而且使决定谁或什么对在线社区虚拟空间中的行为负责变得越来越困难。尽管这些机器人离实现任何看起来远不像智能甚至是基本机器学习的东西还差得远，但它们仍然可能被误认为是其他人类用户并被通过。莫布雷指出，这不是“复杂的机器人设计的特征，而是在线社交空间的低带宽通信”，在那里“更容易令人信服地模拟人类代理”(2002:2)。

尽管有了这些知识，但这些软件实现不能仅仅作为工具或工具而被一笔勾销。“这篇论文中的例子，”莫布雷总结道：“表明机器人可能会根据其程序员或其他用户的意愿对其他用户或整个社区造成伤害，但它也可能由于涉及其编程的某些组合的情况的组合而造成伤害，与之互动的人类用户的行为和精神或情绪状态，其他机器人和环境的行为，以及社区的社会经济”(2002:4)与人工智能不同，人工智能将占据至少与人类代理相当接近的位置，因此不能仅仅作为工具而被解雇，机器人只是把水搅浑了(这可能更糟)，因为它们没有确定它们是否是工具的问题。在这个过程中，它们让道德代理的问题既悬而未决，又令人不安。

机器的崛起

2012年11月，通用电气推出了一个名为“移动中的机器人”(Robots on the Move)的电视广告。这段62秒的视频由乔纳森·戴顿和瓦莱丽·法里斯(2006年故事片《阳光小美女》的夫妻组合)制作，描绘了科幻小说中许多标志性的机器人穿越很远的距离，在一些灯火通明的飞机机库前集合，为我们

82责任型机器

10.15215/aupress/9781771991292.01

被告知的是一些新型机器的揭幕一—“辉煌的机器”，正如通用电气的标语所描述的那样。当我们看到《禁忌星球》里的机器人罗比、《霹雳游侠》里的机器人汽车KITT和《星际迷航:下一代》里的Data中校指挥官前往这次人工智能的会议时，我们被一个不祥的画外音告知：“机器正在移动中。 9

虽然这可能看起来不像典型的机器人末日(在科幻电影和电视节目中，如终结者、黑客帝国三部曲和太空堡垒卡拉狄加中生动地描绘了这一点)，但事实上，我们正处于一场入侵之中。机器在移动。它们无处不在，做着所有的事情。它们可能是从取代工厂车间的工人开始的，但现在它们积极地参与到知识、社会和文化生活的各个方面。这种入侵并不是来自遥远的外星世界的某种未来可能性。它就在这里;就是现在。抵抗是徒劳的。随着这些越来越自主的机器在当代文化中占据了有影响力的地位一一在这些地位上，它们不仅是人类行为的工具或工具，而且本身就是行动者一一我们需要问自己一些重要但相当困难的问题:在什么情况下，机器人、算法或其他自主系统才会对自己做出的决定或采取的行动负责?换句话说，什么时候说“这是计算机的错”才有意义?同样，在什么情况下，我们可能不得不认真考虑将公民、道德和法律地位等权利扩展到这些具有社会意识和互动能力的设备上?换句话说，什么时候“机器的权利”之类的建议才会不再被认为是无稽之谈？

在回答这些问题时，似乎至少有三种选择，没有一种是完全舒服或令人满意的。一方面，我们可以像往常一样做出回应，将这些机制仅仅视为工具或工具。Bryson在她的文章“机器人应该是奴隶”中提出了这种方法：“我的论点是，机器人应该被制造、销售，并在法律上被视为奴隶，而不是同伴同伴”(Bryson,2010:63)。虽然这可能听起来很刺耳，但这个论点是有说服力的，正是因为它借鉴了技术的工具理论，并得到了它的支持一一这一理论在其背后有着相当大的历史和成功，并且作为任何和所有技术考虑的假定默认立场。这个决定——即使它是默认立场，它也是一个决定——既有优点，也有缺点。从积极的一面看，它重申了人类例外论，绝对清楚地表明，只有人类才拥有权利

David J. Gunkel

83

10.15215/aupress/9781771991292.01

还有责任。技术无论多么复杂、智能和有影响力，现在和将来都只是人类行动的工具，仅此而已。但是，这种方法尽管有用，也有一个不那么令人愉快的缺点。它故意地制造了一类新的工具性仆人或奴隶(我们可以称之为“奴隶制2.0”)，并将这一决定合理化为道德上适当和合理的。换句话说，将工具理论应用于这些新型机器，虽然看似合理和有用，但可能会给我们和其他人带来毁灭性的后果。

另一方面，我们可以决定像对待动物(Singer,1975)和环境(Birch,1993)等其他非人类实体一样，考虑对机器的权利和责任的可能性。对于这种结果，既有道德上的先例，也有法律上的先例。事实上，我们已经生活在一个充斥着人工实体的世界里，这些实体被认为是法人，其权利和责任受到国内法和国际法的承认和保护——有限责任公司(French,1979)。再一次，这一决定听起来合情合理、合情合理。它将道德立场扩展到这些其他社会活跃实体，并根据诺伯特·维纳(Norbert Wiener, 1988: 16)的预测，认识到未来的社会状况将不仅涉及人与人之间的互动，还涉及人与机器之间的关系。但这一决定也有巨大的成本。它要求我们重新思考我们自以为了解的关于自己、技术和道德的一切。它要求我们学会超越人类例外论、技术工具主义和所有其他帮助我们理解我们的世界和我们在其中的位置的主义。实际上，它要求对谁或什么应该被视为道德主体进行彻底的重新概念化。

最后，我们可以尝试通过采取一种中间混合的方法来平衡这两种极端立场，将代理和责任分配到一个相互作用的人类和机器组件的网络中。这种特殊版本的“行动者网络理论”正是约翰逊在她的文章《计算机系统:道德实体但不是道德代理人》(2006:202)中提出的解决方案。“当计算机系统行为时，有一种三合一的意向性在起作用，即计算机系统设计者的意向性、系统的意向性和用户的意向性。”这个建议也有它的优点和缺点。特别是，它似乎注意到了数字联系中生活的紧急情况。事实上，我们没有一个人是在真空中做决定或行动的;我们总是并且已经被相互作用的元素所组成的网络所纠缠，这使得意向性、代理和责任的分配变得复杂。而这些

84Responsible Machines

10.15215/aupress/9781771991292.01

网络总是包括其他人一—不仅包括其他人，还包括机构、组织，甚至是机械元素。

然而，这种结合的方法仍然要求人们决定哪些方面的代理和责任属于机器，哪些方面应归于人类。换句话说，混合方法虽然试图在严格的“工具主义”和“机器道德”之间取得平衡，但仍然需要在谁算作道德主体和什么可以被视为纯粹客体之间做出决定。事实上，正如雅克·德里达所指出的，一切都取决于这两个看似简单的词之间的决定(2005:80)。例如，约翰逊仍然站在人类例外论的一边：“还要注意，虽然人类可以在有或没有人工制品的情况下行动，但计算机系统不能在没有人类设计师和用户的情况下行动。即使它们的近似行为是独立的，计算机系统也会与人类一起行动，因为它们是由人类设计的，以特定的方式行事，人类将它们设置在特定的地点、特定的时间，为用户执行特定的任务”(约翰逊，2006:202)。但这不是唯一可能的，甚至不是最好的表述，其他理论家和实践者(Wallach和Allen, 2009,Anderson和Anderson,2011,Lin等人，2011)提出了不同版本的共享代理和责任，其中一些将规模向增加机器自主性的方向倾斜。

无论如何，我们如何决定应对这个机器问题的机遇和挑战，将对我们概念化我们在世界上的位置的方式、我们决定将谁纳入道德主体的社区、以及我们从这种考虑中排除哪些人和原因产生深远的影响。但无论如何决定，这都是一个决定一一从字面上讲，这是一个制定差异并产生差异的削减。因此，我们有责任决定谁甚至什么是道德主体并在此过程中决定数字关系中道德责任的配置和适当限制。

参考文献

David J. Gunkel85

10.15215/aupress/9781771991292.01

86Responsible Machines

10.15215/aupress/9781771991292.01

David J. Gunkel87

10.15215/aupress/9781771991292.01

88Responsible Machines

10.15215/aupress/9781771991292.01

4 开放源代码透明度改变同一性的制作

达里尔·坎贝尔

自由/自由开放源代码软件(FLOSS)运动可以被认为是整个运动家族的祖先，这些运动已经作为这种模式的可能变体出现:众包，维基经济学，公民工程，社交网络，最终用户开发，集体智慧(Zhai et al.，2012: 61;Tapscott and Williams, 2008)。FLOSS作为一项关注创造者和开发人员(“产品用户”，而不仅仅是用户)的前沿技术进步的运动仍然具有相关性。FLOSS的持续发展对于进一步深入了解支撑这场革命运动的成熟逻辑具有重要意义(Deshpande和Riehle,2008)。为了深入了解这种逻辑，我们将该运动的一个维度与专有软件开发隔离开来进行衡量。

在FLOSS运动中，术语“开放”在多个层面上起作用。在本文中，开放性在展示自我的意义上特别参考了透明度。互联网和数字技术创造了条件，可以捕获和存储网络活动和通信，以便不受约束地访问和重播。由此产生的这种对用户活动的透明记录所释放的潜力，可以被视为一种生产方式转型发展的积极动因。

89

这就提出了一个问题:构建FLOSS运动的技术所促进的透明度是否证明了最终的扰动正在诱导新的集体同一性和代理?阿兰·巴迪欧的现象学研究可以帮助我们分析这个问题。

对于巴迪欧来说，在集体或社区层面上运作的群体同一性是一种剥夺了任何主体性的悲情(巴迪欧，1991:24-32)。如果我们给予技术与其他组成成员同等的地位，我们可以首先定义一个群体同一性，然后概述FLOSS运动的群体同一性如何证明与已建立的商业软件开发模型的非身份。其结果是一个新的事件后群体同一性，软件开发领域内的区域置换。我们可以使用巴迪欧的思想来辅助分析，但是FLOSS引入了一些复杂的问题，因为巴迪欧为关系设定了有限的参数。

对群体同一性的非凡描述

在《世界的逻辑》中，巴迪欧用现象学的方法描述了在一个世界中出现或存在的东西，在结构层面上，世界的同一性是通过物体的映射来计算的，组成这些物体的元素被投射到一个基本空间上。这个映射的空间，与地理疆域的路线图没有什么不同，被命名为“先验指数”。映射或函数用于测量对象之间的差异或同一性程度，包括每个对象的同一性函数(2009:358-59)。由此产生的空间将描述性现象世界转录为同一性。这不是康德的先验主体，而是一种对无主体客体的描述，一种从给定的对世界的现象描述中物质地产生的非主观的先验。“先验不是主观的，也不是这样普遍的(有多重世界，多重先验)”(301)。

在《哲学第二宣言》的封面内，巴迪欧与艺术家莫尼克·斯托比尼亚(Monique Stobienia)绘制了一个拓扑空间。该空间的对象和元素被映射到一个外部空间，形成一个超越的指数，唤起柏拉图式寓言的图像。在图4.1中，我们用类似于Goldblatt从拓扑理论(Goldblatt,1984:89)中对束的说明的预先构造重建了这个图。表示给定世界的束中的每个对象都有一个映射，称为茎，在基空间中有一个端点。这些端点作为功能映射的输出，在这个空间中记录了给定世界的对象和元素的外观关联度的估值。

90 Open Source Transparency

10.15215/aupress/9781771991292.01

使用逻辑运算符，一个对象和构成它的元素的范围从最低限度地出现到最大程度地暴露。一个对象的两个元素或两个对象会有一定程度的不同。这些元素将根据它们的差异程度的某种排序来关联，其范围可以从零差异到最大可测量的差异。先验指数现在容纳了同一性，凝结了那个世界的差异和同一性的整个游戏的计算结果。从现有世界的信封中工作，从这个世界中捆绑在一起的东西中揭示出潜在的同一性。²这个高度抽象的群体或世界同一性的概念，我们是从巴迪欧现象学研究的片段中提取出来的，像巴迪欧一样，从范畴论中借用。3

我们分析的广义空间或世界是任何组织，商业的或基于社区的，以软件开发为目的而形成的。在本研究中，我们关注作为对象元素存在的属性的一对映射，这些元素对这个世界的同一性做出了独特的贡献。在这方面

Daryl Campbell91

10.15215/aupress/9781771991292.01