比特与原子：信息时代的政治经济学

社会行动者的矛盾位置，而不是激进的缺乏威胁到这些行动者的同一性。(2)

拉克劳正确地指出，“激进的缺乏”是千禧年之交生活世界的组成部分，事实证明，这是社会同一性的数字媒体表达扩散的肥沃土壤。同一性形成经验中的流动性和建构主义，源于拉克劳所看到的去意识形态化的全球景观(至少就意识形态在20世纪的特征而言)，鼓励了对技术转化的交流实践的开放性和适应性。通信中的计算转向构成通信的数字化转型，促进了多个虚拟身份的快速形成，再加上匿名或身份屏蔽的潜在选择，甚至不需要相互协调或一致。从柏拉图和亚里士多德开始，哲学传统就一直担心拟态的、有意的虚拟表征的认识论和伦理地位。柏拉图在《理想国》中有苏格拉底的性格，引用了"诗歌与哲学之间的古老争论"，将模仿诗人驱逐出理想的理想国，除非他们能为自己的价值提出哲学正当化rôle。另一方面，亚里士多德认为人是天生的模仿者，“是世界上最具模仿性的生物，最初是通过模仿来学习的”(1448b,7-8)。特别是，他观察到：

而且，所有人都喜欢模仿作品，这也是很自然的。第二点的真理是由经验证明的:虽然对象本身看起来可能很痛苦，但我们喜欢在艺术中看到它们最真实的表现....观看图画的乐趣在于，人们同时也在学习——收集事物的意义。(1448b,8- 11,15-17)

我们在表现中自然体验到的快乐，虽然本质上是令人愉悦的，而且可能具有教育意义，但它显然与世界上的物理行为的直接后果无关，因此隐含着令人困惑甚至不安的含义。作为表征和日益强化的虚拟化的管道，传播媒体展示了我们在所有表征中所附加的快乐元素和知识元素之间所经历的矛盾张力。在个人电脑出现之前，电影和电视这种单向媒体对暴力的沉重关注一直伴随着对裸体和性行为的相对禁止。然而，后者却在更为个体控制的互动结构中找到了肥沃的环境

322Afterword 10.15215/aupress/9781771991292.01

的互联网。虚拟媒体连接的无所不在和无所不在意味着，在发达国家(随着移动设备的出现，发展中国家)，很大一部分人口的大部分时间都花在了虚拟而非具身的互动上。以至于曾经明显的真实与虚拟、呈现与呈现之间的区别不再适用，一种比例和含义都不确定的再现与虚拟行为的新制度出现了。

随着个人和移动设备对独处时间和与他人交流的日益虚拟化，真实与虚拟体验之间的平衡已经发生了转变，这种平衡仍然存在于电影和电视时代。在计算机化和互联化之前，媒体消费的被动性与阅读保持着一定的比例关系，也保持着世界上阅读与行动之间明显对比的明确性。随着计算机虚拟化和互联网交互性的出现这种清晰的对比不再适用。我们正迅速适应虚拟社区和虚拟交流，在某种程度上，自然与文化之间的前(假定的)关系迅速接近(或可能远远超过)一个临界点，在这个临界点上，人类不再被自然化在一个生物圈中，这个生物圈本身由于科学和技术干预的影响而变得极度不平衡(参见，例如，Hayles,1999;Wolfe,2010)。人类如何理解自己的社会和物种同一性，并在这样一个令人眼花缭乱的背景下承担起自己的能动性，为伦理和政治反思和辩论开辟了新的视野。这本关于数字文化的合集的作者确信，这场关于数字联系中的同一性和代理的辩论的必要性和价值。

参考文献

Press.

Raphael Foshay323

10.15215/aupress/9781771991292.01

附录

机器有权利吗?

人工智能时代的伦理学

David J. Gunkel, Paul Kellogg采访

凯洛格:也许你可以先简单介绍一下你自己，你在哪里教书以及你的背景。

冈克尔:我的背景是媒体研究和哲学方面的一种分裂/双重人格。我真的不知道我什么时候读本科，所以我两样都学了，我在媒体制作、媒体批判研究和大陆哲学方面都有高等学位。我研究和研究与技术哲学有关的问题，以及与伦理、数字媒体和新媒体有关的相关问题。

凯洛格:2013年4月在埃德蒙顿举行的数字研讨会上，我有幸听到了您的演讲，当时您是主讲人。这是一场非常吸引人的演讲，它提出了一个我以前从未想过的问题:将伦理学应用于机器世界的问题。我有机会读了您的书《机器问题》(The Machine Question)，正是您在书中以及在那次研讨会上提出的一些有趣的问题，促使我提出了这次采访的要求。

首先，准确地说，您研究的一个关键领域与解决这个问题有关：“机器有权利吗?”其次，如果这是真的，

325

难道你不会立即遇到那些认为权利问题完全与人类的权利联系在一起的人的怀疑或抵制，因此，机器甚至可以被视为伦理领域的概念立即被驳回?

冈克尔:让我先作个序言，然后马上回答你的问题。当我们从工具的角度思考技术时，我们想到的很多东西。也就是说，技术是我们使用的工具，在交流领域，它总是被视为一种人类行为或互动的媒介。我们现在正在通过电脑进行交流。在这种情况下，电脑调节了我们与Skype的互动。所以在我们的很多历史中，与技术打交道一直是与被视为中立的东西打交道。技术并不是道德的组成部分。真正重要的是如何使用它，是人类决定用它为善还是为恶，这取决于技术在各种情况下如何应用或不应用。

在这个新的世纪，21世纪，现在正在发生的事情是，机器越来越多地从人类之间的中介转移到作为一个互动主体的位置。因此，计算机和其他类型的机器，如计算机-机器人、具有人工智能(AI)的机器和算法，不再仅仅是我们行动的工具，而是成为与我们互动的“他者”。例如，如果你看一下有关网络流量的统计数据，就会发现现在网络上发生的大部分事情不是人与人之间的互动，而是机器对机器和机器对人的互动。因此，我们已经被一种机器入侵所排挤，机器正在越来越多地接管通常被认为是人类主体的交流交流和其他类型的社会互动。这导致最近很多哲学家将机器视为一个道德主体。也就是说，机器是否应该为它所做或未做的事情负责?如果机器拒绝你赊账，那是谁的错?是信贷机构和编写算法的人的错，还是算法本身的错?最近十多年来，关于信用机构的各种问题都浮出水面。

但你是对的;我主要关心的不是代理。我的意思是，我认为代理是一个非常重要的问题，我认为机器道德代理是处理我们当前社会环境中机制所占据的新位置的关键组成部分。但我想看看它的另一面，也就是我们所说的道德

326Appendix 10.15215/aupress/9781771991292.01

“耐心”，或者可以看作是配股。如果我们现在确实有机器，我们正在相当认真地考虑作为道德行为人，并询问它们是否对我们负有责任，这些问题的另一面是，这些机器是如何使它们成为道德行为人的?我们对这些机器有什么责任吗?在与我们的关系中，这些机器有相反的权利吗?所以你是完全正确的。我最近的工作和我自己的很多研究都是关于机器权利的问题。

话虽如此，你的第二个问题还是很切题的，因为直接的反应是：“你在说什么？”机器怎么会有权利呢？”我们通常认为权利属于有意识的或至少是有知觉的生物，而我们所知道的机器只是我们设计用来做某些事情的愚蠢设备。因此，权利问题立即与道德哲学的悠久传统发生冲突，道德哲学通常只将权利分配给人类，直到最近才开始认为非人类动物也拥有任何权利。我反驳这个观点的方式，或者说是回应这个评论的方式，就是把它和动物权利哲学中正在发生的事情联系起来。在动物权利中，我们开始打破我们传统中以人类为中心的人文主义伦理，并问道：“你知道，如果非人类动物也可以成为道德病人呢?”

如果你回头看看启蒙运动的奠基人，比如笛卡尔，他认为动物和机器是一样的。他认为在这个术语中，bête机器，动物机器，机器和动物表面上是一样的。如果我们开始开放对动物的思考，如果我们遵循启蒙运动的传统，那就有另一方面说我们可能应该开始思考机器的权利。所以我把它作为一个机器问题，因为我现在没有明确的答案来回答这个问题，但我确实认为这是一个我们必须认真对待的问题。在这个特殊的时刻，我们必须询问机器的权利，因为机器越来越多地成为社会互动的主体，我们比以往任何时候都更广泛地参与其中。

凯洛格:我很高兴你提出了动物权利的问题。我记得二十、二十五年前，当动物权利的问题被提出时，即使是在餐桌旁的随意谈话中，人们也会以不理解的方式回应，因为有这么长的传统，动物被视为工具，作为物品，作为我们用来做食物的东西，或者我们自己的东西人的需要。改变这一观点的一个问题是你可以在动物身上看到的情绪的可见性问题，尤其是在捕猎海豹的过程中。你可以看到一种情感上的识别，因为海豹幼崽有眼睛，我们可以看着它们的眼睛，似乎人与动物之间存在着情感上的联系。这种联系在人类和机器之间似乎更加困难。所以在一个层面上是平行的，但在我看来，这种平行可能会被打破一点。这和你的讨论有什么关系呢？

Appendix327

10.15215/aupress/9781771991292.01

冈克尔:这是个好问题。从外部看，似乎很难把这些点联系起来。但当你开始审视道德哲学的发展方式和逻辑的论证方式时，就以一种一致的方式遵循这种思考而言，它真的是无可辩驳的:除了机器的权利之外，你无法得到一个结果。我来解释一下其中的原因。道德哲学在传统上是一种历史发展，它不断地向先前被排除在外的事物开放自己。所以，举例来说，在西方思想的早期，被算作道德主体的只有像你这样的其他人。在雅典，被算作道德主体的应该是白人男性，被排除在外的应该是奴隶、野蛮人、妇女和儿童。只有家庭中的男性成员才被认为是道德共同体的一员，因此所有这些东西都被认为是属性。举个例子，当奥德修斯结束旅行回到家，他做的第一件事就是把他所有的女奴都吊死，他能这么做是因为她们是属性，她们不被认为是人类。随着时间的推移，我们所做的是，我们扩大了谁被认为是人类的焦点或范围。到启蒙运动时期，被认为是人的主要是任何年龄的欧洲白人男性，但被排除在外的是土著人、非洲人和女性。慢慢地发展到包括其他这些人，所以随着美国内战，非洲奴隶或以前的奴隶被纳入道德主体的社区。随着玛丽·沃斯通克拉夫特(MaryWollstonecraft)和其他女权主义者的出现，女性开始被视为道德考量的对象，然后到了20世纪，彼得·辛格(Peter Singer)和汤姆·里根(TomRegan)认为动物现在应该被纳入道德主体的群体。

现在在动物身上发生了一个重要的转变，你也提到了，我认为这是非常关键的。最初，当我们试图扩大道德主体的群体时，它总是关于一种能力——它是关于这些其他人是否有理性的力量，或者在希腊传统中，动物的力量

328Appendix 10.15215/aupress/9781771991292.01

Logon echon，即说话或使用语言的能力。在很长一段时间里，人们认为土著人没有理性，因此他们不被认为是人类社会的完全参与者，或者女性不像男性那样理性思考，因此可以被排除在道德社会之外。有了动物权利，我们就从一种能力变成了一种被动。德里达说，动物权利思想的重大转变是杰里米·边沁问的不是，它们能思考，能推理，能说话，而是它们能受苦吗?受苦并不是一个积极的组成部分;它是被动的—一被动受苦和被影响的能力。德里达说，这是20世纪道德思想的真正转变，因为它从拥有主动能力转变为被动感受痛苦或快乐的能力。所以，正如你所指出的，对一些人来说，这是一个非常困难的转变，因为这是我们关注道德思维方式的真正转变，从这种说话、语言和逻多斯的能力，到痛苦的被动性。

在21世纪的今天，当我们开始把机器作为一个道德病人来看待这个问题时，我们再次遇到人们把他们的手臂高举在空中说：“你在说什么?很明显，机器不会受苦。它们没有任何对它们重要的东西。 99你不可能伤害你的Pad。它没有任何情感。这似乎是一个非常好的论点，除了工程师在设计带有情感的机器这一事实。所以我们现在有一整个时期一一在过去的二十年里一一参与机器人、人工智能和其他边缘感知机制的工程师们正在设计具有情感能力的机器。拥有情感意味着它们可以与我们交谈，更有效地与我们互动，因为我们是有情感的生物。

例如，罗德·布鲁克斯(RodBrooks)设计的机器人害怕光，并能感受到光的痛苦。这是一种设计到机制中的情感反应，让机器寻找黑暗的角落，避开明亮的区域。还有一些人在研究机器，这些机器可以模拟人类的情感，其程度几乎与真实的人类痛苦无法区分。日本有一家机器人公司(森田)制造了一种能感知疼痛的机器人，旨在帮助培训牙科专业的学生。所以当牙科学生使用钻头的方式不正确时，机器人就会痛苦地喊出你在伤害它，大多数学生都说这是无法模拟的。这与他们认识到的疼痛非常接近，以至于他们给这个物体注入了疼痛感。所以我们在这里遇到的有两点非常重要，需要指出来。一个是“别人的想法”问题。我怎么知道一个能提供疼痛证据的物体，是不是

Appendix329

10.15215/aupress/9781771991292.01

一个动物，一个人，或者一台机器，真的处于疼痛之中吗?除了我自己，我感觉不到其他任何东西的痛苦，所以我所能做的就是解读外部信号，并假设这些信号来自某种内在的矫揉造作。至于我的狗是否在受苦，这并不是我能确切知道的。我只能根据它在被以某种方式触摸时的畏缩或嚎叫等方式做出一些有根据的猜测。所以我们在这里遇到的问题是，如果我们设计的机器能提供疼痛的证据，那么很难说这不是真正的疼痛，因为我可以对任何其他生物说同样的话。我也可以对老鼠说：“嗯，那不是真正的疼痛。”我最近刚在缅因州，有人告诉我，煮龙虾是可以的，因为它们真的感觉不到疼痛。我的问题是，真的吗?我们知道吗？

凯洛格:我们当过龙虾吗?

冈克尔:没错。我们怎么能确定，是的，确实，我们可以把龙虾活活煮熟因为它们没有任何感觉?所以从事动物研究的人说，是的，动物能感觉到疼痛，但它仍然会导致“其他思想”的问题。我们不知道任何看起来痛苦的东西是否真的痛苦。这是我们做出的一个统计推测，但我们必须将同样的决策扩展到机器上，这些机器被编程为在其外部伪装中表现出各种痛苦或快乐。

另一件事一—让我提一下，因为它真的很重要——丹·丹尼特曾经写过一篇非常好的文章，叫做《为什么你不能制造出一台能感受到痛苦的计算机》。他所做的就是花了大约二十多页的篇幅，试图通过一个思想实验，设计一个能感知疼痛的机器人，在文章的最后，他说，“你知道吗?我们真的不能设计一台能感知疼痛的电脑。”但他得出这样的结论，不是因为我们永远无法真正制造出一种能感受到疼痛的机制，而是因为我们不知道疼痛是什么，这个我们称之为疼痛的决定因素是如此主观，以至于我们甚至不知道设计一个能感受到疼痛的机器人会是什么样子。所以他说你不能设计一台能感知疼痛的电脑，不是因为我们有工程问题，而是因为我们有一个概念问题，我们有一个哲学问题。这个我们把一切都挂在上面的东西，疼痛，是一个如此模糊的概念，以至于很难确切地定义它是什么或者它是什么样子。

凯洛格:对，所以你非常认为你的研究符合关于权利的经典叙述，以及谁被视为道德主体的扩展——扩展

330Appendix 10.15215/aupress/9781771991292.01

从白人男性，到有色人种，到女性，再到动物。你给机器等无生命的物体提出了一个问题。那么，你刚才提出的关于人工智能的讨论给我提出了另一个问题。我们一定要把人工智能机器和其他没有人工智能的机器区分开来吗?或者你的意思是，当我们扩展人工智能的时候，我们会看到我们对这些新单位的责任会带来更多的伦理问题？

Gunkel:这是一个至关重要的问题，因为通常我们解决这些问题的方式是：“嗯，是的，当然，在某些时候，我们可能会有足够有知觉或有意识的机器，被认为拥有权利，这就是AI。”例如，在《2001太空漫游》中，哈尔显然是一个设计良好的AI。他是否有知觉，是否感到痛苦，这些都是电影叙事中非常深刻的问题，也是电影观众必须要努力解决的问题。好吧，我们关闭哈尔会伤害他吗?他说他的思想在消失。我能感觉到。好吧，我们可能会承认权利是一个至关重要的问题。但当我们看到割草机、汽车或手机时，显然没有足够的AI来考虑权利问题。这是一个非常好的论点，因为它在传统中是有吸引力的，因为我们通常是根据一些内在的能力来决定谁拥有谁没有权利:知觉、意识、感受痛苦的能力，不管是什么情况。所以这个论点是，当机器跨越了感知的障碍，那么我们就可以谈论权利了，但在那之前，它们只是工具，我们不需要为此做任何事情。正如我所说，从传统主义者的角度来看，这是一个非常可靠的哲学论点。

我想说的是，即使在我们拥有哈尔9000型AI之前，机器的权利也是一个问题，因为机器是社会互动的对象，在我们的世界里，它们对我们和我们在世界上的行动能力产生影响，而不管它们的智力如何。因此，我提倡一种以伊曼纽尔·列维纳斯(Emmanuellevinas)的哲学为基础的方法——列维纳斯式的方法——也就是说，甚至在我知道另一个人的认知能力之前，我就遇到了另一个人，他把我当作一个道德问题来对待。我该如何回应呢?列维纳斯说，在我们对他人的认知能力有所了解之前，我们必须做出道德选择。我们必须选择是作为伦理主体还是作为客体来应对这些挑战。我认为这就把问题推向了下游。换句话说，我们不必等到哈尔9000才开始回答这些问题。我们必须开始回答这些问题

Appendix

331

10.15215/aupress/9781771991292.01