比特与原子：信息时代的政治经济学

现在，当机器最聪明的时候，也许甚至是愚蠢的时候，但我们需要开始考虑机器的社会地位，因为伦理是关于我们在更广泛的社会能力中与他人的关系，而不是关于我内心决定如何处理我遇到的其他实体。所以马克·科克尔伯格提出了这样的观点，即决定伦理的是关系，而不是问题对象的能力。我认为他是对的。我认为这在很大程度上与我们如何与周围的事物联系起来有关;动物、环境、其他人和机器。

凯洛格:有意思。那么让我把它带到当代世界的一个机器上，这个机器周围存在着巨大的道德问题。我想到的机器是无人机。

现在，你可以提出伦理问题，保留无人机作为工具。以无人机在巴基斯坦或其他地方的使用为例。我可以说这是不道德的，违反了人权，或者违反了国际法，等等。但道德责任在于使用无人机的人，或者是决定使用无人机的人。这是让道德规范或评估我们在世界上的行为的一种方式。在我看来，你的意思是，我们和他人之间的关系构成了伦理问题，我们必须在了解他人的伦理能力之前，就伦理问题做出决定。从这个角度来看，你可能会说，我们对无人机有责任，要确保我们不会强迫它做出不道德的、违反国际法和人权的行为。是我理解错了吗，还是我们可以用两种不同的方式来处理道德和无人机的问题，你会怎么看？

刚克尔:正是因为你提到的原因，无人机很有趣。目前无人机的配置是，它真的是一种远程呈现的仪器，对吧?我们在美国西部有飞行员在巴基斯坦、索马里和其他地方驾驶这些装置，他们从事的是“远距离行动”，在这种行动中，应该由人类来决定何时扣动扳机，何时不扣动扳机。但这些无人机的自动化程度越来越高。我们发现它们可以飞行超过24小时，而由于疲劳，你不能让一个人类飞行员飞行那么长时间。越来越多的自主性功能被植入这些无人机。问题是，在某种程度上，我们是否会有这样的无人机

332附录

10.15215/aupress/9781771991292.01

要在没有人监督的情况下，还是在很少有人监督的情况下，做出关于目标获取和是否发射导弹的决定?如果你跟跟踪无人机发展的人聊一聊，他们会说，这显然是制造自主作战无人机的下一步，它需要很少的人类监督，比我们目前的监督少得多。但这是一个代理机构的问题，对吧?我的意思是，在这种情况下谁是代理人?从耐心与权利的关系来看，“无人机有权利吗？”似乎是一个非常奇怪的问题。而在这一点上，我们会说，“不，无人机没有任何权利，它是一种工具。”也许如果它有了自我意识，我们就得谈权利了，这样我们就可以把问题推到后面去，在接下来的五十年左右的时间里不用担心这个问题。对此，我的回答是否定的，我们已经认定无人机拥有权利。我们只是不按照国际会议或哲学家联盟的方式来做。我们通过工程实践和战场实践来做。在这种情况下，行动比语言更响亮，我们实际上是在决定无人机的权利，不管我们是否知道。

让我来解释一下这是如何发生的。正如我们所知，无人机不是最精确的武器。它们可以让美国士兵不受战场伤亡的影响，但不可避免地会有令人难以置信的大量人类附带伤害，当无人机击中错误的目标或瞄准错误的汽车时，平民就会死亡，这是令人愤慨的。但真正让人抓狂的是。如果人权真的比机器权利更重要，我们就会停止使用这些东西。但我们仍在使用它们的事实意味着，我们已经把天平向无人机的方向倾斜了。我们已经决定，在无人机的导弹袭击结束后，无人机物体比其他人类更有价值。所以即使我们还没有召集道德哲学家来决定这个问题，工程界和军队的实践已经使它成为现实，所以实际上我们已经扩展了无人机持续存在权利的某种价值，这类似于一种权利，这是一种凌驾于作为附带损害的人的生命权的权利。

凯洛格:所以你是说权利问题已经存在了，只是没有得到承认？

冈克尔:是的，我认为这是最大的问题。权利已经决定了。这是在实验室里决定的。它是由装配工厂决定的。

Appendix333

10.15215/aupress/9781771991292.01

这是由战场决定的。是在行动中决定的。我们对这些决定的思考落后于必须执行这些决定以完成任务的实际必要性。

凯洛格:如果我们说我们对无人机负有责任，就像我们对另一个人，或者一个孩子，或者在现代话语中对一个非人类的动物负有责任一样，那么设计算法赋予无人机无限的杀害平民的权利，就违反了这种责任。然后，这将构建我们的决策。换句话说，如果与无人机相关的权利和伦理是与我们有关系的“他者”，那么这就会对我们构建控制无人机行为的算法的方式产生影响—一或者这只是我的传统主义方式，试图解决问题?

冈克尔:不，我认为你正在着手解决这个问题。我认为部分问题在于，我们已经在做出有关机器权利的决定，而没有意识到我们已经做出了这些决定，没有意识到我们做出这些日常的、看似平凡的决定的后果。“决定”这个词真的很重要，因为它意味着削减，对吧?决定。而一个决定总是一个“切”的例子，它说:这是在这一边，那是在那一边：这些是重要的事情;这些是不算数的东西。无论我们是工程师，还是战场指挥官或其他什么人，我们都必须不断地做这些事情，而不知道我们正在设计道德的未来。但我们确实是这样。我认为学者和哲学家的真正任务是把需要进行的关于这些事情的讨论带到表面上来，这样我们就不会盲目地做这些事情，这样我们就不会让这些决定创造一个我们不知道我们是如何到达的未来，或者我们不知道发生了什么。我经常对我的学生说，这里有很多好的批判性工作要做，因为我们必须开始走到这个问题的前面。我们不能再落后了，我们必须与工程师、军事指挥官以及其他所有与机器人、人工智能和算法相关的人站在一起，并开始问，这将为我们创造什么样的世界?这项工程对我们的未来有什么社会义务?什么样的伦理和道德困境正在发生，因为某些已经做出的决定，不管我们是否知道？

凯洛格:而且经常与科学和工程联系在一起的工具化确实造成了一种情况，你可以暂停

334Appendix 10.15215/aupress/9781771991292.01

伦理是建立在将机器视为没有知觉的存在的基础上的。我们现在有很长的历史，科学和工程的创造继续在世界上做绝对骇人听闻的事情。

冈克尔:没错。

凯洛格:你的论点正在以一种极其有力的方式把道德问题带回来。这不仅仅是一个问题，我作为一个人，用乐器的这个行为在未来会有什么影响。这是一个关于你正在与之互动的机器以及我们对它负有什么道德责任的问题。这构成了我们现在如何进行，而不是十年后机器建成并投入使用的时候。它的结构贯穿于整个过程。

冈克尔:正确，这意味着这不是一个将道德问题推迟到使用它的时候的问题。这意味着道德问题在我们开始设计系统的那一刻就开始了。

凯洛格:而且这个问题贯穿于整个过程。这是一种关系。

我教社会运动，每当我谈到权利问题时，对我来说，它总是与人类试图打破旧范式、打破旧压迫的大规模社会运动密切相关。因此，托马斯·潘恩在美国独立战争的背景下写作并不是巧合。或者，第一个表明非洲人是人类的欧洲立法机构是在法国，当时海地代表团在杜桑·卢维杜尔(ToussaintL’ouverture)周围的大动荡背景下抵达法国。《世界权利》是在第二次世界大战结束、第一次世界大战和第二次世界大战之间大规模非殖民化运动的背景下诞生的。这种对社会运动的叙述与你所参与的讨论，在机器拥有权利或与机器人、人工智能和机器相关的伦理问题方面，是否有相似之处？

甘克尔:我想是有的。我认为社会运动，如果我们要对它进行识别的话，应该是后人文主义的运动，即自19世纪以来，从尼采开始，一直延续到海德格尔，通过人文主义的偏见来思考的努力。换句话说，就像我们之前说过的，“人”一直是一个移动的目标。它一直是一种排斥他人的方式，不管他们是谁

Appendix

335

10.15215/aupress/9781771991292.01

非洲人，无论他们是原住民，还是女性，还是动物，人类的概念在某种程度上是一个掌权的群体剥夺其他群体权力的一种方式。比如，想想纳粹是如何通过将犹太人定义为非人类而灭绝了600万犹太人的。在某种程度上，人类的概念已经成为一种令人难以置信的破坏性工具，用于排斥他人。海德格尔在写《论人文主义的信》时就知道这一点，他说，我不把我的哲学与人文主义统一起来，因为人文主义有一大堆问题。

因此，在20世纪末和21世纪初出现了这种发展，现在被称为后人文主义，由唐娜·哈拉威，凯瑟琳·海尔斯和卡里·沃尔夫等人具身出来，他们都试图跳出人类中心主义特权和人类例外论的限制进行思考。动物权利哲学就是其中的一部分。环境哲学是其中的一部分，我认为机器问题也是其中不可或缺的一部分。它是关于试图消解那种以人类为中心的宇宙观，这种宇宙观正在被我们可以说是哥白尼式的革命所打破，对吧?我们思考的是实体和它们在世界上的位置。

凯洛格:我认为生态学运动中有一些人会对您刚才所说的许多事情表示赞同，他们的思考超越了以人为中心的世界。就机器的权利而言，就地球的权利而言，目前出现了一种平行的话语。2010年在玻利维亚科恰班巴举行的大会上，宣言的一部分是《地球母亲权利宣言》。换句话说，我们不能只把地球当作一种工具或一个促进人类发展的物体;它也有权利。你同意这和你所从事的工作是平行的吗？

冈克尔:是的。我可以从两个方面说，因为我最初的哲学形成是在我与一个名叫吉姆·切尼的人的相遇中形成的，他是环境伦理学的主要思想家之一。通过他的工作，通过托马斯·伯奇和其他人的工作，在那种后现代的环境伦理传统中，我在职业生涯的早期就接触到了很多这种思想。事实上，我在自己的作品中大量使用了这些环境哲学立场，因为我认为我们在其中找到了一种不再与人类中心主义或生物中心主义联系在一起的他者思维。我的意思是有一种方式，在这种方式中，权利的扩展超越了一种非常有限的，受限制的方式

336附录

10.15215/aupress/9781771991292.01

把对方看作只是另一个有机体。现在是土壤，是水，是地球本身变成了需要某种回应和照顾的物体。

凯洛格:很有意思。我自己也知道，谈到地球母亲的权利，你提出的关于机器权利的讨论，与生态学的相遇，迫使我试着“换一种方式思考”，因为它与我们在现代教育体系中遇到的大量培训背道而驰。在某种程度上，正如我所理解的，这种挑战是关于“我们”的社会建构。谁或什么包含在“我们”中，谁是或什么被排除在外?在机器问题上，你觉得我们应该把包容圈投得多广?有没有一种方法论，可以帮助我们在试图另辟蹊径的时候，决定如何画出这个包容圈？

冈克尔:关于“否则”这个词，我只想说，它实际上是想同时唤起两件事。“否则思考”意味着以不同的方式思考，跳出框框思考，跳出我们成长过程中所遵循的那种既定思维方式，也就是传统体系，如果你愿意这么称呼它的话。但“不一样的思考”也指向了列维纳斯的方向，以及暴露于他者的问题，这使思考成为可能，思考应该对什么做出回应。所以我想让“他者”和“他者性”在这种双重意义上被听到一一它不仅是不同的，而且也是对他者暴露的回应。

至于包容的圈子，以及这个圈子应该画得多广，我想说，我的努力不一定是按照那些规则来玩。换句话说，伦理学的特点总是画一个圈，包容一些人，排斥另一些人，所以德里达在《纸机》中说，大问题是谁和什么之间的区别。谁在里面，什么在外面?而随着这个圈被画得越来越大，越来越多的东西变成了谁，越来越少的东西变成了什么。卢西亚诺·弗洛里迪(LucianoFloridi)最近把自己定位在一种叫做信息伦理学的东西上，他认为这是迄今为止发展起来的最普遍、最不排外的伦理理论，在这个理论中，存在的一切都在圈内，唯一在圈外的就是什么都没有。

但请注意，所有这些姿态都不可避免地要在包容与排斥、内部人士与外部人士之间做出决定。所以，在我的脑海中，以其他方式思考就是在努力解决这个辩证法，并说，你知道吗，必须有一种方法来跳出这个框框思考。换句话说，我一直在努力说，不是更大的包容，而是质疑那些反对包容的姿态

Appendix337

10.15215/aupress/9781771991292.01

首先是排斥。这是一个非常列维纳斯式的观点因为列维纳斯并没有试图创造一种更包容的伦理学而是试图创造或设计一种不同的思考伦理学的方式它不依赖于包容和排斥，它超越了那种二元对立。

如果有一种方法可以做到这一点，我会说这是德里达的解构，因为解构是我们可以反对或干预二元对立的方式，二元对立已经让我们按照特定的方式行事。如果我们的伦理规划是以这样一种方式设计的，即我们认为事物是包容和排斥的，那么我们就需要解构包容/排斥的概念对立，以发展出不再符合该分类的替代方案，不再落入一个与另一个的对立之中。

我认为列维纳斯伦理学为我们提供了一个很好的模式，因为，在列维纳斯的意义上，任何事情都可以表面上看。任何东西都可以成为另一个人的脸，但没有预先决定什么是，什么是不包括在内的。事实上，它是一个移动的目标。列维纳斯说，很好;不需要完全决定。在不同的时间，有些事情会有面子，有些事情可能没有，但重要的不是事情是否有面子，重要的是当这种情况发生时，我们如何应对摆在我们面前的证据。所以这是一种非常不一样的伦理。

我会说，如果我对任何指控都持开放态度，那就是对相对主义的指控。但我认为相对主义是一件非常好的事情。我认为相对主义允许我们以一种非常灵活的方式来做伦理学，它不像康德那样锁定他的伦理学，一切都是提前规定的，不能对新的、独特的、新奇的可能性爆发做出反应。所以我认为我们需要把相对主义看作是一个非常积极的东西，它说，你知道吗，我们不仅要为道德行为负责，还要为设计道德负责，为决定什么是道德负责，并在我们遇到的非常具体的情况下一次又一次地这样做，而不是依靠简单的虔诚，简单的公式或道德规范，从长远来看，不可避免地会让我们失败。

凯洛格:太棒了。我认为这是一个很好的结束语，它是一个很好的结束讨论的方式，它提出了更多的问题。尤其是你对相对主义的讨论，让我想到了一条全新的探究之路，我认为这将我们带入了一个新的领域。

刚克尔:让我说一件可能有帮助的事。你知道，相对主义在人文科学中被认为是一件坏事，但在硬科学，物理学中

338Appendix 10.15215/aupress/9781771991292.01

特别是，相对主义其实是一件非常好的事情。对于爱因斯坦物理学来说，相对主义说的是，没有一个固定点可以用来观察世界，对一切事物做出决定。一切都在运动，我认为道德宇宙在这个意义上也是相对的，一切都在运动，一切都是由权力的位置决定的，从特权的位置决定的，从某个主体在某个时间占据的位置决定的，这个位置充满了某种主观性。我们必须把这看作不是一件消极的事情;我们必须开始把它看作是一个积极的机会。

凯洛格:我对大卫刚克尔的采访到此结束。这真是太棒了，我真的玩得很开心。非常感谢，大卫。

推荐信

Appendix339

10.15215/aupress/9781771991292.01

340Appendix 10.15215/aupress/9781771991292.01

贡献者

伊恩·安格斯是西蒙弗雷泽大学的人文学科教授，著有九本书，包括《交流的原始场景》(纽约州立大学，2000年)、《(扭曲)形象:话语/批判/伦理》(Verso,2000年)和《未被发现的国家:加拿大知识文化的散文》(阿萨巴斯卡大学出版社，2013年)。

Maria Bakardjieva，卡尔加里大学传播与文化系教授。她是《互联网社会:日常生活中的互联网》(Sage,2005)一书的作者。

DarylCampbell是阿萨巴斯卡大学计算服务部网络部门的高级系统管理员。他曾在巴迪欧研究国际杂志和怀特:Gegenwartkunst上发表文章。

SharoneDaniel是阿萨巴斯卡大学综合研究硕士课程的学生。她的研究由社会科学和人文研究理事会、加拿大研究奖学金资助，主要研究社交媒体和政治行动。

安德鲁·芬伯格(AndrewFeenberg)是西蒙弗雷泽大学传播学院技术哲学加拿大研究主席，同时也是应用通信与技术实验室主任。他是六本书的作者，包括改造技术:重新审视的批判理论(OUP,2002)和理性与经验之间:技术与现代性的散文(MIT，2010)。

RaphaelFoshay是阿萨巴斯卡大学跨学科研究中心的副教授。他教授文学、文化和跨学科理论，最近编辑了一本关于跨学科的论文集，《跨学科的价值:理论、实践、教育学》(阿萨巴斯卡大学出版社，2012)。

341