过度智能

第二章控制狂

同时是物质性的和意识形态的……从舒适的旧等级统治向可怕的新网络的转变，我称之为“统治的信息学”。

——唐娜·哈拉维（Donna Haraway），《赛博格宣言》，1985年

就在不久之前，我居住的公寓大楼决定要在每个入口处安装机械门和电子门禁，以提高公寓的安全性。打开这些门需要使用一个里面装有芯片的塑料小方块门卡，它的工作原理类似于一个门卡（将门卡按压在门前的接收器上来开门）和车库门开启器（通过点击按钮开门）。新改装的电子门禁系统似乎毫无必要。我居住的公寓位于镇上治安良好的区域，紧挨着我任教的大学。如果有人想进来闲逛，想在阳光明媚的院子里坐一小会儿，或者顺道来拜访一个朋友，那就让他们进来吧。很多时候，我都觉得大门改装除了带来小小的不便之外也没什么：我在进家门之前多了刷卡这个步骤，我还不得不往钥匙扣上多挂一样东西。

但是我错了！新系统安装完毕以后，公寓并没有确保这些安全门能一直正常工作。因此，几个星期以来，我的门卡只能在部分时间打开门，而我常常被锁在自家门外，困在人行道上，只能等到有人从里面把门打开我才能跟着进去。又或者，如果我足够胆大，也可以尝试翻爬水泥墙和金属门，这意味着我可能会受伤，或因非法闯入而被人拦下。由于门禁系统并不会影响公寓的管理人员，因此他们解决问题的速度非常慢。无奈之下，人们开始想办法卡住门不让它完全锁住。大门很重，而且是弹簧自动复位的，要卡住它可是件很费劲的事。而即使人们拿东西卡住了门，公寓雇员也会按指示去移开这些东西。

安全门禁系统很突兀，或者被它保护的人们并不想得到这些保护，这都无关紧要。但系统完整性必须得以维护，它的命令必须得到遵守。把所有人都锁在外面也比让可疑的坏人进来要强。哪怕是实施全面封锁也比局面失控要好。

在这段时间里，我和其他公寓住户被迫经历了哲学家吉尔·德勒兹（Gilles Deleuze）在《控制社会后记》中所描述的令人沮丧的情形，而这篇富有先见之明的文章早在1992年就发表了：

想象在一个城市里，有了可设置特定边界的（分体）电子卡，人们可以轻易离开自己的公寓、街道和邻居；但在某一天或特定时段内，这张卡也许很容易失效；重要的并不是边界设定，而是计算机在以合法或非法方式跟踪每个人的位置并实施普遍的调节控制。

德勒兹最初写下上面这些文字时，听起来就像是赛博朋克科幻小说。而当我不得不面对一扇喜怒无常的门时，它确实不再是小说。

与控制产生的其他可能后果相比较，门禁故障只是相对有点烦人而已，但它说明了对于控制要务的追求正在入侵我们的日常生活，社会到处都是控制准入和强制排除的检查站。我对公寓安全门禁系统的体验并不仅仅是一个怪异的巧合——没被锁在门外时，我一直在写这本书——因为这些技术状况已经成为世界的常态了。尽管德勒兹的控制理论是在约30年前提出的，但它依然是理解智能技术运行及其影响的最佳方式之一。

一、权力形态

在展开阐释德勒兹的控制理论之前，让我们首先回顾一下人类社会的权力发展简史来作为基础。在我展开探讨智能技术和数字资本主义机制的影响时，将这些不同形态的权力牢记在心是很有帮助的。毕竟，技术政治研究的就是技术的权力以及权力的技术。

当大多数人想到权力时，他们可能会想到武力。在这种形态中，权力是一种以惩罚相威胁而让人们听命的能力，无论是要求他们服从命令，遵守规则，还是改变他们的行为。这种权力之所以也被称为“王权”，是因为它是君主和领主对自己的臣民行使权力的方式。 但是今天我们却只会将它看作是恐吓和武力。这是由权威和攻击支撑起来的权力。警察和父母都掌握着这种权力。照他们说的做，否则你就会有麻烦。在某些情况下，这意味着被禁足或被监禁。而在另外一些情况下，这意味着被打屁股或遭到枪击。在人类历史大部分时间里，这是社会行使权力的主要方式。毫无疑问，现在对于许多人来说，这些仍然是生活中共同的悲惨状况，但权力同时也以更加间接、更加分散，但仍然有影响力和暴力性的形式存在。

第二种权力形态是社会理论家米歇尔·福柯（Michel Foucault）所说的生命权力，我们可以用一个更简单的词来代替它：规训。 权力通过向人们灌输特定的思维方式和行为方式来发挥作用。人们将这些信条、习惯和规范内化。人们被学校、工作场所和监狱等机构塑造成特定类型的人（或者“主体”）。在这种形态下，权力是决定何为好、何为正常的力量，权力决定了如何规训人，并建立起与之对应的规训制度与方法。福柯写道：“象征王权的死亡所发挥的传统力量现在被对身体和生活的精心管理与规划所取代了。”

王权通过发号施令，威胁使用武力和实施惩罚得以行使。而规训则是通过倡导特定的生活方式，抵制“不正常”的生活方式，观察人们以确保他们行为得体来实施的。我们作为表现良好的被规训主体，头脑中总有一个声音告诉自己要按规则行事。我们监督自己和周围的人们，确保自己和他人都符合社会规范。如果有人越界了，我们会说他们闲话，把他们排挤在社会生活之外。如果行为严重的话，我们就采取老办法，把他们赶出社会，关进监狱或精神病院。

第三种权力形态是控制。控制不是用暴力威胁人们，或用规训塑造人们，控制通过设定参数和建立检查站来规范行为并发挥作用。在这些参数范围内，人们可以自由行动，只要他们同意随时被追踪即可。换个表达方式，规训厌恶人们太有个性。人们要向好学生、好员工、好公民等榜样去看齐，而不允许有任何偏差和异常。然而，正如监控研究学者帕特里克·奥伯恩（Patrick O'Byrne）和戴夫·霍姆斯（Dave Holmes）从性别和性的角度所阐释的，控制是基于不同的规则运作的：

德勒兹所描绘的控制社会允许无穷无尽的个性表达：男子汉、男同性恋、都市美型男、涂着口红的女同性恋、穿蓝色牛仔的女同性恋、女同性恋中的男性角色……然而，另一方面，每个人又必须让自己在任何时候都处于开放和暴露的状态。举个例子，你可以成为同性恋者，但你的性行为也会完全暴露于性病和艾滋病管理人员面前。在全新的社会体系中，每个人的一举一动都必须被了解、被跟踪、被分析。

规训权力的象征就是全景监狱：在这种体系中，人们知道自己有可能随时随地都处于监视当中，但却永远无法确定自己究竟是否在被监视以及何时被监视，所以只能时刻迫使自己循规蹈矩。规训发挥着与偏执、内疚和羞耻同等的作用。

然而，控制权力的象征是计算机网络，它无形、持续、从不间断地记录着每一个动作，并拒绝任何与其代码不符的动作。控制系统并不仅仅基于监视的威胁。如果你与系统既定参数相冲突，它会一直监控、评判并限制你的自由。与全景监狱所不同的是，人们是否知道有这个系统并不重要。但事实上，从控制系统的角度来看，人们感觉不到它的运转或许更好。

接着让我们一起来试想如何阻止孩子们提前打开圣诞节礼物吧，这个家常的例子可以说明不同形态的权力是如何发挥作用的。

首先，在权威权力模式下，父母们可以先把礼物藏起来，然后告诉孩子们如果他们去翻找礼物会惹上麻烦。如果孩子们不愿服从，就会受到某种惩罚。而家长越是专制，他们给出的命令和惩罚措施就会越严厉。

第二，在规训权力模式下，父母将礼物放在圣诞树下看得见的地方。但由于父母不能总是看着礼物，所以他们会向孩子们灌输良好的行为举止规范，让孩子们相信架子上有个小精灵一直在看管礼物。父母告诉孩子们，小精灵一直在观察他们的行为并向圣诞老人报告。如果他们表现不好，那么圣诞老人会把他们放进调皮鬼名单里，还会带走他们的圣诞礼物。在不断监视的威胁下，孩子们只好监督自己的行为，表现得像个“好孩子”一样。

第三，在控制权力模式下，父母可以把礼物放在一个安装了摄像头、传感器、传动器和与Wi-Fi联网的智能盒子里。一旦这个盒子被激活，就会录下谁捡起了它、摇晃它等画面。任何试图打开盒子的行为都被认定为是在搞破坏，然后盒子会将警报和现场视频自动发送到父母的智能手机上，而孩子们获得礼物的唯一方法是在应用程序中输入打开盒子的正确密码。

二、控制的三个部分

在现实中，这三种权力形态并非截然分开，而是融合共存的。控制权力是与本书主题最为相关的，因此我们会在下文深入探讨控制是如何实施的，但我们也会在后文看到很多通过智能技术实施权威权力和规训权力的案例。尽管早在智能技术出现之前，德勒兹的理论体系就已经成形了，但他的理论对于我们理解这些智能系统如何运转并影响生活依然具有启发性。德勒兹认为，控制系统有三个关键组成部分：根茎、分体和密码。

• 根茎

智能技术并不会让人绞尽脑汁。像亚马逊智能语音助手“亚历克莎”（Amazon Alexa）这样的常见应用背后其实有着极其复杂的系统，其中包含数据流、云服务器、算法分析、通信协议、用户界面、人力、稀土金属以及许多其他组件和层。 这些系统是数字的、虚拟的、信息化的系统，但同时也是材料、机械、生物和空间的系统。它们被嵌入手持设备中，但同时也弥散在庞大的网络中。我们很难勾画出这些系统的边界，也看不到它们相互联系的全部方式。我们与之互动的许多系统常常隐藏在人们的视野和意识之外。

我们在进行交互时会体验到其中的一些部分，比如在商店使用借记卡时，我们所体验到的支付界面只是整个支付系统的冰山一角。这种隐形性是设计使然。普适计算的先驱马克·维瑟（Mark Weiser）有句名言：“最深刻的技术是那些已经消失的技术。它们将自己融入日常生活的结构中，直到无法与之区分开来。” 换句话说，它们成了当代生活的基础设施。我们依赖它们，我们对它们司空见惯。我们往往不会注意到它们的存在，除非它们突然崩溃或拒绝了我们的访问。如果我们想要积极地参与到智能技术的交互中去，那么就需要换种方式来思考它们作为系统的存在和运转。

德勒兹和他的合作者菲利克斯·加塔利（Félix Guattari）创造了“根茎”这一有趣的术语，将其用于这些隐藏的、泛在的系统并进行概念化。 他们借用了植物学的观点，植物学将根茎视为一种植物的形态：地下遍布着盘根错节的根系，它们从各个节点生发出根和芽，四处蔓延，钻出地面。表面上看，不同的枝条似乎是分离的，就像森林中的一棵棵树。但实际上，它们都是通过一个看不见的地下网络和界面连接在一起的。表面上看，这是多个独立个体，但实际上却是一个相互缠绕的整体系统。

植物根茎最让人震惊的例子来自一种学名叫作“颤杨”的植物（颤杨又名“潘多”即“Pando”，对应英语语义“I spread”，即“我延伸”），人们也称其为“颤抖的巨人”。犹他州这片巨大的颤杨林异常壮观，它看起来就像一片常见的森林，但实际上却是一个单一的生命体。据美国知名网络杂志Slate介绍，这片颤杨林中“每一棵树或每一个根茎的基因都是完全相同的，整个森林是由一个单一根系连接起来的”。颤杨是世界上重量最大的生物，它的根茎超过4万个 。它也是世界上最古老的生物之一，目前已经8万多岁了。而颤杨之所以变得如此庞大，能存活如此之久，是因为它可以不断地自我复制和自我再生。

同样，我们看到，技术的根茎也在通过不断将所有东西连接到集成的、可扩展的智能系统中而迅猛生长。这种趋势也被称为物联网或万物互联。哈拉维1985年发表的《赛博格宣言》就预见了这样一个能包容世界的系统：“没有物体、空间或身体本身是神圣的；如果构建出能以统一语言处理信号的标准与代码，任何组件都可以与其他组件连接起来。” 今天，我们看到了实现这一愿景的各种尝试。在这个过程当中，竞争企业联盟为了万物互联、数据互通的技术协议和标准打得不可开交，而胜出者将获得塑造和主宰全球技术根茎的权力。

智能系统的根茎不断悄然生长，变得日益庞大、四处蔓延，同时复制着它们所代表的利益和要务。想要把庞大的根系连根拔起是非常困难的。你也许能够拔出一部分根须，但是更多根茎会从根系其他地方再长出来。根茎网络并没有明显的边界，也没有起点或终点。相反，它们延伸向四面八方。它们的行为也许是微妙的或赤裸裸的，也许是连续的或间断性的。根茎的性质意味着它们产生的影响是分散的和不平等的：对于一些人而言，系统会引导和强化他们的权力；对于另外一些人而言，系统会监视和控制他们的生活。

• 分体

新的监测方法可以不间断地收集数据，但它们都是以高度专门化的方式来实现的。举个例子来说，没有传感器是被设计用来采集和记录周遭一切数据的。实际上，每类传感器都是用来监控特定对象的：环境的温度、门被打开的次数、视觉区域中的面部物体或其他特定的事物。当以人们的属性和行为作为数据采集的目标时，智能技术就会被赋予提取特定要素并将其从周围环境中剥离出来的能力。这样一来，我们就变成了德勒兹所阐释的“分体”式的存在：能够被分割成任何数量的、分离的、可被监控的、可被审查的碎片式个体。

分体化的过程就好比我们自身——我们的身体、行为、身份、特征等被棱镜折射了一般。就像一束白光被分解成彩虹光谱，整体中的每一个部分都被分别展现出来。随着智能技术演变得日益先进与普及化，我们也将被分解成越来越多的数据流。透过以积累、分析和获取可执行的见解等为目的的棱镜，我们被分解了。

智能技术增强了一种能力，即通过一项属性、行动或类别来代表整个个体的能力。因而这就成了最重要的事。生物识别锁只和你的指纹有关，GPS只跟踪你的地理空间坐标，健康腕带只记录你的生命体征数据。现在，我们可能有一千个身份，每个身份由一千台设备收集的一千个数据点来表示。正如社会学家凯文·哈格蒂（KevinHaggerty）和理查德·埃里克森（Richard Ericson）所说的那样，“通过从环境设定中抽象出来的方式，人类身体被分解了，然后在不同情境设定下再将一系列数据流重新组装起来。结果产生了一个‘非肉身化’的身体，一个纯粹虚拟的‘数据化身’。” 分体化自我存在于数据库的虚拟空间中，如何提取和应用这些数据化身带来的影响就变得极端物质性了。正如我在下一章将要分析的，数据化的抽象本身就是一种暴力形态。

人们生活在智能社会里，这意味着我们总是在被分割，被进一步分体化。随着捕捉不同类型数据能力的不断提高，分析单元变得更小、更精确。管理分体比管理个体要容易得多，分体更适合被放入数据库和处理器中，系统由此才能切入正题，聚焦于它真正关心的对象——并非人，而是对来自人的数据的收集与流通。

• 密码

当与各种控制系统进行交互时，我们会遇到很多检查站。它们决定着访问与限制、自由与约束。每个检查站都需要用德勒兹所说的“密码”才能通过。这些密码是分体化的产物，通过对分体的验证来准予整体的自由移动。它们就像钥匙一样，但并非对应特定门锁的实物钥匙。除解锁手机或登录电脑所需要的密码之外，其他常见密码还包括打开电子门所需的钥匙卡、购物所用的个人身份识别码或保障不被驱逐出境的个人签证等。