过度智能

为了助力创建全新社会所必需的、积极的纲领性工作，我提出一个基于三种集体行动的框架，目的是对抗和改变数字资本主义。这个框架有很大的发展空间和演进空间，也可以纳入其他多样性的策略。

在第一种集体行动部分，我建议首先从日常抵制开始，接着我将论证如何废止某些技术系统。在第二种集体行动部分，我将从技术政治民主化的需求分析切入，提出一种控制创新的模式。在第三种集体行动部分，我将从防止数据滥用入手，进而提议将数据视为公共资产运营，并以此实现公共利益。

二、解构资本

在21世纪杂货店里，被称为“拣货员”的员工“行走在超市过道上，一次为八个不同的订单分拣商品，并将它们放在购物车指定的盒子里，这是网上订单交付流程中的一个步骤”，据亚当·巴尔（AdamBarr）介绍，他曾在英国大型连锁超市塞恩斯伯里（Sainsbury's）担任拣货员。与前文所提到的亚马逊仓库工人一样，拣货员也配备了手持电子设备和唯一的登录号码。这些设备每分每秒都在指导拣货员完成一个又一个分拣任务。“每名拣货员的生产效率都会被跟踪，并在每周评估中被标记出来。”巴尔解释道。当拣货员无法达到严苛的绩效目标时——这经常发生，毕竟员工并不是机器人——每周评估就会变成“仪式性羞辱”。

工作场所通常缺乏自主权和隐私，这几乎与大多数人生活中的其他社会关系都不同——先不谈那些监狱关押罪犯或上小学的孩子。然而，即使在这种剥削性生态系统当中，工人仍然通过“微抵抗”的形式回击，试图找回一些自主权。巴尔描述了拣货员的几种做法，目的是减弱算法老板的控制，好让“他们的工作更容易忍受一点”。比如，拣货员午休时间也会保持手机登录状态，这样会让“每周平均分拣率暴跌”，从而使算法设定较低的任务目标。或者，拣货员会让手持设备“在轮班结束时稍微少充点电，因此电量就会在下个班次几个小时内耗尽”，这样拣货员就可以在下个班次经理寻找替换设备时获得五到十分钟的休息时间。 在这种情况下，他们会因“人为错误”而受到训斥，但也好过完全屈服于算法监督的枷锁。

这些“微抵抗”的做法看似微不足道，但每一种做法单独看会对员工士气产生重要的影响，整体上看，也会动摇新技术的价值主张。如果员工成天“精打细算”糊弄系统，没有屈从于利润最大化而卖命工作，那么雇主的智能化投资可能就不值得了。

“微抵抗”凸显了资本主义从工业革命向智能社会演进的核心动力：寻找从工人身上榨取更多价值的方法，一直都是创新的强大动机。与此相对应的，工人也总会想方设法减缓工作节奏，讨回一些自己所创造的价值，发挥一些自己的主体作用。世界工业工人协会的劳工领袖、美国公民自由联盟的创始成员伊丽莎白·格利·弗林（Elizabeth Gurley Flynn）1917年出版了一本书，名为《蓄意破坏：工人有意识收回工业效率》。弗林在书中写道：“蓄意破坏意味着工人要么通过怠工来减少资本主义生产的数量，要么拙劣地运用劳动技能来降低资本主义生产的质量，提供糟糕的服务。” 这完美地描述了一个世纪后，像巴尔这样的工人是如何想方设法去扰乱智能设备管理者的效率苛政的。

往本应无摩擦运转的剥削性系统中添把沙子是一种不错的做法。但我认为抵制数字资本主义机器必须要认真借鉴战术性破坏的传统。我们可以从工业资本主义的蓄意破坏者身上汲取教训，那就是卢德派。

现如今，“卢德派”这个词只被用于侮辱性表达，是抹黑人们反技术、反进步和落后的一种方式。在硅谷技术传道者和支持者的眼中，任何对技术持怀疑或批评态度的人都会立即被视为卢德分子，并因此受到公然排挤。然而，这种对“卢德派”一词的现代用法实际上歪曲了卢德主义的真实历史，也并未给真正的卢德派以公正的评价。

最初的卢德派是指19世纪英国的一批工人，他们在黑暗的掩护下捣毁了工厂中的机器（特别是用于制造纺织品的设备）。 当前对于“卢德派”一词的使用在这个层面上是正确的，但也仅限于此。卢德派的动机不是出于对进步的原始恐惧或担心技术进步带来的竞争。他们并没有不分青红皂白地挥舞着大锤，而是特意选择了要去捣毁哪些机器。“卢德派专门捣毁了特定制造商所拥有的设备，这些制造商要么工资发放低于当时标准，要么用货品来冲抵工资。”罗伯特·伯恩（Robert Byrne）在他对卢德主义的历史研究中指出，“即使是放在同一个房间里的不同机器，卢德派也是按工厂主的经商做法来区分处理的，有的被砸毁，有的则幸免于难。”

卢德主义的产生源自工厂主使用机器来大幅提高生产率，不断加快工作节奏，并从工人那里榨取更多价值。这听起来很熟悉吧？“卢德主义不是要针对机器发动战争。”伯恩写道。 这是一场工人阶级运动，它揭示了对抗工业资本主义技术政治的重要性。

通过捣毁机器，卢德派向迫使他们生活更加悲惨的技术，以及管理和统治他们的工程师和工厂主发起了进攻。机器是资本主义剥削和榨取剩余价值的“物质基础”。因此，正如马克思所言，捣毁资本机器也是对“利用这些工具的社会形态”的一种尝试性挑战。 拥有工厂和设备的老板自然憎恨卢德派，就像他们现在仍然鄙视任何劳工运动一样。这些劳工运动挑战了他们的权威，提出了改善工作条件的要求。资本一直依靠武力来奴役劳工和追求利润，同时也利用法院和舆论的力量来剥夺劳工潜在反击的可能性。因此，工厂主把卢德派投入监狱，诽谤他们，同时将自己塑造成遭受了无知暴徒肆意破坏行动伤害的无辜受害者。如果我们继续将卢德派当作一种粗暴侮辱性表达来使用，我们就站到了资本利益的一边，并会让上述局面得以永存。

我们不该轻视卢德主义，而是应该拓展其战术重点。反对资本的斗争不仅限于工人反抗工作场所中的剥削。如果资本主义权力不去限制它的覆盖范围，那么我们为什么要限制自己的抵制行为呢？

让我先说清楚，我并没有建议人们去用大锤武装自己，然后去蓄意破坏、损毁东西。这种方式在很多方面都是危险的，而且它也不是一种战略上的有效做法。我们需要的是一种聚焦于彻底解构数字资本主义的，更加系统、更有计划的卢德主义，而不是那些轻率的自发行动。换句话说，让我们回想一下第一章中讨论过的技术立法问题，我们需要一项能作为政策的卢德主义。

人们总有一种冲动，总想着在当前基础上不断地去建造新的东西，堆叠更多层次与更多系统。我们当然需要替代性的技术，但同时我们也需要废止一些已有的技术。

光靠环顾世界并想象构建、塑造和解读事物的无限可能性是远远不够的。我们必须要认识到事物的物质性，这是它们得以稳定下来并抵抗变化的方式。 对实在的事物置之不理，或围绕其来进行构建，人们只能做到这个程度。最终，这些事物都将被拆解、清除和废止，以便开辟出新的前进道路。1931年，哲学家瓦尔特·本雅明（WalterBenjamin）在一篇名为《破坏性人格》的论文中就完美地描绘了这个废止者的模型（本雅明用“他”来指代这个破坏性角色，但这个角色并无性别之分，所有人都可以、也都应该去代表废止者）。

破坏性人格认为没什么是永恒的，但正是因为这个原因，他认为出路无处不在。在其他人遇到城墙或高山时，他也会看到一条路。但正因为认为出路无处不在，他必须清除一切，四处开路。这并非总以暴力方式进行，有时也会采取最为精致的方式。因为他认为出路无处不在，所以总是站在十字路口，不知道下一步会发生什么。他逢山开路，遇水搭桥，将眼前障碍碎为瓦砾，只为开辟出一条通行之路。

废止听起来很激进，但难道这比将创新变成一种拜物教还要更加激进和荒谬吗？创新拜物教被要做些什么驱动着，它为了做而做，哪怕它做的事情既不新奇也没有什么用处，然后人们还要将这些等同于社会进步，这难道不激进、不荒谬吗？社会教育人们要去成为创新者，而非维护者，更毋论废止者了。创新很时髦，维护很无趣，但废止却是离经叛道的。

我们究竟从这些创新中得到了什么？大多数情况下，我们最终只是自找问题得到了数量过剩的所谓解决方案。万物并非生而平等，许多事物原本就不应该被创造出来。至少，我们不该本能地将庆祝创造而诅咒废止视为理所当然。如果资本主义可以出于一己之需而庆祝“创造性破坏”，那么我们为何不能出于不同目的而重新利用它呢？

打开思路去接受废止的可能性，有助于我们重新评估生活和社会事物的价值。说到智能技术，我们能简单地通过减少非必要升级来启动废止行动，这些技术现在已经填满了我们的生活、家园和城市。并非所有事物都必须要配备传感器并连接到云端。事实上，大多数事物本就不应该如此。拆掉传感器！关掉信号！我们可以把它想象成近藤麻理惠 （Marie Kondo），但这是为了技术政治的“断舍离”。这件事是否有助于人类福祉或社会福利？如果不是，果断扔掉！

从制造商的立场出发，他们希望生产可实时记录信息并将其回传至企业服务器的产品是很好理解的。但是从用户的立场出发，我们应该学会去接受“美国公民自由联盟”（American Civil Liberties Union）技术政策分析师杰伊·斯坦利（Jay Stanley）提出的“愚笨的美德”。这并不是尚古主义者发出的呼吁，让人们退回到使用打字机和电报的时代。实际上，我们需要用批判性思维去看待我们所使用的物品和我们所塑造的环境，以及这些如何反过来利用与塑造我们。归根结底，废止意味着要长远思考，这远比减少对智能烤面包机的使用，或者戒除智能手机上瘾要做得更多一些。这是一种应对数字资本主义创造的“物质基础”和“社会形态”的方法。

一方面，硅谷的生活方式大师很乐意向人们宣扬在森林里度过一个断网的周末，这就像静修一般，没有Wi-Fi信号，你就能短暂地逃离智能社会，然后再恢复正常生活。这是一个非常狡诈的计划，它让人们相信，解决智能社会问题的办法是去为我们的身体、心智、精神充电的特权买单，这样我们就可以再次陷入资本主义的地狱，接着更加努力地工作，进行更多的生产。另一方面，新卢德派意识到，我们需要的不仅仅是暂时从资本主义带来的速度、监管、评价、焦虑和怨恨中被解救出来。当我们面临着要在适应一个更加智能的社会与创造一个更加“愚笨”的世界之间做出抉择时，请选择后者。

当然，我们不必立即采取行动，比如马上动手去拆除监视系统的基础设施（尽管从一开始目标可视化是很好的）。在采取任何直接的行动之前，我们需要对技术政治系统如何组织社会以及如何塑造我们的生活抱有更高的期望，这样才可以走得更远。我们不应该满足于在边缘地带进行微不足道的升级，而当权者却坐享了主要利益。如果我们实施了这种调整，并且要求智能技术的设计和使用都要符合新标准，我怀疑许多作为应对各种问题的解决方案来兜售的“创新”将无法通过检验。那些并未实际改善生活和造福社会的技术都应该被废止，而这立马就排除了几乎所有旨在拓展数据提取和实施社会控制的智能技术。

三、创新民主化

未来，人们也许会从智慧社会的裂缝中溜掉。有时候这是件好事。用能捕捉一切的系统覆盖全球的目标——大家还记得IBM“构建一个更加智慧的星球”的口号吧——这让我们很难忘记人们总是会想方设法地去逃避、欺骗，甚至颠覆最具极权主义性质的体系。 也许，人们会把垃圾食品放在一个老式冰箱里，从而逃避保险公司窥探的目光。也许人们会穿上特殊的反监视服装，骗过面部识别技术，从而在人工智能监控系统中遁于无形。 也许人们还会从评分系统故障中受益，提高他们的评级，进而获得高阶群体的额外待遇。

不可避免的是，人们总能摸索出意料之外的方法来使用智能技术，这种由必要性所激发的奇思妙想是我们无法预见的。换种表述方式就是，创造者并不拥有所有的权力。使用者同样也是“技术变革的重要力量”，这正如历史学家罗纳德·克莱恩（Ronald Kline）和社会学家特雷弗·平克（Trevor Pinch）在其代表性研究中所阐述的思想。他们在这项研究中分析了车主如何基于自身需求和欲望来改装和重新诠释车辆。 尽管我们承认用户的能动性，但从战略上讲，我们不能去依赖科幻作家威廉·吉布森（William Gibson）所表述的这种情况：“街道找到了自己的用途，而这些用途是制造商从未想象过的。”

希望有更多的人能够靠自己找到应对技术变革的方法完全就是徒劳之举。人们会“蒙混过关”的想法是有据可依的，这和一位自由主义分析师所称的“未经许可的创新”是吻合的。 这其实就是企业及其智囊团代理人消灭有组织反抗和监管行动的另一种叫法。

仅仅指望天才个体不足以持续打击智能社会的不公正现象，更不用说把握其发展方向了。这样做的风险在于很有可能淡化了技术设计群体和技术使用群体之间权力不对称的重要性。解构性和建设性的变革策略必须是集体的和有计划的。

我之前已经讨论过为何要将已有事物拆解开来。那么接下来，我们应该如何把新事物组合起来呢？通过控制创新！

这听起来像是一个自相矛盾的说法：谁能控制创新呢？ 我们总被教导说要把创新看作是意料之外的想法和伟人思想的产物，创新推动了科技进步并改善了人类的生活。化学家和哲学家迈克尔·波兰尼（Michael Polanyi）极为清晰地表达了这一观点：“你可以扼杀或破坏科学的进步，但你不能塑造它。因为科学只能通过本质上不可预测的方式去求解自身的问题，而科学进步带来的实际好处是偶然的，因此它也是双重不可预测的。” 在波兰尼看来，“创新”和“市场”有一点是相似的，那就是它们都不应该受任何人为干扰。这意味着没人可以塑造或调节它们的过程和结果。根据这一观点，创新和市场的唯一指导应该来自“无形之手”，即计划外行为的自发性秩序和个体决策，而非集体的、有意而为的行动。

但是，这个关于创新是如何产生的故事是一个很容易被加工的虚妄神话。它将除少数天选之子以外的所有人参与创新的过程排除在外。这样一来，科学家、工程师和企业家就不必为他们的工作成果承担任何义务或责任。 当面对棘手的问题时，创新（或市场）的神秘动力又是一个现成的替罪羊。

然而，创新非但不是一种不受约束的自然力量，反而已经变成了一桩大生意。关于技术创造的动因、种类与方式的决策权现在主要被握在风险资本家、私营公司和军方的手中，而其他人必须接受他们的决定。从投资到实施的每一个阶段，新技术都要接受层层监管和评估。它们的发展朝着一定的目标推进，它们的设计体现了特定的价值观。如果被认为是失败的，那么新技术就会被扔进垃圾堆。如果是成功的，那么新技术就会被当作一种创新来销售。这并非有没有标准来管理创新的问题，而是由谁来制定标准的问题。

谁会被考虑到创新过程当中可不仅仅局限于贫富差距。一系列有关谁能成功拿到风险资本家投资的研究表明，针对企业家性别和种族的歧视表现得非常明显。 这一点应该毋庸置疑，但这可不是因为只有白人男性才会有值得投资的想法。大家只需环顾四周，看一看那些四处融资并烧掉一轮又一轮的风险资本的初创企业，其中很多公司都只是为了创造新的扩张方式，他们做的都是那些被《哈佛商业评论》（Harvard Business Review）称为“把你妈不再为你代劳的事变成互联网应用”之类的事情。 按照现在的术语那就是精英管理，指的是同样的人做着相同的烂事儿，他们还要为此互相吹捧。

风险资本家并不是创新的预言家。他们通常更愿意把钱投到他们认为十拿九稳的人身上。投资模式往往会避免尝试颠覆性想法。相反，“智能化创新似乎更像是对短期的和规避财务风险的项目进行复制的实践”。 在寻找下一只“独角兽”（估值达到10亿美元的公司）的过程当中，风险资本家倾向于遵循一定的“模式”（解读：复制其他成功案例）并倾听他们的“直觉”（解读：隐性偏见）。例如，马克·扎克伯格（Mark Zuckerberg）以一个穿着连帽衫的常春藤联盟名校辍学生的身份挖到金矿之后，突然之间，风险投资家开始向走进他们办公室的每个长相酷似扎克伯格的人砸钱。创新这只看不见的手看起来只是在维持现状而已。

我们需要利用智能技术去解决更加重要的问题，并从中获得更多有益成果。目前智能技术并未完全释放出改善每个人生活的潜力，与此同时，不计其数的金钱、时间和精力都被浪费在了建立压榨性、专制性、扰人的、无聊的系统上。我们理应得到比硅谷目前专门生产的垃圾货要更加优质的产品。

当我说到我们需要控制创新时，我的意思是我们需要让更多人拥有更多影响新技术的生产方式、动因和目标的权力，从而实现创新民主化。这意味着我们不应把创新当作一种只有精英阶层才能获得的神秘力量，而是一种应该造福于每个人的能力。政治学家理查德·斯洛夫（Richard Sclove）曾尖锐地提出了这一观点：“如果公民应该被授予权利参与到社会基本结构的决策当中，而技术又是社会结构的一个重要方面，那么技术的设计和实践就应该民主化。”

创新民主化包含两大关键变革：

1. 允许那些会受到技术使用影响的人们参与到技术创立的过程当中，从而包容可能有着不同利益、不同经历和价值观的多元化群体。真正的参与式设计必须超越仅仅将公共关系重新命名为公共参与这种程度。这意味着，不能仅仅把人们当作市场消费者来对待，人们也是拥有权利的公民，应该共同参与塑造自身生活的社会制度的决策。参与者必须至少拥有提供有意义的反馈并催化变革的能力，以此挑战创新的本质和目标。

1. 打开不透明运作和专利流程的黑匣子，从而确保智能系统也能被公众所理解。 构建真正可理解的智能系统必须要超越部分公司共享某些数据集的举措。这也意味着诉求不仅仅要有透明度，透明度只是迈向问责制的第一步。这些系统必须由独立的专家和倡导者进行审查和监管，他们服务于公共利益，而非私人利益。

上述变革涉及的案例以及如何有效实施，一直都是许多课题、写作和实验的研究主题。其中也包括我自己的前期工作，这些成果详细地论述了这些方面的重要性。 在此我并无意总结这些前期研究，而是想重新回顾一个基本被人遗忘了的历史事件，从中提炼对智能技术未来发展的启示。

四、把握创新途径

1976年，英国主要航空航天制造商卢卡斯航天公司（LucasAerospace）的工人做出决定，他们不再为战争制造武器，不再为资本赚取利润。“卢卡斯航天公司大约有一半产出是服务于军事合同的。”技术政策领域研究学者阿德里安·史密斯（Adrian Smith）教授解释道，“由于该业务领域主要依赖于公共资金，卢卡斯航天公司许多民用产品也依赖于公共资金，因此工人认为国家资助应该被更好地用于开发更具社会效益的产品。”为此，工人制订了“替代性企业发展计划”，也被称为“卢卡斯计划”。该计划提出以“创新性替代方案”来管理生产流程和产品。

当时经济并不稳定。由于产业结构调整和资本迁移，工人面临着大规模的失业潮，严重威胁到他们的生计。彼时，冒着因挑战雇主而被解雇的风险来寻求改变似乎并非理想的时机，但卢卡斯航天公司的工人在那段时间里受到了劳工运动的激励，他们明白永远不会有一个完美的机遇来实施彻底的民主变革。他们当时已经认识到，什么时候将以人为本的设计和对社会有益的生产理念付诸实践都是最佳的时机。

“卢卡斯计划”制订了新技术政治运动的详细计划。然而，这一计划绝不仅仅是另一个乌托邦宣言，而是一个保障就业和防止卢卡斯航天公司工厂关停的具体方案。该计划认真考虑了如何创建一个创新体系的问题，不仅实现了诸如促进人类进步、提高社会福利、实现平等赋权等崇高目标，同时也满足了诸如保障工人安全就业、确保工人养家糊口等迫切需要。