过度智能

第一种看法：技术与社会分离，技术不受我们的控制。它是一种独立的主体或自然的力量，能自行发挥作用，有自己的欲求、计划和目标。技术是一头无法驯服的野兽，因此任何管理和引导技术的尝试都必然适得其反。所以我们应该让生活去适应创新，而不是抵制创新。

第二种看法：技术以线性方式发展。技术进步遵循理性的、直线的顺序发生，从石器到硅芯片，再到其他技术都是如此，而人是创新精神的载体。如果不同技术之间存在竞争，那么胜者为王，因为客观上来看，适者生存，胜出者就是最好的选择。

第三种看法：纵观历史和当下，技术几乎总是赋权人类解放的力量。科技带来了更多自由、更多财富和更好的生活，它是人类福祉的根源，也是解决所有问题的办法。创新之路通向进步和繁荣，而我们除了前进别无选择。

上述看法影响广泛，且流传甚广。每当有人声称技术只是一种中立的工具，或任何对于技术的批评都被认为是原始的卢德主义而被驳回时，这些言论就会冒出来。科技决定论的观点在未来学家和“思想领袖”的畅销书以及TED演讲中非常盛行。这些信念和《星际迷航》中博格人的口头禅一样：“抵抗是徒劳的。”

技术决定论的说辞极端普遍，甚至已成为老生常谈，但这丝毫不会减损它的影响力。让人们相信现在只能以一种方式存在，未来只能以一种方式展开，这是一种强有力的策略。当然，这种“唯一方式”只是一种恰好符合大公司和风险资本家等技术政治寡头的价值观和愿景的说辞而已。技术决定论很容易转变成自我实现的预言 。它一方面消除了技术进步中人所发挥的能动性因素的影响，同时还对人们发出警告：你们最好不要挡住技术前进的道路，赶快加入进来，否则就会被不可阻挡的前进步伐撞倒。坚定不移的技术决定论版本甚至坚持认为，技术变革及其引发的社会变革必须以一种特定的方式发生。未来主义者的水晶球预示了这种命运，人们没有其他选择。

技术决定论不仅是一种错误的看待技术的思维方式，更是一种非常危险的思维方式，因为看起来它只是将技术与人文和社会维度从表面上割裂开来。这意味着某些人可以继续开发那些反映他们的价值观却影响其他人生活的技术。由于被技术决定论的表象所掩盖，这些技术背后的少数人不再面临追责的威胁。毕竟，如果技术自然产生了，那就没人应该受到责难了。更好的是，如果这个过程是以自然的、神圣的、唯一的且最佳的方式产生，那么也没有人可以抱怨。

技术决定论只是在直觉层面上说得过去，因为科技和未来都像刚刚发生在我们身上的事情一样。绝大多数人都与新技术的设计和开发脱节。我们看不到每项技术中包含着的各种各样的决定、分歧和迂回。那些成功的设计似乎遵循着自然进化的规律，或者是从一个伟大创新者头脑中自主形成的。至少，这些都是营销团队、科技记者和传记作家不厌其烦地讲述的故事。正如梅根·奥吉布林（MeghanO'Gieblyn）曾写道的：“对于大多数消费者而言，只有当他们打开苹果应用商店的窗口，或者某项技术彻底走红之后才会开始了解新技术。消费者很容易将技术的进步想象成由神圣的逻辑所决定的。机器主动地进入我们的生活，就像上帝送来的神奇礼物一样。”

将科技视为一股向善的力量，相信技术会引领我们走向更加美好的世界，这令人非常欣慰。技术决定论为复杂过程提供了简化的解释，但这种解读却掩盖了技术本质上也是人文的和社会的现象。技术是文化规范、政治选择和经济制度共同发挥作用的结果，而非技术的独立自主性选择。除此之外，技术的发展并不是一条平坦、笔直的道路。这条道路无比曲折，充满了岔路口、死胡同和坑洞陷阱。技术发展史上的败局更是数不胜数。 有些技术之所以能成功，可能是因为所需的很多标准和条件得到了满足。也许设计师在创造一项技术时，有充分的理由去选择一种价值（例如成本）而非其他（例如安全），但这并不意味着选择的主观性或可变性会因此减少。人们对于什么是“好”或“最好”总有不同的看法。开发或使用一项技术总有不同的方式。

往轻的方面说，技术决定论混淆了我们关于技术和社会的思考。而往坏的方面说，却是技术决定论滋生了被动性。如果我们要了解谁创造了智能技术，什么驱动了它的设计，以及它如何影响我们的生活，那么我们就必须先摆脱技术决定论的禁锢。我们必须主动去质疑，而非被动地接受智能技术的政治性。所有技术都是一种偶然性的创造物：它的出现可以以不同方式，秉承不同目的，实现不同目标，或者压根就不出现。然而，当我们缺乏对技术政治的批判性思维，转而接受技术决定论的解释时，我们就巩固了管理阶层、工程师和企业家的权威，而他们有权决定将创造什么样的技术。这一少数群体对自身所拥有的巨大财富和强大影响力已经非常满意了。

对于政治分析而言，一个有用的启发来自已故的托尼·本恩（TonyBenn），他曾长期担任英国国会议员。他提出了非常著名的“五个民主的小问题”，我们应该拿这些问题去问任何拥有权势的人或机构：你拥有什么权力？你从哪里获得了这些权力？你出于谁的利益在行使这些权力？你需要向谁负责？我们如何摆脱你的影响？

上述问题构成了批判性政治分析的框架。我们应该将其应用在对构建起智能社会的个人、公司和政府的分析当中，尤其是考虑到他们所操控的技术政治力量对我们的生活和社会所产生的实际影响最终要远远大于许多政治人物。 以托尼·本恩提出的五个问题为指导，我们可以直面智能技术的政治性。

六、无处不在、无孔不入的智能技术

本书将带领读者一览当前社会中无处不在、无孔不入的智能技术。我会着重讨论智能技术对当下以及未来生活所产生的影响，当然这些影响可能只是冰山一角。我将剖析主导智能技术设计与使用背后的强大驱动因素。其中，我会侧重于智能技术的潜在危害、风险以及有失公正的方面，毕竟科技行业也无须媒体和政府继续为其高唱智能化赞歌了，但这种批判性框架并不是突显世界的美好，而只强调一部分令人担忧的事情。我甚至没有穷尽所有例子来证明智能技术如何以惊人的方式来影响每个人的。没有一本书可以穷尽一切，但我希望这是一本让人大开眼界、发人深省的指南，可以帮助人们了解快速崛起的智能社会。

接着，我会提供大量实例来说明智能技术和数字资本主义的发展趋势、主题及其影响。这些实例提供了一些便于读者理解的具体抓手和基础，否则只能通过抽象化观点来理解技术政治中的权力和利益了。毕竟，如果我们不去谈论真实的技术、真实的人以及真实的后果，人们也很难真正理解数字资本主义的现实性。与此同时，我也要提醒读者不要过度专注于收集逸事，重点在于这些例子背后的问题的意义与重要性。此外，本书将一系列技术和主题融合在一起，我个人对于技术政策、数字资本主义和智能技术等不同主题的关注也会贯穿于这本书的研究与写作。为了兼顾写作风格和可读性，我并没有明确指出哪些是基于我对相关领域的前期贡献，就像学术规范所要求的那样。但我所从事的广泛的学术研究工作，哪怕是那些被融入书中的背景资料，都成了这本书的写作基础。

本书其余部分将深入探讨智能技术的本质以及我们应该如何应对。

第一部分共分为三章，主要探讨智能技术产生的双重要务及其政治经济制度基础。这将为我们理解收集、控制与数字资本主义提供虽然抽象但却更加深刻的参考。

第一章解释了数据是如何成为当代资本主义的核心要素的。数据以迅猛之势从研究科学家和政治专家所关心的主要问题，变成了当前的一种资本形式。当数据转变成为资本时，智能系统和平台终将过剩，而这些系统和平台都是用来追踪每个人、每个地方和每样事物的，并将这些数据直接汇入平台公司。

第二章描述了社会是如何被控制系统所包围的，这些系统已经入侵了我们的日常生活。它们通过捕捉特定方面和特定行为的数据来观察和跟踪人们。它们使用各种标准对人进行评价、打分和排名。它们建立了检查站来管理访问和强制排除。通过分析控制机制在不同尺度下的运行方式，我们可以推断出以前被认为是独立运行的智能技术之间存在着紧密联系。这种状况看似无害，却危机重重。

第三章梳理了关于数字资本主义运行及其后果的十大观点。硅谷初创企业是革命性的，智能技术与以往任何事物都不一样，类似说法屡见不鲜。但是与此相反的是，数字时代的崛起通常是传统政治经济动能的更新。我们看到的不是历史的颠覆性突破，而是一种对已有社会结构和经济关系进行重新包装、复制和复兴的新方式。每一个观点都基于批判性视角，针对智能社会的发展发起了具有争议性的探讨。将这些主题综合起来看，我们可以为数字资本主义做出诊断。

第二部分也分三章，分别探讨了不同应用规模的智能技术。

第四章展示了智能技术是如何被用来衡量、监控、管理我们生活的方方面面并使之货币化的。智能自我的兴起不仅仅基于人们对自我追踪的选择，其最重要的后果在于他人能对我们的数据做些什么，以及他们如何利用这些数据去引导我们的行为，不管我们是否希望他们这样做。事实上，我们已经臣服于许多追踪、分析和管理自我的技术。环顾四周，类似的例子不胜枚举。

第五章转向智能家居领域，硅谷初创企业和传统制造商都在积极开发智能家居的新设备、新家电和新服务。传统冰箱只是让食物保持低温，而智能冰箱还可以记录你吃什么，多久吃一次，什么时候吃。在数字资本主义背景下，我们使用的电子设备不仅仅是商品，还是产生数据的一种手段。通过监控用户和设备之间的每一次互动和交流，智能设备得以收集我们的习惯和偏好等宝贵数据。对于商业机构而言，智能技术提供了一个进入私密家庭空间的窗口。

第六章将我们带到智能城市层面。城市目前已经成为智能技术的自然栖息地。在城市环境中，智能系统有足够的空间去发展壮大、延伸并发挥力量。这里有监控城市的传感器网络、分析城市运行的算法、管理城市的控制中心以及许多其他智能系统。这些系统被设计用来捕捉城市每一个部分（及其居民）的信息。这些系统为政府和科技公司提供了强大的支撑。对城市社会而言，智能技术已经从根本上改变了警察的工作方式，这也是本章的重点。由于使用了军事级别的监控和分析系统，警察部门现在更像是一个新的中央情报局——“城市情报局”。尚在不久前，这些智能城市系统还只存在于猜测性报道所渲染的希望和恐惧当中，但现在它们已经是我们所住街道的组成部分了。

本书第三部分，也就是第七章提供了一个分析框架，其中包括三种挑战数字资本主义的不同方式。重新定义和设计智能社会并非易事，但这是必要的。这里概述的三种方式告诉我们，如何着手创建一个不同的技术社会。首先，我们可以从抵制日常的数据提取和开发着手，然后去论证废止某些技术体系的主张；第二，我们从创新民主化的必要性分析入手，接着用实例来回顾分析历史上创新民主化是如何实施的；第三，我们从分析数据经济监管和保护免受数据驱动技术损害切入，提议将数据视为公共资产，并以公共利益为导向，对其进行管理。

1. Kate Quinlan, “Smart Brush Tool Now Software Integrated,” British 224(March 2018): 461.

1. David Rose, Enchanted Objects: Innovation Desi_gn and the Future of (New York: Scribner, 2014), back cover.

1. Arthur C. Clarke, Profiles of the Future: An In_quir_y into the Limits of the (New York: Henry Holt and Co., 1984), 179.

1. Frost ＆ Sullivan, “Frost ＆ Sullivan: Global Smart Cities Market to Reach US\$1.56 Trillion by 2020,” 2014, accessed December 14,2017,https://ww2.frost.com/news/press-releases/frost-sullivan globalsmart-cities-market-reach-us156-trillion-2020; Future Cities Catapult, “Smart City Strategies: A Global Review,” 2017, accessed December 14, 2017, http://futurecities.catapult.org.uk/wp-content/uploads/2017/11/GRSCS-Final-Report.pdf.

1. 自我实现预言由罗伯特·默顿提出，即使自己的预期成真的预言。许多研究已经发现图式越强大、越发达，我们越会把更多的注意力放在与这些图式相符的信息和特征上。同时，我们的心智会自动过滤那些与图式不一致的特征和信息，通过把更多注意力放在符合既定图式的信息上，图式的正确性也得到了确认（尽管我们不得不过滤很多不支持图式的信息来达到这种确认）。——译者注

第一部分数字资本主义的驱动力