过度智能

引言如何看待技术

你说话的口气就好像是上帝造出了机器。我相信当你不开心时一定会向上帝祈祷。可别忘了，是人类造出了机器。机器能做不少事，但它却不是万能的。

——［英］E.M.福斯特（E. M. Forster），《大机器停止》，1928年

如今，你用智能产品去换掉所有普通的物件非常简单。智能化正在成为新常态，你甚至不必去主动寻求它。如果智能化升级当前还未发生，只要你等待足够长的时间，它们必将进入你的家庭、你的工作场所和你的城市。

智能雨伞会亮起提示灯来提醒你有雨。智能汽车会为你分担高峰时段驾驶的劳顿。智能虚拟助手会服从你的每一个指令，了解你的喜好和习惯，并自动进行相应的调整。请随意想象一样东西——无论是梳子，还是城市——你肯定能找到至少一个对应的智能版本，很多时候你还能找到更多智能版本，并可从中随意挑选。事物为何要变得智能也许没有明确答案，但这并未阻止智能化正在社会中普及开来。即使智能化不令人讨厌或毛骨悚然，它也常常显得愚蠢而多余。但现在没有任何事物、任何空间可以免受智能化的影响。

除了标榜“高科技”或“全新改进”之外，智能化究竟意味着什么？智能的标签现在总是被人随意乱用，但它的定义却不是清晰一致的。在这里，我们给出一个简明而适用于本书研究目的的界定：“智能”意味着一个物体被嵌入了用于数据收集、网络连接和增强控制的数字技术。以智能牙刷为例，它利用传感器来记录用户刷牙的时间、时长和效果。由于智能牙刷支持蓝牙连接并嵌入了应用软件，它会将刷牙数据发送到制造商或第三方的云服务器。然后，你和你的牙医都可以通过一个应用程序来访问相关数据。正如市面上某款智能牙刷所宣称的那样，这些嵌入智能牙刷的应用程序可为用户“提供实时的刷牙指导和性能监控”，并对用户的日常牙齿清洁情况进行评分。 根据你的牙科保险计划，牙齿清洁评分会直接影响到你每月所支付的保险费用。认真刷牙的人能获得折扣，同时不爱刷牙的人会得到惩罚。也许，一条很实诚的宣传语会这么写：“使用智能牙刷，我们知道你嘴里发生了什么！”

正如美国麻省理工学院媒体实验室一位企业家所说的，这些“被施了魔法的物品”将“响应我们的需求，了解我们，甚至学会代表我们前置思考” 。虽然智能科技的奇迹可能会让人们误以为自己拥有了施展数字咒语的魔法，但这本书却旨在消除任何误以为我们正住在魔法城堡中的幻想。笼罩在数字魔咒下的世界并非理想国，它更像是萨布丽娜的巫术世界，每一个咒语都要付出代价，意外的后果比比皆是。

这种将智能技术视为数字魔法的语言表达正呼应了英国科幻作家巨头阿瑟·C.克拉克（Arthur C. Clarke）的名言：“人们无法将任何足够先进的技术与魔法区分开来。” 这其中的含义是，大多数缺乏专业知识的人就像巫师的学徒，他们并不了解技术的工作原理和流程，他们也不清楚技术的影响，他们更无法控制技术的力量。

智能技术所能提供的些许便利是以我们放弃追问“为何生活中充斥着接入互联网并收集数据的机器”等诸多重要问题作为交换条件的。为什么现在一切都变得智能了？幕后还发生了什么事情？谁真正从中受益？在丑闻偶尔爆出时，比如一家公司被抓到利用可疑方式追踪用户或其数据库遭到黑客攻击等，我们只是将批评的火力集中于单个特定问题，而这通常并不足以引发更为深入彻底的调查。随后，爆出丑闻的公司发出“我的过失”的公关声明，我们很快就会遗忘甚至习惯了这些数据入侵丑闻带来的冒犯，很快一切都会被原谅。接着，我们将按原计划继续购买、使用和升级，一切如常。

智能技术一直被当作势不可挡的下一代技术来兜售。也许你可以选择不去主动升级，但最终却会别无选择。智能曾经是高级选项，现如今却是和传感器、计算机和Wi-Fi连接等集成在一起的标配选项。这可不仅仅是我们所期待的新奇玩意儿的“功能蠕变”，人们往同一设备中塞入更多按钮和功能。智能技术迅速崛起不仅是消费者对于智能设备、智能家居、智能城市需求的结果。相反，正如这本书将要谈到的，在为何以及如何制造和选择智能技术等问题上，企业和政府利益比消费者决策所发挥的影响要大得多。

智能化可是一桩大生意。截至2020年末，仅智能城市（不含住宅、办公和消费品）的市场规模就曾被预测约为1万亿美元。全球增长咨询公司弗若斯特沙利文（Frost ＆ Sullivan）对智能城市市场规模的预测较为乐观，预计其约为1.56万亿美元。即使采取较为保守的估计，这一市场规模也达到了约5 000亿美元的体量。 另据全球领先的信息技术研究和顾问公司高德纳（Gartner）预测，全球物联网终端规模将继续保持指数级增长，2017年全球物联网终端数量为83亿台，2020年已增至204亿台。

媒体对智能技术的报道往往局限在酷炫黑科技产品带来的兴奋感中，以及对于隐私和网络安全的隐约担忧之间。毫无疑问，智能技术非常棒，隐私问题也非常重要。但智能技术带来的影响太过重大和深远，媒体报道的老生常谈并不足以揭示这些深刻影响。

采取消极、肤浅的态度对待智能技术及其创造者是极其严重的错误。智能技术所形塑的不仅仅是种潮流趋势，它已经成为我们生活和社会中一种普遍而强大的存在。说到底，智能技术是一种急需批判性分析的技术范式。如果看不到这层意义，我们就过于疏忽大意了。

一、利益、要务与影响

这本书并不希望采用科技博客评论新奇产品利弊的方式，或以意见领袖给出建议和预测的方式来关注科技。这本书更加关注技术及其影响背后的人、价值和组织。换句话说，这是一本关于政治、权力和利益的书，以及它们如何被技术所引导和改变。简而言之，我们称之为“技术政治”。

我们一定要明白，在技术从设计到使用的过程中，每一个阶段都充满了政治，甚至源于政治。这本书可能会被人解读为对技术政治化的呼吁，但技术政治化意味着技术不再受政治的关切和影响，这是不对的。相反，这本书呼吁人们承认政治一直以来都是技术的构成部分，未来也将继续如此。我们应该从利益、要务和影响三方面来分析新兴智能社会中的技术政治。

简而言之，这本书论证了三个广泛存在的技术政治观点，以及它们在社会各处的不同存在方式和表现形态：

·智能技术促进了企业技术官僚的利益，并使其凌驾于人类自治、社会公共利益和民主权利等其他价值维度之上。

·智能技术是由数字资本主义双重要务所驱动的：从潜在的所有人和所有物中提取数据，并以此拓展对所有人和所有物的控制。

·智能技术的影响就像一场换取便利与连接的浮士德式交易，在扎克伯格这类人看来，人们所要付出的代价是广泛的预期或非预期的、已知或未知的后果。

二、谁的利益

技术是实现利益的一种方式。技术不是客观或中立的，而是嵌入了不同的价值观和意图。毕竟，技术是人们所做出的决定和行动的结果，然后被怀着不同动机和意图的人所利用。正如社会学家、历史学家和工程师经过数十年研究所得出的结论一样，没有任何一项技术的存在是不可避免的，所有技术都是由社会过程所塑造的。 每项技术背后都有一系列人为的选择：应该解决什么问题，如何使用资源，为何使用这些技术，应该如何做出权衡……这些共同决定了技术发展的最终道路。即使有充分的理由做出决定，它们仍然基于特定动机、原则、价值观与目标等。

一旦我们开始提出以下这些问题，政治就会发挥作用：哪方的利益得到了代表？谁被考虑在内？谁赢了？还有这些问题的反面：哪方的利益被抹杀掉了？谁被排除在外？谁输了？有些人的利益会被考虑进来，同时有些人的声音却没有被听到，有些人会赢，而有些人会输，这就是政治的本质。这并非技术是否政治化的问题，这关乎政治究竟是什么。

著名的技术政治理论家兰登·温纳（Langdon Winner）主张“技术本身就是一种政治现象”，这不仅意味着技术需要立法来规范其生产、特征和用途。温纳认为，这意味着技术本身就类似于一种立法形式，因为“技术形式在很大程度上塑造了我们这个时代人类活动的基本模式和内容”。 无论是制定政策还是构建技术，这世上还有什么比有些人有权决定其他人如何生活更具政治性呢？

法律制度是一套规范体系，它界定人们在社会生活中可以进行的事务与不可进行的事务，界定人们拥有什么权利，以及人们计划生活在什么样的社会框架中。技术系统通过不同的方式来发挥同样的作用。它们都是一套关于什么被允许或什么被禁止的规则体系，是人们拥有或不拥有哪些权利的框架，是人们选择或反对生活在何种社会中的计划。技术就像立法，条款众多，作用不尽相同，其中有些很重要，但是作为一个系统，它们共同构成了社会的基础。

这一技术政治理论非常适合用来分析数字平台和算法，这些平台和算法参与了越来越多的社会互动和经济交易活动。在兰登·温纳之后，法律学者劳伦斯·莱西格（Lawrence Lessig）提出了“代码即法律”的著名观点。 但这种类比还远远不够。对此，传媒理论家温迪·楚（Wendy Chun）指出“计算机代码更胜于法律”，因为它会毫不动摇地遵守程序员的规则和指令。 即使是最专制的独裁者也无法像计算机执行代码那样严格和一致地执行法律制定的确切条文。

正如法律一样，技术也被精英群体所利用，以提升其社会地位与视野。 如果技术是一种立法形式，那么我们必须仔细审视那些立法者。他们不仅是制造出更好机器的工程师、测试全新设计的创新者，或敢于冒险的企业家，他们更是创造了形塑社会和治理人民的制度体系的技术官僚。

在实证研究的支撑下，政治科学家们当前已经达成了共识：美国现在更像是一个寡头政治国家，而不是一个民主国家。 普通民众对法律会纳入哪些政策几乎没有任何影响力，而富裕精英阶层的偏好却几乎总能得到政策的支持。这种政治不平等的状况在许多国家都能看到，但我认为，政策制定中的寡头政治也反映了技术构建中的寡头政治。技术的设计和开发被少数人所主宰，而世界上其他人必须接受这些决定。

当公民被剥夺了影响政治进程的权利时，当他们被排除在有意义的投入和追索渠道之外时，我们理所当然地称这种政权为专制。民主是建立在立法透明和对立法产生影响的权利之上的。我们选举并游说立法者，我们要求他们负责，甚至以此威胁他们的立场。我们反对、抗议与已有价值观和原则背道而驰的决定。当然，这些过程也许并不完美，但至少我们认识到了法律作为一种社会力量的重要性所在，我们认识到理解、抗议和改变这种力量的必要性所在，我们批判和挑战政治制度。当这些权利受到压制时，我们理应义愤填膺。

既然如此，那么我们为什么愿意容忍这样一个事实：形塑社会和影响我们生活的技术政治体系主要是由少数精英群体如企业高管、工程师和投资人所创造的，而他们大多是白人，是男性，且极其富有。谁的利益被技术尤其是智能技术考虑在内或排除在外，是我们这个时代的一个关键问题。无论是在技术政治领域还是立法政治领域，当我们问出“谁在真正实施统治”这个问题时，当前的答案是“少数权贵人士”。

但重要的是，这种技术政治局面并不意味着什么惊天阴谋正在暗中发挥作用。寡头权力的存在并非新世界秩序的证据。这也不意味着工程师和高管们一定有恶意伤害他人的意图。这意味着，政治和技术的结构已然将绝大多数人排除在重要的参与方式之外了。正如温纳所解释的，“‘有人企图伤害他人’的说法既不准确，也没有深刻洞察。”相反，人们必须认识到，支持特定社会利益的技术平台早已积累发展起来，因此有些人势必会比其他人得到更多的利益。 如果有什么不同的话，就是由于缺乏共谋和恶意，技术产生的带有偏见、不平等的后果将更加隐蔽。

三、何种要务

智能技术的设计、开发和使用以两大要务作为驱动：收集和控制。利益关乎谁和谁的声音被包括在内，而要务则关乎具备深刻影响和广泛覆盖的首要原则与目标。例如，逐利动机就是资本主义的第一要务，它推动企业实现利润最大化。同样地，我将在这本书中集中讨论的要务就是数字资本主义的核心部分。理解这些要务以及它们是如何通过智能技术表现出来的，将在很大程度上揭示出技术政治在社会中是如何运转的。

我现在不会花太多时间去解释收集和控制这两个要务，因为后面会有专门的章节来展开，但我将在此处对其进行概述。

收集这一要务是通过任何可能的方式从任何可能的来源提取所有的数据。它迫使企业和政府尽可能多、尽可能广地收集数据。正如我们预测企业以追求利润为导向一样，我们现在也应该预测企业会以追求数据为导向。这就是为何这么多智能技术都是用来收集数据的原因。对于许多行业来说，数据是一种新的资本形式，因此它们总是在寻找和开发新的方法来积累数据。

控制这一要务关乎创建监视、管理和操控世界和人的系统。控制的典型代表是不知疲倦的监控系统，它帮助企业和警察机构来管理人员，规范访问权限，并修正行为。这导致传感器无处不在，万物都被连接到互联网上，并依赖自动化技术来监控一切。智能技术旨在扩展和增强控制权力，无论是通过软件应用程序对物体进行远程控制，还是通过算法分析对人群进行社会控制。其中的关键问题不是控制本身，而是谁能控制谁。

收集和控制两大要务是高度相互依存的。数据收集需要依靠技术能力和社会权威来探测事物、人和地点。控制系统由数据所推动，从而可对同样的事物、人和地点施加更为精细、有效和即时的命令。智能技术是这两大要务的产物。本书将二者区分开来，例如我会用单独的章节去解析每一种要务，都只是为了分析其本质所在。这些区分不仅让我们更好地了解了智能技术是如何运行的，而且让我们更好地了解了为什么它会以这样的方式运行，以及这些要务是如何实现的。既然在现实生活中收集和控制是部分重叠的，那么我在后续章节中也会同时谈到二者，而我们将会在无数例子中看到这种依存关系。

我们很难低估这些要务对于智能技术设计和使用所产生的影响，它们表现在众多应用程序以及空间、规模等维度。其范围从吸尘器机器人秘密绘制用户家庭地图——这样它们的制造商就可以把这些“值钱的地图”卖给其他公司，到保险公司监控人们如何驾驶、锻炼和饮食——这样他们就可以奖励部分行为而惩罚其他行为。 将收集和控制当作要务并不是什么新鲜事儿。在资本主义社会中，这些要务从一开始就是资本主义的组成部分。关于资本主义的研究可以装满一整个图书馆，这些都是关于资本主义如何不断创新方法来获取利润以及对社会和自然、人和非人、精神和身体等一切事物行使权力的研究。

在此，我的目标是去揭示在数字资本主义和智能技术时代下上述双重要务是如何起作用的。然后，我们便可了解如何、为何以及为谁去设计智能技术，进而可以确定影响技术发展的趋势和主题。如果沿着这一道路前进，我们便可以对不久的将来做出明智的预测。

四、何种影响

智能技术已经风靡一时，它们正在社会空间和日常生活中几乎所有角落里扩散着，传播着，复制着，破坏着，迅猛发展着。技术和文化研究学者戴维·格鲁姆比亚（David Golumbia）和克里斯·吉利亚德（Chris Gilliard）曾在2018年初写过一篇文章，其中总结了许多“荒唐”的做法——科技公司入侵我们的个人生活，影响我们的行为，忽视我们的利益，贯彻他们的价值观——这些“荒唐”之举居然成了惯例。这只是一长串“荒唐”做法中的一部分示例：

市面上有些营利性服务会跟踪处方数据并出售这些数据。有人建议使用应用程序来“监视”社交媒体用户的自杀意图。按摩振动器制造商记录了用户的性生活数据，但却从未披露自己正在这么干。DNA的数据收集已经发展成熟，并且很可能已经被滥用了。一款帮助女性追踪例假期间身心状态的应用程序会将这些数据出售给集成商……追踪智能手机运动情况的陀螺仪可能会被用于语音识别。三星电视被发现正在偷听观众的日常对话。一名优步高管在一次聚会上透露，优步平台的“上帝视角”包含了大量驾驶员和乘客信息，而这也是优步为何能掌握乘客发生一夜情的原因。一所学校使用分发的笔记本计算机中的摄像头来监视学生。

即使这些技术都被贴上了智能的标签，但人们通常会将不同类型的智能技术视为彼此隔绝的。人们很少会把自己佩戴的智能手表、所居住的智能家居以及智能城市放在一起看。这些连接并未被当作统一系统的不同组成部分，而是被切断了联系，就好像在不同地方运行的智能技术之间毫无关系一样。可具有讽刺意味的是，许多像思科（Cisco）和谷歌（Google）这样的大型科技公司所提出的明确愿景就是将世间万物和所有人都接入一个单一的巨型网络（一个“集成系统的系统”），当然这个巨型网络是由它们自己所构建和控制的。国际商业机器公司（IBM）将旗下某项目命名为“更加智慧的星球”，他们大胆宣称“这不仅仅是发布一项新战略，而是要确立一种新的世界观”，其雄心壮志表露无遗。

但我很反对这种脱节的分析，我认为这其中存在共同的利益和要务，而这会影响到不同类型、不同规模、不同空间中智能技术的设计和使用。换句话说，我们不应将这些技术视为离散且不相关的，而应将它们视为强大的、新兴的数字资本主义技术政治体制的一部分。只有这样，我们才能真正理解它对社会所产生的影响。

本书将重点介绍数字资本主义技术政治体制构建涉及的三个特定空间：智能自我、智能家居和智能城市。近些年来，发展迅猛、范围广泛、规模庞大的智能化浪潮扑面而来，这些空间都遭受了巨大的智能化冲击。智能社会的构建已经全面铺开。

通过揭示智能技术背后的技术政治，我们将看到超出智能技术侵犯隐私和网络安全漏洞等议题之外的深远影响。智能技术是精巧的工具，可以放大公司和政府在我们的生活中所发挥的力量，它们是用来深刻形塑社会的变革性技术。事实上，这些深远影响已经引发了越来越多的硅谷高管、企业家和工程师的认真反省，而正是他们创建了我们现在必须与之抗争的智能系统。

2017年，脸书负责用户增长工作的前副总裁查马斯·帕里哈皮蒂亚（Chamath Palihapitiya）在一次公开演讲中感叹道：“人们并没意识到自己的行为正在被编程。也许这并非你本意，但现在必须决定你愿意放弃多少。” 尽管硅谷高管们可能会不好意思说出是“我的错”，但科技公司的觉悟提升大多来自底层员工对于这样一个事实的思考：“如果你在一家对世界都有巨大影响力的公司工作，你是有义务去思考自己拥有多大的权力，以及要用这些权力去做什么的。”正如一位谷歌前员工告诉记者克莱夫·汤普森（Clive Thompson）的那样。

五、技术并无欲求，但人有

人们很容易将技术视为一种拥有欲求、目的和意图的超人类力量，就像我们看待“市场”和“全球化”这种事物一样。这是技术决定论的观点，典型代表就是“信息需要自由”等常见口号，而人们所持有的许多关于技术的普遍信念都是决定论的。本章主题是关于应该如何看待技术政治的，因此首先要把握当前人们对于技术的主流看法，虽然这些看法可能是极具误导性与诱惑力的错误观点。例如以下三种看法。