过度智能

1. Linda Poon, “Sleepy in Songdo, Korea's Smartest City,” CityLab,June 22, 2018, accessed December 11, 2018, https://www.citylab. com/life/2018/06/sleepy-in-songdo-koreas-smartest-city/561374/.

1. Sadowski and Bendor, “Selling Smartness.”

1. Taylor Shelton, Matthew Zook, and Alan Wiig, “The ‘Actually Existing Smart City,’” Cambrid_ge Journal of Re_gions Econom_y and Societ_y 8, no. 1 (2014): 13—25.

1. Amsden, “Who Runs the Streets of New Orleans?”

1. Aidan Mosselson, “Everyday Security: Privatized Policing, Local Legitimacy and Atmospheres of Control,” Urban Geo_gra_ph_y 40, no.1 (2018): 16—36.

1. “新月城”为“新奥尔良市”的副称。——译者注

1. Amsden, “Who Runs the Streets of New Orleans?”

1. Elizabeth E. Joh, “The Undue Influence of Surveillance Companies on Policing,” New York Universit_y Law Review 92 (2017): 101—130.

1. Ali Winston and Ingrid Burrington, “A Pioneer in Predictive Policing Is Starting a Troubling New Project,” Verge, April 26, 2018, accessed June 12, 2018, https://www.theverge.com/2018/4/26/17285058/predictive-policingpredpol-pentagon-ai-racial-bias; Peter Waldman,Lizette Chap-man, and Jordan Roberson, “Palantir Knows Everything about You,” Bloomberg, April 19, 2018, accessed June 12, 2018, https://www.bloom berg.com/features/2018-palantir-peter thiel/.

1. Waldman, Chapman, and Roberson, “Palantir Knows Everything about You.”

1. StingRay是被美国警方和联邦调查局使用的一款通信追踪设备，它将自己伪装成一个基站，监听附近的设备，拦截通话和短信。近年来Stingray引发的争议一直未曾中断，因此也受到了美国联邦通信委员会（FCC）的监管。——译者注

1. American Civil Liberties Union, War Comes Home.

1. Monte Reel, “Secret Cameras Record Baltimore's Every Move from Above,” Bloomberg Businessweek, August 23, 2016, accessed August 1, 2018, https://www.bloomberg.com/features/2016baltimore-secretsurveillance/.

1. Kinling Lo, “In China, These Facial-Recognition Glasses Are Helping Police to Catch Criminals,” South China Mornin_g Post, February 7, 2018, accessed August 1, 2018, https://www.scmp.com/news/china/society/article/2132395/chinese-policescan-suspects using-facial-recognition-glasses.

1. Amazon Rekognition是亚马逊推出的深度学习技术服务，它可以轻松将图像和视频分析功能添加到应用程序中。Amazon Rekognition可在图像和视频中识别对象、人物、文本、场景和活动，也可以检测任何不适宜的内容，同时还具有高度精确的面孔分析和面孔搜索功能。——译者注

1. James Vincent, “Artificial Intelligence Is Going to Supercharge Surveillance,” Verge, January 23, 2018, accessed August 1,2018, https://www.theverge.com/2018/1/23/16907238/artificial intelligencesurveillance-cameras-security.

第三部分智能为民

第七章把握智能：愚笨世界的应对策略

我们生活在资本主义中。它的力量似乎是不可避免的。君权神授也是如此。任何人为的力量都可被人所抵抗和改变。

——乌苏拉·K.勒金（Ursula K. Le Guin），

《书籍不仅仅是商品》，2014年

设计是一个世界的政治变为另一个世界的约束的过程。

——弗雷德·特纳（Fred Turner），《不作恶》，2017年

智能社会是建立在一种被过分简单化的销售话术基础上的：人们将大量数据驱动、网络连接的自动化技术集成到生活中，由此我们将在各方面都获得全新升级和全新功能。

智能自我承诺人们可实现苏格拉底式认识自我的追求，而无须进行经常性反思和批判性探究。我们可以将这些任务外包给基于持续记录数据的实时分析，从而对每个人在人类走向繁荣的历程中的进步进行规划和评级。

智能家居承诺为每个人提供一个个性化的便利宫殿，一个名副其实的连接茧房。我们最为私密的家居空间将变成高度受人关注、活跃的智能环境，这一环境能回应我们的指令，观察我们的行为，迎合并调整我们的偏好。

智能城市承诺要彻底改造过时的城市，实现服务优化以及空间安全化。通过应用市政学控制论模型，城市复杂甚至混乱的局面最终将

得以整顿。

在前期相关研究中，我把这个过程称为“销售智能化”，其中的关键点在于要让人们相信这些系统及其所呈现的愿景和价值观不仅是好的，而且是必要的。 正如我们理应预计到的，这些宣传只强调好处，却对任何问题避而不谈。他们的语气暗示着如果现在不买我们就是傻瓜。我的意思是，更加方便和高效会带来什么问题呢？

或许我们可以容忍硅谷要拯救世界的不切实际的言论，如果这些所承诺的好处并没有任何附加条件或意外后果的话。不过，当然，我们知道事情不会那么简单。在每一款智能自我追踪设备上，总有一些数据代理商和老板看到的是剥削他人的新工具。在每一款智能家电上，总有一些制造商和保险公司看到的是新的增值机会。在每一套智能城市解决方案上，总有一些警察部门和平台方看到的是行使权力的新方法。

权力与利润、收集与控制的影响，从源头上破坏了这些技术的变革。随着社会根据数字资本主义的需求进行的更新和改造，一切都变得太过智能了，反而不利于我们自己。

一、寻求新范式

比起试图修复和继续使用智能化的标签，其实我们也有充分的理由拒绝将智能化作为一种范式。当然，并非所有智能化举措都图谋不轨，还有许多智能化升级能够帮助人们改善生活。然而我们也看到智能技术是如何轻松接入现有的用于监视、管理、操控人并将人货币化的网络的，哪怕这些技术的设计初衷完全是无害的。类似情况时有发生，程度也各不相同，但已有的现实案例就已经足够引起社会各界的高度关注了。

这倒不一定是目光短浅的工程师或贪婪的公司制造了这些产品（尽管这确实也会导致问题的产生）。相反，这是智能技术赖以生存的社会、政治和经济环境所表现出来的一种症状。兰登·温纳在他的代表性论文《人造物有政治吗》中就阐述了这种动量如何促进技术发展及促成其成果的：

事实上，那些最具政治影响的技术是那些完全超越了“有意”和“无意”这两个简单分类范畴的技术。在这种情况下，技术发展过程完全偏向于某一特定方向，因此经常产生这样一种结果，某些社会利益方认为它是极好的突破，而其他方则认为它是彻底的失败。在这种情况下，说“某人有意伤害他人”既不正确，又没有深刻的见解。人们必须认识到，技术手段早已发展多时，它利于某些社会利益，因而有人注定得到的比其他人更多。

无论是提出批评方案还是替代方案，温纳都向我们阐述了至关重要的一点，即人们不要被技术分散了注意力而忽视了它之所以被创造的更为广泛的条件，就好像技术存在于社会环境和人类决策体系之外一样。就智能技术而言，我认为它是技术官僚和资本主义的后裔。技术官僚和资本主义的特性已经被编码到技术设计当中去了，因此智能技术受制于数据收集和社会控制的目标。我在此阐述的观点是关于数字资本主义总体发展趋势和轨迹的。当然，我们也会看到一些智能技术发展与此相悖的例子。但规则的例外并不会否定规则本身。到目前为止，智能技术作为一种充实和赋能资本的手段发挥着效用，这一点是毫无疑问的。

与此同时，数字创新的设计与使用无疑也可以服务于其他目的。修正和重新调整现有技术的用途是必要的，但它并不足以挑战我在前文所系统阐述的要务和利益追求。如果我们只是将思路局限于在边缘地带修修补补，也就是把注意力只放在改变技术本身，却容忍着同样的技术政治环境不变，那这样就极大地束缚了我们的变革能力。

基于不同的技术去规划一个全新的社会需要彻底变革，而这会威胁到已有权势阶层的地位，但是我们首先必须要克服自己的思想障碍。“在当前局势下，全球各地几乎所有替代性方案的提议要么是乌托邦式的，要么是微不足道的。由此可见，我们的纲领性思维已经瘫痪了。”哲学家、巴西政治家罗伯托·昂格尔（Roberto Unger）说道。如果硅谷能够以伪装成乌托邦承诺的琐碎提议为基础建立起一个帝国，那么我们也能为了变革而自由地集思广益。任何时候，有人因为没有提出建设性意见而被轻视、被批评，或其要求因为未提供详细蓝图而被驳回，都说明了当前现状正在消耗着变革的能量。