---
schema_version: "library-reader-v1"
source_type: "original_book"
title: "过度智能"
author: null
edition: null
publisher: null
year: null
isbn: "9787500167778"
library_document_id: "01a014be-ccc7-468b-9134-021f1b19aac4"
source_sha256: "6e94330ca61bbddcf33e4e661d62f62ac5d547e1e227f48ffdbbcf42ae2a3ab2"
pdf_physical_page_count: 190
pdf_physical_page_index_base: 0
range_start: 50
range_count: 10
html_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4?start=50&limit=10"
markdown_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=50&limit=10"
previous_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=40&limit=10"
next_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=60&limit=10"
---
# 过度智能
> 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。
## PDF_PHYSICAL_PAGE_INDEX=50 | PRINTED_PAGE=NOT_DETECTED
生活中充满了各种类似的检查站，而拥有正确的密码是应对控制社会的必要条件。“由于看不见的、泛在的、持续的用户行为监控机制无处不在，密码被用来获得或限制个体自由。”奥伯恩和霍姆斯写道。简而言之，在根茎、分体和密码的共同作用下，控制得以实施。
当一切都能匹配得上，当一切都在顺畅、高效地运转时，我们没有理由停下来。在硅谷的流行语中，界面是无摩擦的。无论对错，这些控制系统的设计初衷就是尽可能不被用户注意到，直到用户发现自己的密码是无效的。而一旦屏幕出现拒绝访问、密码无效、交易被拒绝等提示时，它们的存在和权力就会凸显出来。无论是一个运行良好的控制系统，还是一个容易出现故障的控制系统，它们最终可能会导致相同的后果。人们不可能分得清楚该去责怪谁或去责怪什么。我做错什么了吗？系统出故障了吗？需要什么流程来解决这个问题？
随着智能技术对门、家庭和城市等实体控制的进一步增强，作为人际关系标志的对话却几乎派不上用场了。因为智能技术互动的内核是僵化的，是居高临下命令式的，而不是沟通。控制的结果并非来自“更好辩论产生的非胁迫性力量”，甚至并非来自劝诱和哄骗，而是单纯来自强制力。 这些控制系统将程序员权力的空间维度和时间维度都拓展了。系统中的检查站执行了他们的权威，同时也将他们从系统交互中移除掉了。你无法与算法争辩，也无法与数据争辩。你只能手握密码，希望系统运转正常。
三、命令与征服
简而言之，控制是通过各种各样、杂乱无章、错综连接、隐秘存在的系统来实施的。这些系统监控人们，将个体分解成可被实时记录、分析和评估的数据点，进而通过检查站与密码来控制个体的访问自由、行动自由等。
德勒兹的理论也许只是一个“自我防范”的预言，其本意在于为新形态的控制与操纵敲响警钟，当前却常常被用来说明智能技术的阴暗面。对一些人来说，他们热切希望智能社会的梦想能成真。然而，对其他人来说，智能社会更像是一场噩梦，它似乎将德勒兹对于“控制社会”的描绘当成了技术政治的构建蓝图。这些控制系统共存于同一个范围内，无论是那些令人赞叹或令人毛骨悚然的技术，还是那些令人深感不安的技术，它们都紧密联系在一起。 无害的技术周遭也许险象丛生。说到底，这些系统的不同之处在于它们究竟代表了哪一方的利益，驱动系统的要务是什么，带来的影响及其感知又如何。在数字资本主义的时代背景下，梦想和噩梦的分布是高度不均衡的，也是高度集中的。
## PDF_PHYSICAL_PAGE_INDEX=51 | PRINTED_PAGE=NOT_DETECTED
1. Gilles Deleuze, “Postscript on the Societies of Control,” October (Winter 1992): 7.
2. 有关利用德勒兹及其控制理论针对智能城市进行更加深入的理论分析，请参见我和弗兰克·A.帕斯夸尔(Frank A. Pasquale)的合著《控制谱系：智能城市的 社 会 理 论 》 （ The Spectrum of Control: A Social Theory of the Smart）。 20, no. 7(2015): n.p.
3. Michel Foucault The History of Sexuality. Volume 1: An Introduction, trans. Robert Hurley (New York: Vintage, 1990).
4. Michel Foucault The Birth of Biopolitics: Lectures at the College de , trans. Graham Burchell (New York: Picador,2008). Biopower and discipline are not strictly the same thing.Biopower is the application of power to govern life, both at the levels of bodies and populations. Disciplinary power works by creating certain subjectivities in people. But the two are close enough, in theory and practice, to lump them together here.
5. Foucault, The History of Sexuality, 139—140.
6. Patrick O'Byrne and David Holmes, “Public Health STI/HIV Surveil-lance: Exploring the Society of Control,” Surveillance and Society 7, no. 1 (2009): 61.
7. Kate Crawford and Vladan Joler, “Anatomy of an AI System,”accessed December 7, 2018, https://anatomyof.ai.
## PDF_PHYSICAL_PAGE_INDEX=52 | PRINTED_PAGE=NOT_DETECTED
## PDF_PHYSICAL_PAGE_INDEX=53 | PRINTED_PAGE=NOT_DETECTED
第三章数字资本主义的十大论题
更加智能的企业……将助力经济增长和社会进步。
——吉尼·罗曼提（Ginni Rometty），IBM董事长兼首席执行官，2013年
在转向探索智能家居、智能城市和其他领域的智能技术之前，我将在本章概述一系列研究数字资本主义运作方式及其影响的论题，这些都是基于对技术政治发展的批判性研究得出的结论。如果我们不改变研究路线，那么这一系列研究中的每一篇文章都是技术政治发展现状与未来的声明。综合起来看，它们将为数字资本主义整体发展做出研判。这些研究是建立在与日俱增的相关研究的基础上的，聚焦于数据驱动的监控、互联网平台以及资本主义之间的关系，同时这些研究成果也将为该研究领域做出贡献。
我所说的数字资本主义，专指利用数字技术的资本主义。数字资本主义是一个宽泛的术语，创造这一术语意在合并一些流行用语，而不受其他概念的狭隘聚焦或特殊适用特征的限制。以下是最有影响力的两项成果：尼克·斯尼塞克（Nick Srnicek）对“平台资本主义”展开了批判性分析，旨在阐释诸如脸书（Facebook）、优步等平台是如何出现，如何运转，以及如何主宰21世纪经济的。 同样的，肖莎娜·朱伯夫（Shoshana Zubof）关于“监视资本主义”的畅销书深入探讨了谷歌等科技公司的商业模式和生存危机问题，这些公司痴迷于获取人们的行为数据并将其货币化。
上述两部著作都提供了有用的分析和案例，但我的研究方法有所不同。与斯尼塞克不同，我关注的不仅仅是平台，我所检视的对象是更加广泛的，由数据驱动的、可联网的自动化系统背后的政治经济。不同于朱伯夫，我并不认为资本主义中监视主义的中心是她所说的“凶猛突变”，而是觉得这是资本主义更正常、更具社会公正的版本。我们所面对的并非资本主义之外的技术政治体系，也不是资本主义的异常状态。从许多方面来看，它只是传统资本主义的变体，现在运行在新的硬件和软件之上。这就引出了第一个论点。
## PDF_PHYSICAL_PAGE_INDEX=54 | PRINTED_PAGE=NOT_DETECTED
一、资本运作在适应数字时代的同时，仍然保持着排挤、榨取和剥削的基本特征
智能技术及其设计者与使用者并非存在于真空当中。所有的技术都是环境的产物。它吸纳了当前占主导地位的文化价值观、社会结构、经济制度和政治制度的诸多特征，并进一步强化了这些特征。
最近几年，一批优秀书籍相继面世。借用贝尔·胡克斯（bellhooks） 的说法，这些著作非常详细地探讨了智能技术和硅谷如何反映长期存在的帝国主义、能干主义、父权主义、异端规范主义、白人至上主义、资本主义政权等维度。 这些书籍包括但不限于《黑暗同样重要》（2015年）、《数字社会学》（2016年）、《跨学科互联网》（2016年）、《程序化不平等》（2017年）、《压迫算法》（2018年）和《自动化的不平等》（2018年）等。 书中所提及的不公正和伤害并不一定是被有意设计到技术当中并对世界产生影响的。如果只是这样的话，那么这个问题很容易被解决，我们只需要揪出恶意的工程师然后开除他们，或者我们也可以学习谷歌的倡导“不作恶”的公司信条，当然现在连“不作恶”底线的负担都过重了 。
相反，它们往往是隐含的偏见、规范和假设的结果，这些偏见、规范和假设随后又被埋藏在层层代码之下。久而久之，意识不到不公平和排他性的文化又进一步助长了这些偏见、规范和假设，而人们也缺乏足够的动力去做出改变，因为从现状中受益的人正是那些决定创造什么技术和如何使用这些技术的人。正如科技史学家马尔·希克斯（Mar Hicks）在20世纪50年代研究英国早期大型计算机发展时所做出的精彩论断：
## PDF_PHYSICAL_PAGE_INDEX=55 | PRINTED_PAGE=NOT_DETECTED
然而，为强大利益服务的计算，无论是服务于国家还是企业，往往倾向于灌输刻板印象和静态身份，从而使现有权力得以具化和永久化。这些系统的目的是规范信息并服务于特定目标。为了提高自身的效率和权力，这些系统必须将现实程式化，并将现实转化为一种以看似无摩擦、无偏见和公正的方式来运转的信息景观。但事实上，这种信息可被计算的过程依赖于观点和偏见的制度化，这些观点和偏见来自系统的构建者，并反过来服务于他们自身。
因此，数字时代的兴起并不是对历史的颠覆性突破。这是一种对历史重新包装、复制与复兴的新方式。我们必须透过高科技的表象，看清隐藏其中的旧权力制度的阴谋诡计。 事物变化越多，同时也越保持不变。
二、智能技术是一种社会“地球化”的方式，服务于数字资本主义的繁荣发展
“地球化”是指改造一个行星的环境以便适合人类居住的想法。在后面的章节中，我们将看到智能技术是如何被用来改造工作、家庭和城市等主要场所的。然而，当前版本的“地球化”旨在为一种特定的人类生活模式创造条件，而这种模式是根据数字资本主义要务来设计的。在这个过程中，它也改变了人们的生活方式以及人们与环境的互动方式。
企业家总是乐于谈论创建“生态系统”，这包括互联网公司、平台、应用程序和设备等。分开来看，单个设备或单个平台都只是稳定环境中一个微不足道的补充。但是作为一个整体来看，智能技术集群会占据上风，破坏平衡并改变环境。
## PDF_PHYSICAL_PAGE_INDEX=56 | PRINTED_PAGE=NOT_DETECTED
然而，我们从来没有听说过他们正在创建的是个什么样的生态系统。生态系统多种多样。它是一个基于合作和利益共享的互惠型生态系统吗？它是不同生物可以相互依存的共生型生态系统吗？或者，它是要吸干宿主的血，榨干宿主的能量的寄生型生态系统吗？又或者，它是捕食者与猎物之间的食物链型生态系统吗？最重要的是你在这个生态系统中处于什么位置，是艰难苟活还是会风生水起？
这个新的生态系统与自然生态系统极不相称。它就像一个生物穹顶，其中每个方面都被网络持续记录和控制着。这不仅仅是人造环境和自然环境之间的鸿沟。 更加确切地说，这是一种转向构建微观管理围场的过渡，这些围场记录人们的行为并做出反应，同时据此来控制人们的行为。 这种差别就像是经典的霍尼韦尔温度调节器和Nest智能恒温器之间的差别，前者能自动调节房间温度，而后者还会记录谁在家，他们待在哪里，他们的偏好是什么等，然后向保险、能源和安全等第三方行业机构来报告这些数据。
当我们的工作场所、家庭和城市都变成了可编程的围场时，各种行为就会被调整到理想的平衡状态，这种状态非常有利于数字资本主义的疯长。请记住，专门销售大规模系统及其愿景的全球化公司IBM就将这一过程称为“构建一个更加智慧的星球”。 这听起来确实像“地球化”的另一种表述。
那些谋求创造更加智慧的星球的机构也将是全新生态系统的顶级掠食者，它们食物充足，生存环境安全可靠。同时，虽然有些人无法达到食物链顶端，但他们拥有资源和技能来适应数字资本主义智能星球上的气候变化。但是，还有大量的人要么被智能星球所排挤，要么被智能星球所困扰。他们必须学会在智能星球上生存下去，学会以某种方式证明自己的价值，否则就会被消耗掉。这个不是未来必然要发生的，也尚未完全成为现实，但却是我们目前飞奔所向的。
## PDF_PHYSICAL_PAGE_INDEX=57 | PRINTED_PAGE=NOT_DETECTED
三、不接触太多智能技术，不使用它们，也不会被它们所利用，对这些技术的存在乐得无知，这是一种特权
人们通常将使用高科技产品视为社会特定阶层才能享有的特权：有闲钱的上流阶层，想要获取一切优势的年轻都市职场人士，或者是甘愿住帐篷排长队等待新品首发的科技极客。虽然从消费升级的角度来看，这似乎也没错，但若仔细想想，这些论调实际上都经不起推敲，尤其是当我们考虑的对象不仅仅是口袋里的手机时。所谓的雅皮士和极客们可能对许多尖端的智能技术应用一无所知。
当思考智能技术时，我们应该关注的不仅仅是健康腕带或虚拟助手；还有安装在汽车上的跟踪设备，如果有人付款逾期，汽车贷款公司可以远程关掉发动机；或者是手持扫描设备，这种设备让雇主得以支配员工的每分每秒；或者是评分算法，它让数据代理商能够决定谁租得到房子或找得到工作；又或者是联网家用电器，它让保险公司能够优化保费和修正用户行为；还有监控系统，它使警察部门得以持续地、穿透性地凝视着整个城市。
最重要的是，除了思考技术本身，我们更应该去关注人，去关注哪些人的利益增加了，哪些人受到了来自技术的冲击。
智能技术的影响分布并不均衡，其中，劣势人群更能感受到智能技术的危害。有时，他们被智能技术所过度代表，就像有些人的生活被政府机构和金融机构放置于显微镜下审查，而特权群体不必仅为获得基本商品和服务而忍受如此苛刻的核查。在其他时候，部分人群在分析软件的数据集里是缺失的，或是被错误代表的，例如人工智能招聘工具会自动给予男性应聘者高于女性应聘者的评价。 而此类常见的程序化不平等的现象并非巧合。
边缘人群被迫生活在一个平行现实世界当中，他们同时遭受了被特定系统纳入或排除带来的危害——他们无法使用一些设备而只好被迫使用其他设备，但却不一定能从中获得好处。与此同时，特权阶层基本上不会考虑这些现实的存在。对他们而言，这一切都是为了便利和联系，或者对于最高特权阶层而言，这一切都是为了权力和利益，而他们这么做几乎不需要承担任何实质性后果。
## PDF_PHYSICAL_PAGE_INDEX=58 | PRINTED_PAGE=NOT_DETECTED
四、数据收集的常见做法应该被视为盗窃和/或剥削行为
在我们所身处的被监视的社会里，存在这么一个怪异且秘而不宣的事实：出于未知的目的，一些未知的实体正在收集我们的数据。世界上许多有价值的数据都是关于人的：我们的身份、信仰、行为和其他个人信息。这意味着数据收集通常与侦测、跟踪和分析人的系统紧密结合，这些系统的侵犯性与日俱增。 满足数据提取的需求会强化现有数据收集操作，催生新的数据收集行为。
纵观资本主义的发展历史，数据获取遵循了开采业的做法，例如掠夺土地和资源开采，就很少考虑知情同意以及对数据来源方的公平补偿。
知情同意的问题相对简单。硅谷企业几乎完全无视了用户的知情同意权，这在新闻报道、学术研究和国会调查中已经表露无遗了。如果企业要征求用户同意以记录、使用和/或出售他们的个人数据，这通常是以合同形式进行的。最常见的一种合同约定称为终端用户许可协议（EULA）。这些协议出现在网站和移动应用程序上的页面，让你在使用服务之前点击“同意”或“接受”。终端用户许可协议是数字技术的一个标志，根据法学教授埃雅尔·扎米尔（Eyal Zamir）的说法，“目前超过99%的合同是通过这种形式来签订的。” 随着世界变得更加智能，这些合同正被运用在小到猫砂盆，大到车辆买卖等所有交易当中。
终端用户许可协议被称为“范式合同”，因为它们通常适用于所有用户。它们是单方面的、未经磋商的、不可协商的。它们是冗长、密集的法律文件，被设计得完全不具可读性。你要么毫无疑问地同意，要么就会被拒绝访问。因此，政治经济学家基恩·伯奇（Kean Birch）认为，“很难将终端用户许可协议视为自由和自愿的安排，因为协议的一方无权实施他们的要求。” 这些公司并没有征求用户的同意，用户只需服从就行。这远远达不到真正保护我们的选择权和自主权的自愿知情同意的标准。
## PDF_PHYSICAL_PAGE_INDEX=59 | PRINTED_PAGE=NOT_DETECTED
补偿问题则更为复杂一些，很大程度上是因为我们很难对个人信息给出公平的定价。对于不同业务而言，不同类型的数据价值也不尽相同。并非所有数据都可以变现或者一定能被变现。随着数据收集规模不断增长，数据价值也呈现出非线性的提升。一个人的数据价值可能并不大，但成百上千或上百万人的汇总数据价值可能就极高。 然而，我们可以通过以下问题来判断补偿的公平性：数据收集者可以为数据提供什么样的补偿（如果有的话）？与数据收集者获得的价值相比，这些补偿又处于什么水平？
补偿通常以免费服务的形式体现，例如允许用户免费使用脸书平台或者谷歌搜索引擎等。服务提供商并不收取服务使用费，而是以收集数据作为回报。即便我们承认的确有很多用户认为这是完全公平的补偿，但实际上，还有不计其数的公司是在用户完全不知情的情形下收集、使用和出售个人数据，更谈不上提供什么补偿了。 也就是说，很多数据收集机构连第一关都过不了，毕竟用户一无所获很难被认为是公平的。
那些提供服务来交换数据和注意力的公司确实为我们提供了一些方便上手的应用程序和平台服务，尽管它们同时也一直被大规模安全漏洞、干扰竞选等问题所缠身。它们从这些服务中获得的回报是什么？答案是通过在规模高达数十亿美元（或万亿）的数据经济中敛聚财富和权力来统治新的镀金时代。 这似乎是种极端不公平的交易，或者至少我们应该认真探讨一下其中的公平性问题，而不能默认这就是既定事实。
目前人们普遍认为大家不必再关心隐私，尤其是伴随着数字技术长大的千禧一代，他们愿意为了便利而放弃隐私。所谓的思想领袖指出这种态度的转变是为了证明特定商业模式的合理性，而这种商业模式的基础是将人们置于持续的、侵犯性的监视之下。然而，当你真正地去询问他们怎么想的时候，你会得到更加沉重的看法。
下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=60&limit=10)