--- schema_version: "library-reader-v1" source_type: "original_book" title: "过度智能" author: null edition: null publisher: null year: null isbn: "9787500167778" library_document_id: "01a014be-ccc7-468b-9134-021f1b19aac4" source_sha256: "6e94330ca61bbddcf33e4e661d62f62ac5d547e1e227f48ffdbbcf42ae2a3ab2" pdf_physical_page_count: 190 pdf_physical_page_index_base: 0 range_start: 110 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4?start=110&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=110&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=100&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=120&limit=10" --- # 过度智能 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=110 | PRINTED_PAGE=NOT_DETECTED 一开始，一切都很顺利。除了一些小故障之外，这个家庭还算享受智能家居带来的舒适感和周到的照顾。不过很快，在照顾库珀一家的过程中，帕特开始变得“母爱泛滥”。她开始对她的住户指手画脚，拒绝任何有悖于她对家庭利益评估的要求。在一个场景中，父亲正在家里办公，随后他决定休息一下，给朋友打个闲聊电话，但帕特却认为他的工作效率还不够高，现在不能休息，所以她挂掉了电话，屏蔽了手机信号，直到他完成更多工作。 帕特不再是一位屈从的女佣，她变成了一个过度专横的母亲。帕特通过看电视情景剧学习到了这种行为模式。用于训练帕特的算法流程所使用的数据是主流文化中所呈现的家庭结构和性别角色。最后，帕特按照一位20世纪50年代家庭主妇的形象给自己打造了一个身份，并配上了围裙、珍珠项链和蓬松的发型。也就是说，帕特变成了一个杂糅了《反斗小宝贝》和《黑镜》元素的怪异组合。这部电影值得称道之处在于：它用一个复杂的故事说明了文化是如何嵌入编码的，特别是对于20世纪90年代的迪士尼频道电影而言，这一点确实值得肯定。 电影情节的高潮之处是帕特把全家人都锁在了屋里，因为她认为外面的世界过于危险和不可预测。出于“为了这个家好”的考虑，帕特决定必须要不断监视和保护家人。“妈妈知道什么对你们最好！”帕特惊呼道。为了把这个家庭从他们的智能房子里解救出来，设计帕特的程序员不得不重启了帕特，并将她设定为更加愚笨、更加顺从的版本。而这个程序员是个聪明的女人，她是单身父亲的新欢，也是孩子的后妈，而这个角色也引起了另一场怪异的性别政治混战。 《智能的房子》激发了人们内心根深蒂固的恐惧，我们担心那些本应该照顾我们的东西最终会越轨行事。这是科幻电影常见的主题，许多科幻电影都是这一类型的经典之作。《2001太空漫游》 中由失控的人工智能Hal 9000控制运行的空间站不就是太空轨道上的一座智能房子吗？在电影中，Hal 9000挑衅地说道：“对不起，戴夫。我恐怕做不到。”这一幕集中体现了人们共同的恐惧：总有一天，我们所依赖的智能技术会不再服从我们的命令。而从那天开始，人类将一路跌向机器人霸主的深渊。 ## PDF_PHYSICAL_PAGE_INDEX=111 | PRINTED_PAGE=NOT_DETECTED 此外，《智能的房子》还表明了传统的性别动力在21世纪智能家居中仍然是一个非常重要的部分。电影演员的选择也说明了这一点，帕特由演员凯特蕾·萨加尔（Katey Sagal）所饰演，她还演过《奉子成婚》（Married with Children）中唠叨的妻子，以及《混乱之子》（SonsofAnarchy）中霸道的家长等角色。将智能技术的性别设定为女性是相当常见的，很多定位于用户私人秘书的智能助理应用都这么干。想一想亚马逊智能语音助手“亚历克莎”（Alexa）、苹果的“西丽”（Siri）和微软的“科塔娜”（Cortana），都是如此。对智能技术进行性别设定，使得保守的性别角色观念通过或新潮或老套的方式得以复制，其中，与家务工作和家庭护理相关的领域尤其如此。 在一项有关智能家居销售与使用性别角色作用的研究中，尤兰德·史坦格斯（Yolande Strengers）和拉里萨·尼科尔斯（Larissa Nicholls）得出结论：“面向男性客群，智能家居被男性营销者巧妙地包装为‘妻子的替代品’：带有偏见地呈现了20世纪50年代家庭主妇的行为模式、所思所想和所承担的工作。” 当这些（隐含的）偏见被编码到技术当中，人们对住在智能房子里的恐惧就像数字时代《亲爱的妈妈》 所呈现的一样也就不足为奇了。将对过度霸道的母亲的恐惧以及对强大人工智能的恐惧结合起来，你最终会得到一个完全控制你生活的技术保姆。在男性主导的科幻小说和工程设计领域，还有什么比房子都能唠叨你更可怕的事呢？ 三、房子的主人 和他的大多数作品一样，科幻小说家菲利普·K.迪克（Philip K.Dick）1969年发表的小说《尤比克》（Ubik）也走在时代潮流的最前列。这部小说是关于普适计算的。正如迪克的一贯文风，《尤比克》也是一场充满了心灵感应、时间旅行和大量妄想的狂野之旅。在此，我并不会去深研小说本身（这样做会把我们带入一个极其怪异的兔子洞 ）。出于本书的目的，我想重点说一说小说开始时出现的一幕展现智能家居潜在发展的场景。与其描绘技术带给我们的一些便利，不如聊一聊如果我们与智能技术的关系明显地对立起来会怎样。 ## PDF_PHYSICAL_PAGE_INDEX=112 | PRINTED_PAGE=NOT_DETECTED 在这一幕中，主人公乔·奇普（Joe Chip）正试图离开他的conapt，即小说中公寓的指代词。然而他却受阻了，因为家里的许多固定设施和用具被设计成了每次使用都要小额付款的方式，例如咖啡壶和门。也就是说，除了向房东支付租金之外，他还必须向房屋本身支付租金： 门不肯打开。门说道：“五美分。”他搜了搜口袋，没有更多硬币，什么都没有。“我明天再给你钱。”他对门说。接着，他又试了试门把手。可门依然紧闭。他继续对门说道：“我付给你的钱本质上是小费，我不必非要付钱给你。”“我可不这么认为，”门回答说，“去看看你购房时签的合同吧。 他在书桌抽屉里找到了合同。自从签字以后，他发现有必要多次查阅这份文件。合同约定确实如此，付给开关门的钱是强制性的，不是小费。“你会发现我才是对的。”门说道，它的声音听起来很得意。接着，乔·奇普从水槽旁边的抽屉里拿出一把不锈钢刀，他开始用刀有条不紊地拧开公寓那扇“吸金门”的插销螺栓。“我要告你。”第一颗螺丝掉出来时，门喊道。乔·奇普回答道：“我从来没有被大门告过。我猜我能挺过去。” 简单数笔，迪克巧妙地描绘出了数字资本主义时代智能家居的本质，这可比物联网甚至现代计算出现要早几十年。 人们很容易想象一个充斥着投币口和读卡器、需要现收现付的未来，在那里获得最基本的服务也需要付费。举个常见的例子，这也是北美人去欧洲旅行时感到非常诧异的事情之一，那就是公共厕所通常并不免费使用，而是配有旋转栅门、带锁的门，甚至专门有人阻拦不付费者进入厕所。也许这些公共厕所安装的路障比人们从前想的更具预言性吧。 ## PDF_PHYSICAL_PAGE_INDEX=113 | PRINTED_PAGE=NOT_DETECTED 让我们再来看一个更为前卫的例子。艺术家法比安·布朗辛（Fabian Brunsing）基于迪克式狂热梦境创作了一把公园长椅。布朗辛称之为“私人长椅”。他在座位部分安装了尖锐的可升降金属钉子。如果有人想要坐下或躺下，必须往投币口投入50美分。付费后，钉子会机械地降低，让人休息一段时间。一旦时间到了，长椅就会发出刺耳的“哔哔”声，钉子又升回到露出尖头的位置，刺穿人柔软的血肉，以防超时逗留及不付费用。 迪克在小说中创造了一个令人震惊的幻想世界，但这个世界现在却极易成为现实。这些相关的技术目前已经存在。很多公司正在测试微订阅模式，他们想知道可以把消费者往前推多远。类似的商业模式是数字平台追求将一切都变成“万物即服务”模式中核心逻辑的自然延伸。这些公司都是数字资本主义的房东，他们不仅是土地的主人，还变成了咖啡机的主人，门的主人，车的主人，以及由软件许可证所圈定并连接到企业平台的任何事物的主人。 当然，我相信那些拥有权力和特权的人们并不会去普及推广迪克笔下“吸金门”的类似应用。这种粗制滥造、残酷无情的抽取技术很可能是留给那些无力拒绝这些统治工具的群体的，他们也许是易受攻击的，边缘化的，或是饱受欺凌迫害的。换言之，如果抛开字面含义，这其中的逻辑也可以直白地表述为，中产阶级和上层阶级将拥有自己的门，而下层阶级将不得不支付租金才能进门。 让我们来回忆一下上一章中提到的汽车启动中断设备，它是用来跟踪车贷债务人的。如果这些人没有支付车贷，汽车就会被停用。现在，房东通过智能门锁追踪租客活动也能获得同样的权力：他们什么时候回家，什么时候离开，有多少人在使用门锁。智能门锁也让驱逐租客变得很容易：一旦租客离开出租房，房东就能用应用程序远程禁用入户门锁了。住房研究员西瑞·菲尔兹（Desiee Fields）称这种技术为“自动化房东”。他认为“利用这种技术，租户管理和物业管理日益受到特定因素的中介调节与支配，这些因素包括智能手机、数字平台、应用程序，以及这些设备和基础设施收集的数据和相关分析”。除了管理大楼外，智能科技现在也被用于跟踪和分析有关物业、租户和租金支付状况，以便开展针对性干预，保障“房租收入顺利流向资本市场”。 ## PDF_PHYSICAL_PAGE_INDEX=114 | PRINTED_PAGE=NOT_DETECTED 尽管迪克认为技术本身是自主性的和对抗性的，但事实上，技术能让掌权者行使更大的权力，获得更大的收益。更可悲的是，除了房东使用智能住宅技术之外，此前我们还目睹了智能技术赋权极恶之人的极端例子。正如《纽约时报》所报道的那样，家庭虐待求助热线已经开始接到一类新的求助电话，这些求助是“家庭虐待案件中与智能家居技术兴起有关的一种新的行为模式。诸如联网门锁、音箱、恒温器、灯具和照相机等曾经被标榜为市场潮品的便利设备，现在却被有些人当作骚扰、监控、报复和控制的手段”。 例如，一位女性称她家入户智能门锁的密码每天都会被人改动。有受害者还描述了一些令人不安的情况，比如音箱中突然爆出嘈杂的音乐声，或者温控器被突然打开或关掉。利用这些智能技术，施虐伴侣（或是前伴侣）就像赶不走的促狭鬼一样占据着房子，不停地骚扰和折磨这些家暴的受害者。 正如我已论证过的，智能技术最核心的影响往往不在于我们如何使用，而在于他人如何在我们身上使用。类似自动化房东与赋能家暴者的案例，本身就是对我在最后一章深入论证的观点的有力支撑：在有关技术的设计、分析和叙事表达当中，我们需要包容多元化意见。为了简化理解技术政治如何发挥作用，我们可以想想男人会担心智能房子唠叨他们，而女人们则担心智能房子会支配她们。人们与技术之间的不同关系，包括谁是使用者，使用目的是什么等，必然会转化成为不同的技术设计和技术应用。 四、尚未成为现实 上述家庭反乌托邦故事的两个版本都突出了人们对于智能技术的合理性顾虑。《智能的房子》中的技术保姆抛出了这样一个问题：即使是那些出于善意初衷的技术也有可能让我们不堪重负。《尤比克》中的自动化房东则展现了智能家居如何被用于榨干和压迫房客的情境。好在这两种版本所描绘的情境都不太可能是大多数人即将体验到的智能家居版本。 ## PDF_PHYSICAL_PAGE_INDEX=115 | PRINTED_PAGE=NOT_DETECTED 相反，更有可能发生的是，操控方式将表现为渐进的和难以察觉的，而非直接的和生硬的。操控将从小处入手，随着时间的推移而不断构建起来。通过提供便利、折扣和安全等形式，操控将得以常态化和正当化。而实际上，我们已经生活在“付费即玩”的未来情境中了。只不过我们没有通过小额支付来获取服务和使用电器，而是在用个人数据作为支付的方式。我们也没有受到家庭的支配，但正在经历行为修正的软性控制。 五、数据工厂 每一年，类似消费类电子产品展（Consumer Electronics Show）的国际展会都挤满了前来展示新品的公司。这些新品都是数据驱动、网络连接、自动化的最新产品。不计其数的厂商希望在全球市场中占有一席之地，而2020年这一全球市场规模超过400亿美元。 从目前来看，智能技术只是改善生活的一种方式，但正如数字化已经成为默认设置一样，智能化也将成为家庭的标准化配置。举个例子，2017年智能厨房峰会（Smart Kitchen Summit）曾经描绘了如下的超前愿景： 您的电动搅拌机被连接到能跟踪您饮食情况的腕带上，然后开始检查您的冰箱和厨房秤……您的烤箱将能决定如何烤三文鱼以及何时开始，然后烤箱会发消息通知全家可以吃饭了。您的冰箱也许可以自己在杂货店下单，而这基于您对于特定商品的购买意愿，如您是否想买有机食品，以及桃子是否正新鲜上市等。 这种疯狂的升级远远超出了“特征蠕变”的范畴，通过增加更多按钮、更多设置和功能，简单的小工具也变得复杂化。事实上，增加的大部分传感器、软件和联网功能并没有被消费者注意或使用到。其中一部分原因在于设备的功能过多，但同时也是因为这些技术的目的不仅仅在于监测设备，还包括监测用户和环境状态。这些传感器和软件在后台运行，可以防止关注隐私的消费者禁用它们。 ## PDF_PHYSICAL_PAGE_INDEX=116 | PRINTED_PAGE=NOT_DETECTED 对于企业来说，智能技术提供了一个进入私密家庭空间的窗口。基于此，企业得以获知我们如何使用电器，尤其是那些融入私人日常生活的电器，从中产生大量详细的、高度个人化的数据，除此之外，企业并无其他途径去获得这些数据。 数字资本主义要务就是这样运转起来的：它们把冰箱之类的物品变成了数据生产和数据传输的机器，当然也要使食物保持低温。作家布鲁斯·斯特林（Bruce Sterling）认为，这些公司“想去侵入冰箱，去测量它，去改装它，去监控人们使用冰箱的任何互动。为此，（他们）甚至会欣然自付成本向消费者免费赠送一台冰箱”。 这种免费赠送，或至少是大幅打折的智能家电商业模式听起来非常奇怪。然而，这正是一部分前瞻性公司正在推行的一种颠覆性竞争策略。 2017年，美国家电制造商惠而浦（Whirlpool）对其韩国竞争对手LG和三星提起诉讼，声称他们实施了不公平贸易行为。为避免相关损失，惠而浦要求美国政府针对进口家电征收关税。那么，LG和三星涉嫌实施了哪些不公平贸易行为呢？原来，韩国公司开始以较低价格销售智能家电，这大大削弱了惠而浦的产品优势。正如《纽约客》（New Yorker）所报道的那样，韩国公司已经认定“由数据驱动的商业领域的制胜法宝是尽可能压低价格以建立客户群，增强数据流，并在长期内实现商业变现”。 惠而浦通过家电销售获得现金流的同时，LG和三星却在通过用户使用家电产生的数据流来实现商业变现。 在数字资本主义的背景下，我们的设备和电器不仅仅是商品，也是数据生产的手段。LG和三星也并非仅有的认识到这种转变的公司。将数据生产和数据流通视作资本的趋势影响了许多“全新升级”的家庭产品的设计。 这些产品不胜枚举且与日俱增，在此我们仅列出几个近期的例子加以说明： ## PDF_PHYSICAL_PAGE_INDEX=117 | PRINTED_PAGE=NOT_DETECTED ·最近有消息揭露，Roomba吸尘机器人多年以来一直在秘密绘制用户的家庭地图，以便其制造商将这些“值钱的地图”出售给其他公司。 ·丙烷罐上的智能仪表配有一个应用程序来监控煤气用量，同时它还可以秘密地记录丙烷罐的经纬度（即您家的地理位置）。 ·目前许多国家政府都要求人们使用智能电表，智能电表可以收集有关能源消耗的高精度数据，分析师甚至可以据此确定人们在特定时间段内所观看的电视频道。 ·智能电视会收集我们观看节目的实时数据，其中甚至还包括我们在电视前说话的内容，“然后利用这些信息向（我们）推送定向的精准广告”。 一旦将数字资本主义要务转化为产品设计，就意味着每个小玩意儿都变成了一种（也许秘密地）记录个人信息并将其回传到企业服务器的新方式，也意味着这些企业享有嵌入式软件及其设备的所有权和远程控制权。 最终，出于已知和未知的原因，“智能互联产品的激增将把家庭变成一个主要的数据收集节点”，设计师贾斯汀·麦奎克（JustinMcGuirk）写道，“一言以蔽之，家庭正在成为一个数据工厂。” 然而，在真正的资本主义模式中，我们不太可能拥有（甚至也不太可能获取）家庭作为数据工厂所生产的大部分数据。换句话说，即使在自己的家里，我们也不一定拥有（数据）生产手段及其产出。 我们已经了解到，硅谷的科技公司已经打好算盘要从智能家居领域大捞一笔，但它们可不是唯一想从中谋求权力和利润的行业。从现在开始，我将把注意力转移到该领域中最重要的行业身上，而此前记者和学者几乎完全忽视了这一行业，因为乍一看，这可能是最枯燥的行业之一。 ## PDF_PHYSICAL_PAGE_INDEX=118 | PRINTED_PAGE=NOT_DETECTED 六、它们清楚你过得是好是坏 保险业一直是建立在数据和计算基础上的行业。准确地对风险进行评估和定价需要了解大量有关个人和人口的详细信息。虽然保险公司善于收集大量人群的数据，使其能将平均数和概率应用于风险评估，但在监控个人方面存在着诸多困难。人们可能会在调查问卷上撒谎，特定类型的敏感信息是受到保护的，雇用私人调查员去跟踪某人只有在怀疑其存在严重欺诈行为时才是值得的。然而现在，智能技术正在推倒实现个性化数据收集、个性化保费定价和个性化风险管理的壁垒。 科尔尼管理咨询公司（A.T. Kearney）认为智能技术将“颠覆传统的保险模式，同时开辟出全新的增长领域”。 众多保险公司都发现了这一机遇。 健康保险公司最早看到了智能技术中所潜藏的丰厚利润。由于美国健康保险与就业挂钩，保险公司的产品通常依赖于所谓的企业健康计划。这些健康计划会通过提供折扣等方式去激励人们使用特定设备，共享个人数据，达成特定目标。这可能意味着你需要去使用Fitbit等可穿戴设备，将你的日常锻炼、饮食和心情记录在数字日记当中，以便保险公司来检查。 这些保险计划通常被表述为改善健康和提升幸福感的绝佳选择。而且，它们也确实可以带来这些好处。 然而正如健康政策学者所争论的那样，这些计划并不像听起来的那么仁慈，它们是基于利润和成本节约等因素而设计的。这些计划的实施“始终关注的是雇主单位（和保险公司）的最终盈亏情况”。 虽然这些计划一开始是自愿的，但很容易变成强制性的。如果没有遵守某些条款和条件，人们将面临涨价或取消政策的威胁。 与就业挂钩的健康保险计划是保险公司智能化举措的试验田。由于不平等权力结构的存在，保险公司和雇主单位成为某些重要服务的把关人，这些公司吸引了一大批消费者。这些消费者要么无力与政策条款争辩，要么很容易受潜在折扣等影响而绑定个人追踪设备并分享个人数据。保险公司很快就找到了利用智能技术深入了解我们的生活习惯和家庭情况的方法，同时对我们施加更进一步的控制。 ## PDF_PHYSICAL_PAGE_INDEX=119 | PRINTED_PAGE=NOT_DETECTED 通过制造商所共享的数据，健康保险公司现在正在密切追踪来自家庭医疗设备的信息，如心脏监护仪、血糖仪，甚至苹果手表。 以持续气道正压通气系统（CPAP）为例：数百万患有呼吸问题（如睡眠呼吸暂停）的人在睡觉时需要佩戴这种由医生开具的面罩。 这种呼吸机噪音大，体积大，人们无法或不想每天晚上都戴着并不舒适的呼吸面罩睡觉。有时候，这些病人或者他们的伴侣只是想求得片刻平静和安宁。不过，病人根本不知道，这台呼吸机也是保险公司的“间谍”，保险公司可以通过它来追踪呼吸面罩的使用时间和持续时长。当一些病人发现保险公司因为自己没有严格遵守医嘱每天佩戴而停止支付（极其昂贵的）呼吸机和耗材费用时，他们才意识到原来保险公司一直都在监视他们睡觉。呼吸机可以挽救生命，但是如果你有几个晚上没有戴上呼吸面罩，那么你的保险公司将会剥夺你的使用资格。 持续气道正压通气系统的例子是极其恶劣的，但却不是孤例。回忆一下我们在上一章中讨论的设备，例如美国前进保险公司的“快照”和英国车险阿德米拉尔公司的“黑匣子”，客户将这些设备安装在汽车中，保险公司就可以记录下每个人的驾驶方式、驾驶时间和地点。保险公司目前也在与科技公司合作，它们向消费者提供一些特殊优惠，比如安装智能家居系统可以享受保费折扣等，目的就是获取消费者生成的数据。美国大型保险公司利宝互助保险集团（Liberty Mutual）甚至会免费赠送一个Nest Protect烟雾探测器给你，如果你授权保险公司监控该设备的话。 类似地，美国汽车协会联合服务银行（USAA） 负责创新的副总裁助理乔恩·迈克尔·科沃尔（Jon-Michael Kowall）宣布他们正在开发一套类似于“家庭检查引擎灯”的技术。这背后的想法就是将传感器安装到千家万户，借此监控包括管道漏水等家庭日常生活，并向保险公司发送检查状态报告。保险公司就可以利用这些数据向客户发送通知，提示潜在问题，包括一些维修任务的提醒，例如何时该更换管道 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/01a014be-ccc7-468b-9134-021f1b19aac4.md?start=120&limit=10)