过度智能

1. Spencer Soper, “Inside Amazon's Warehouse,” Mornin_g Call,September 18, 2011, accessed January 31, 2018, www.mcall.com/news/local/amazon/mc-allentown-amazon-complaints-20110917story.html.

1. McClelland, “I Was a Warehouse Wage Slave.”

1. Kiva机器人是亚马逊在2012年斥资7.75亿美元收购Kiva systems公司的机器人项目，这家公司专注于利用机器人在仓库里完成大量网上订单的派发工作。亚马逊高管称启用Kiva机器人可提高近50%的分拣处理能力，Kiva机器人与Robo-Stow机械臂等组成的系统可在30分钟内卸载和接收一拖车的货物。——译者注

1. 洛夫克拉夫特（Lovecraft）是克苏鲁神话的开辟者。他所创作的《克苏鲁的呼唤》《疯狂山脉》等作品至今仍是许多游戏和小说的灵感来源。——译者注

1. Jesse LeCavalier, “Human Exclusion Zones: Logistics and New Machine Landscapes,” in Machine Landsca_pes: Architectures of the Post , ed. Liam Young (Oxford: John Wiley and Sons,2019), 49—55.

1. Soper, “Inside Amazon's Warehouse.”

1. Adam Liptak, “Supreme Court Rules against Worker Pay for Screenings in Amazon Warehouse Case,” New York Times,December 9, 2014, accessed February 1, 2018, https://www.nytimes.com/2014/12/10/busi ness/supremecourt-rules-against-worker-pay for-security-screenings.html.

1. McClelland, “I Was a Warehouse Wage Slave.”

1. Chris Baraniuk, “How Algorithms Run Amazon's Warehouses,”BBC, August 1, 2015, accessed January 31, 2018, www.bbc.com/future/story/20150818-how-algorithms-run-amazonswarehouses.

1. Colin Lecher, “How Amazon Automatically Tracks and Fires Ware house Workers for ‘Productivity,’” Verge, April 25, 2019, accessed May 5, 2019, https://www.theverge.com/2019/4/25/18516004/amazon-ware housefulfillment-centers-productivity-firing terminations.

1. Simon Head Mindless: Wh_y Smarter Machines Are Makin_g Dumber (New York: Basic Books, 2014).

1. McClelland, “I Was a Warehouse Wage Slave.”

1. George Bowden, “Amazon Working Conditions Claims of‘Exploitation’ Prompt Calls for Inquiry,” HuffPost, December 12, 2016, accessed January 31, 2018, http://www.huffingtonpost.co.uk/entry/amazon-workingconditions-inquiry\_uk\_584e7530e 4b0b7ff851d3fff; Zoe Drewett, “Undercover AmazonWarehouse Pictures Show What It's Really Like to Work for Online Retailer,”Metro, November 27, 2017, accessed Jan-uary 31, 2018, http://metro.co.uk/2017/11/27/amazon-warehouse-staff-taken-away-in ambulances-during-crippling-55-hour-weeks-7110708/; “Workers at Amazon's Main Italian Hub, German Warehouses Strike on Black Friday,” Reuters, November 24, 2017, accessed January 31, 2018,https://www.reuters.com/article/us-amazon-italy-strike/workers-at amazons-main-italian-hub-german-warehouses-strike-on-black fridayidUSKBN1DN1DS.

1. John Jefay, “Amazon Criticized over High Number of Warehouse Ambulance Call Outs,” Scotsman, November 27, 2017, accessed January 31, 2018, https://www.scotsman.com/news/amazon criticized-over-high-numberof-warehouse-ambulance-call outs-1-4623892.

1. Soper, “Inside Amazon's Warehouse.”

1. Gizmodo是美国一个知名科技博客，主要报道全球最新的科技类产品，报道的产品涉及高科技产品，如计算机、手机、PDA、数字相机、家庭娱乐等。Gizmodo也是最早曝光第四代iPhone的网站。——译者注

1. Matt Novak, “Amazon Patents Wristband to Track Hand Movements of Warehouse Employees,” Gizmodo, January 31, 2018, accessed February 1, 2018, https://gizmodo.com/amazon-patents-wristband to-track-handmovements-of-war-1822590549? IR=T.

1. “What Amazon Does to Wages,” Economist, January20,2018,accessed January 31, 2018, https://www.economist.com/news/unitedstates/21735020-worlds-largest-online-retailer-underpaying its-employeeswhat-amazon-does-wages.

1. Levy, “The Contexts of Control.”

1. 智能帽子SmartCap看上去可能和普通帽子没太大区别，它配备了一套脑电波监测分析系统，可持续追踪佩戴者的脑电波，使用专有算法进行数据分析。当佩戴者出现疲劳迹象和症状时，SmartCap便会对系统发出提醒，以防佩戴者因为疲劳而犯错或遭遇意外。自2012年起，SmartCap已经在南非、智利和澳大利亚等国的采矿业投入应用，并进行了超过100万小时的脑电波分析。——译者注

1. Seeing Machines是一家总部位于澳大利亚的国际化企业，其致力于成为让机器能够观察、了解和协助人类的计算机视觉技术行业的领导者。该公司的机器学习视觉平台可以通过人工智能分析头部、脸部和眼睛来实时了解驾驶员情况，以便提供给驾驶员监测系统（DMS），用于监控驾驶员/操作者注意力并辨别他们在途中的困倦与分心情况。Seeing Machines为汽车、商业车队、航空、铁路和越野市场开发驾驶员监测系统，在澳大利亚、美国、亚洲和欧洲设有办事处，目前为垂直行业的业内领导者提供多平台解决方案，包括嵌入式软件和处理器，以及售后系统与服务解决方案。——译者注

1. Haubursin, “Automation Is Coming for Truckers.”

1. Jodi Kantor, “Working Anything but 9 to 5 Scheduling: Technology Leaves Low-Income Parents with Hours of Chaos,” New York Times,August 13, 2014, accessed February 2, 2018, http://www.nytimes.com/interactive/2014/08/13/us/starbucks-workersscheduling-hours.html.

1. Kantor, “Working Anything but 9 to 5 Scheduling.”

1. Olivia Solon, “Big Brother Isn't Just Watching: Workplace Surveillance Can Track Your Every Move,” Guardian, November 6, 2017, accessed November 7, 2018, https://www.theguardian.com/world/2017/nov/06/workplace-surveillancebig-brother-technology.

1. Maggie Astor, “Microchip Implants for Employees? One Company Says Yes,” New York Times, July 25, 2017, accessed February 7, 2018, https://www.nytimes.com/2017/07/25/technology/microchips-wiscon sincompany-employees.html.

1. Astor, “Microchip Implants for Employees?”

1. Elizabeth Anderson Private Government: How Em_plo_yers Rule Our Lives (Princeton, NJ: Princeton University Press, 2017), 39.

1. 《平等信用机会法》通常被称为ECOA，1975年10月28日起生效。这项法律由联邦储备委员会负责制定和执行，适用于一切向消费者授信或安排消费者申请信用销售的政府机关、商家和个人。这项法律并不要求授信机构不顾事实地放贷，而是在对信用申请人进行调查和数据分析的基础上做出合理的授信，但不得因申请人的性别、婚姻状态、种族、宗教信仰、年龄等因素而做出歧视性的授信决定。总而言之，该法要求所有的申请人都仅仅被考虑与实际申请资格有关的因素，而不会因为某些个人的特征而被拒绝授信。——译者注

1. Rob Aitken, “‘All Data Is Credit Data’: Constituting the Unbanked,” 21, no. 4 (2017): 274—300.

1. Oliver Burkeman, “Why Time Management Is Ruining Our Lives,” , December 22, 2016, accessed February 8,

第五章智能生活机器

当家用计算机有她自己的意见时！

——迪士尼频道电影《智能的房子》的口号，1999年

智能冰箱已经成了描绘万物互联的老生常谈，它也是许多玩笑中的烂梗。回忆一下，HBO剧集《硅谷》中就有类似的场景。这部电视剧戏仿了硅谷的科技文化和公司发展。剧集主角是一群硅谷程序员，他们都住在一所位于郊区的房子里，这里后来变成了初创企业的孵化器。其中一幕开场是迪内什（Dinesh）和杨健（Jian-Yang）正在往新的智能冰箱里塞东西。这时，他们的室友吉尔福伊尔（Gilfoyle）走了过来，但他显然对这个新电器并不感冒。“看呀！”迪内什惊呼道，“它有一个屏幕，你可以看到里面所有的食物！”吉尔福伊尔指着厨房里另外一台有玻璃门的冰箱回答道：“有点像那个吗？”“这台配有一个应用程序，你可以在手机上查看冰箱里的食物。”迪内什说道。接着，吉尔福伊尔调侃了智能冰箱的很多功能，比如冰箱说话时发出的假声颤音等，他反驳说：“这玩意儿是在解决根本不存在的问题。这是最糟糕的解决主义。我们正在让那些本来挺好的机器变傻。”与此同时，杨健一直在扫描冰箱里每种食物的条形码。“啊哦，这个酸奶过期了！”冰箱用怪异的假声警告道。杨健得意地说：“看吧，这可能会要了我的命！”

智能技术，尤其是智能家电的愚蠢举动和故障是人们共同的笑点。例如智能牙刷需要连接Wi-Fi来接收定期软件更新，这中间显而易见的荒谬设计很容易遭到人们嘲讽。热门推特账号“狗屎互联网”（@internetofshit）为嘲讽那些愚蠢的、怪异的、易出故障的、令人毛骨悚然的，以及没有必要连接互联网、嵌入软件的东西建立了一个庞大的粉丝群。该账户有一条热门内容就是关于存在网络安全漏洞的性爱玩具的，这意味着黑客可以窃取玩具设置的控制权，并且获取用户的隐私数据（例如体温等）。“狗屎互联网”账户简介中的口号就是对这种漫不经心的智能化设计理念的嘲弄：随便放个芯片进去。

尽管这些家用智能技术遭到了推特用户的嘲讽，但它们已经成了家庭中常见的设施。根据麦肯锡咨询公司（McKinsey）2017年发布的一份报告，美国已有2 900万户家庭拥有智能技术，而且这一数字每年都在增长。 从初创企业到跨国企业集团等，大家都在积极进军智能家居市场。诸如谷歌和亚马逊这样的科技巨头，它们正在销售语音助手之类的家用设备。这些设备可以回答问题，响应命令，并控制灯具和音箱等联网设备。美国通用电气公司（GE）和韩国三星集团（Samsung）等大型制造商提供智能版家用电器，例如智能炉灶和智能冰箱等。普通的炉灶只能用来做饭，而智能炉灶则会记录你吃什么，多久吃一次，什么时候吃。也许它将来还会提供某种品牌的广告，或者建议你去改变饮食习惯。

我完全支持吐槽智能家居，但对这一增长趋势进行批判性探究意味着我们要做的可不仅仅是对明显半生不熟的产品开玩笑而已。

一、和机器人霸主一起生活

智能家居的一个关键卖点是它可以把你的家变成一个舒适的宫殿。如果将一个人的家视为这个人的城堡，那么智能升级会让人们对自己的领地拥有更大的控制权。“举例来看，智能家电能够监控烹饪过程的每一分钟，轻松确定冰箱中的食物，它将各方面联系起来，使用便利，性能强大，为用户提供理想的体验。”LG电子的一位副总裁约翰·泰勒（John Taylor）说道。

类似的宣传话术到处都是，无论是出售相关产品的公司，还是对最新科技产品充满热情的记者都爱这么说。宣传册和产品演示经常使用像“杰森一家” 这样欢快的科幻式比喻来说明他们关于智能家居的想法：智能家居可以了解你的喜好，听从你的命令，满足你的愿望。

现在，越来越多的公司开始雇用作家创作原创营销故事，用于描绘由思科、劳氏（Lowe's）、耐克（Nike）或其他公司带给你的未来场景。

与此同时，这些品牌营销故事与科幻小说在描写智能家居方面的想法并不相同。长期以来，人们把房子想象成计算机的想法越来越粗糙，越来越没有文采。我们在消费类电子产品展览上看到的市场营销活动向我们宣传着企业的愿景和欲求，而科幻小说则善于向我们展示那些已经渗透到文化当中的恐惧，这值得我们用批判性的眼光来看看不同家庭反乌托邦的故事是如何被描绘出来的。

我认为我们可以将这些反乌托邦故事大致分为两类：作为技术保姆的智能家居和作为技术主宰的智能家居。

二、因为关心，所以受伤

1999年，迪士尼频道推出了一部名为《智能的房子》的原创电影，吸引了大批粉丝。 这部电影讲述了库珀一家的故事，家庭成员包括单身父亲尼克、十几岁的儿子本和快到青春期的女儿安吉。他们赢得了一场比赛，因此搬进了一所配备了尖端技术的实验性“未来之家”。这所房子配备了一种名为帕特（Pat）的先进人工智能技术，帕特是“个人应用技术”（Personal Applied Technology）英文首字母的缩写，此外还有很多先进功能，比如墙壁大小的电子屏幕、自动化厨房和监测居住者健康和饮食的生物传感器等。

据设计房子的程序员介绍，“帕特是街区里使用最方便的家居智能技术。她观察房子里每一个成员，研究他们的习惯，满足每一个需求。帕特在工作中学习的能力是她最高级的特点……她和你在一起的时间越长，她学到的东西就越多，所以不久后她对你的了解就会超过你对自己的了解。”延续了人们以女性代词称呼汽车的做法，掌管房子的人工智能也被编码为女性人格，被称为“她/她的”。这种奇怪的性别设定也成为整部电影情节发展的关键所在。