过度智能

就在不久之前，收车人总在半夜出现，借着夜色将逾期付款者的车拖走。但现在，收车人再也不需要利用夜幕来掩护他们“合法偷车”的行为了。有了加装在车上的智能设备，这些收车人就像随时坐在副驾驶位上一样。他们了解你的实时位置，也能随时把车收回来。

汽车“启动中断设备”允许汽车贷款机构跟踪车辆位置，无论是实时的还是延时的。如果贷款人拖欠付款（有时只能宽限一天）或驶入了未授权区域，追债人就能远程禁用车辆。人们无法躲避这些追债人，因为他们只需要在自己的智能手机上操作一下就可以禁用车辆，直到贷款人还款为止。正如一位汽车贷款公司员工所描述的：“我在沃尔玛购物时就能顺带把一辆车给停了。” 这种方式既不费劲，也不需要偷偷摸摸，更无须发生当面冲突。

以上三个例子来自《纽约时报》近期对于汽车贷款机构越来越多地使用启动中断设备的调查报道。 虽然这些故事特别令人痛心，但类似情况却并不少见。贷款公司如果将车租给次级贷款人，要求他们在车上安装启动中断装置是行业惯例。人们倾向于将“次级”与抵押贷款和导致2008年金融危机的有毒资产联系起来。然而，次级贷款并不只是针对住房。2016年的一项研究表明，美国几乎一半的汽车贷款都发放给了被打上了“次级”标签的借款人。这意味着这些人的信用评分很低，财务风险很高。 PassTime是一家领先的启动中断设备制造商，它已售出了数百万计的汽车启动中断设备，其客户包括汽车贷款机构、汽车经销商以及世界各地的保险公司。不仅如此，商业杂志《公司》（Inc_.）2015年还将PassTime评为“美国增长最快的私营公司”之一。

这些贷款公司声称，如果没有启动中断设备，他们就不会向次级借款人提供信贷。他们把这种控制技术描绘成为一种“强悍的爱”，意在帮助人们实现“自立”并始终保持在正轨上。 他们还把这种设备说成是一种必要的权衡，而通常如果劣势人群想要获得移动性特权的话，就必须做出这种取舍。

但是，千万别让汽车贷款机构所谓的善意欺骗了你。这些设备是用来增强信贷机构获取报酬的能力的，是通过拓展这些机构对于空间、物和人的权力来实现的。除了GPS跟踪和远程收车之外，车里还有一种支付提示设备，它会在到期付款日当天每隔五秒钟就发出一次“哔哔”声。这是一种没人应该去忍受的暴躁的爱。该设备早期版本是用来帮助宠物主人追踪动物行踪的，这一起源充分说明了其设计内在的权力结构。

正如大量研究所表明的，尤其是在2008年金融危机之后，次级贷款机构对于技术的使用不仅是为了向风险人群提供信贷，更是为了最大限度地去提高利润率。 汽车启动中断设备是一个极端的例子，说明了弱势人群在当下是如何以全新方式被剥削的。信贷机构愤世嫉俗地使用公平和机会等话语来为其剥夺隐私、自治和尊严的制度辩护。更重要的是，启动中断设备可能会在车辆行驶或空转的同时生效，这会对驾车人和其他共用道路的司机造成巨大的危险，这本身就存在隐患。

然而，这些装置并非孤例。用来监控和管理人的智能技术五花八门，而汽车启动中断设备只是赤裸裸的现实案例之一。从位置跟踪和远程控制，再到价值提取和行为修正，一切就好似从数字资本主义手册中直接抄下来的。这种设备被掠夺性信贷机构所使用，强化了我们对于此类问题和影响的反应，但我们也应该要多加小心，不要将其视为智能技术出岔子的孤立案例。

技术和司法学者弗吉尼亚·尤班克斯（Virginia Eubanks）指出，一个预测数据收集和社会控制未来如何发展的好方法是去询问贫困群体和边缘化群体，因为他们通常是“监控技术的测试对象”。正如一位靠政府福利救济的妇女曾经告诉尤班克斯的那样：“你们应该关注我们的遭遇。接下来就是你们了。” 她指的“你们”就是像尤班克斯（和作者自己）这样的白人中产阶级专业人士。

如果智能技术不在弱势群体中先行测试和训练，那么就可能首先会作为高端消费商品出现在市场上。早期采用者和拥有可支配收入的人们会使用它。在这两种情况下，如果这项技术是行之有效且有利可图的，那么智能特征将作为标准功能被集成到产品当中。接着，这项技术将被逐步推广到其他人身上，渗透整个社会，直到它成为日常生活的一部分。电子和数字计算领域中很多应用的早期发展就是如此。

举个例子来看，美国前进保险公司（Progressive）为客户提供了一款名为“快照”（Snapshot）的设备。客户可将其安装在自己的汽车上。这款设备会记录下客户开车的地点、时间和方式，然后将这些信息回传到前进保险公司。这些数据包括：你经常“急刹车”吗？即使周围没有人，你也会加速吗？你开车会经过“危险”社区吗？你会在“可疑”的时间段开车吗？那么，现在你的保单保费可以准确地反映出这些因素。正如该公司首席执行官所说，“快照”是“个性化保险定价体系的重要开端，它基于对驾驶行为的实时监测，基于对个人的统计数据来定价”。

虽然“快照”设备并不会被用于关掉汽车点火控制系统，但它确实可以帮助保险公司以其他方式对驾驶员展开监视和管理。目前许多保险公司也在使用类似的设备，比如英国最大的车险公司阿德米拉尔（Admiral）也为客户提供了一款名为“小盒子”（LittleBox）的设备，这是其“黑匣子”保险计划（Black Box Insurance program）的一部分。如果保险机构不想在公司内部开发这种智能技术，他们可以聘请像The Floow 这样的初创公司来提供服务。The Floow公司从司机的智能手机传感器中收集数据，并基于对这些数据分析为每个司机打出一个“安全评分”。公司据此来预测司机近期发生事故的可能性有多大，而The Floow公司的分析将直接影响司机的保险费。

我们可以将这些设备和评分看成是使用在中产阶级身上的汽车启动中断设备版本。那些避免了被汽车贷款机构硬性控制的人们，又被诱骗落入了汽车保险公司的软性控制当中。 我们已然饱受各类系统的影响，这些系统被设计成各种方式来收集我们的数据，控制我们的行为。要想知道智能技术如何限定我们的身份、行为与外部评价，我们无须举出激进的例子，也无须去预测未来。智能自我已经成为现实了。

熟悉“自我追踪”这类热门话题的人们可能会期望我在“智能自我”这一节中重点介绍量化自我运动、可穿戴设备最新趋势以及身体测量历史等内容。毫无疑问，这些议题都是智能自我研究领域中有趣且重要的部分。然而，这些议题已经吸引了众多资深研究人员和记者们的关注。 在此，我更想讨论的是，智能自我不仅只涉及人们如何去追踪自我，除此之外还有很多重要的方面。接下来，我们将研究智能技术的两个实际案例——评分系统和员工管理，从中我们会看到，智能自我的核心影响来自拥有权力的人与机构如何处理你的数据，以及他们如何据此引导你的行为，无论你是否希望他们这样做。

一、评分系统：数据流转与处理

在我们身处的监视社会里，存在这么一个怪异且秘而不宣的事实：有一些未知的实体正出于未知的目的在收集我们的数据。公司和政府以日渐创新的方式渗透到我们生活的数据流当中，获取着关于我们在做什么、认识谁、要去哪里等信息。数据收集的方法和目的不断扩展，这似乎没有尽头，也没有限制。

在汇集了每个人数千个数据点的系统基础上，一个庞大的行业目前已经建立起来了。这些公司被称为数据代理商。它们捕捉我们的个人信息，并根据各种指标对我们进行分类。它们创建的个人资料档案就像是人们的虚拟化身，也就是分体化自我的数据替身。它们向营销公司、保险公司、雇主单位以及政府机构和警察部门等机构出售个人数据和资料的访问权限，而这些机构基于虚拟化身做出的判断将直接影响到我们实实在在的机会和福利。

据有关机构估计，数据代理行业年度营收规模已高达约2 000亿美元。 益博睿（Experian）、艾可飞（Equifax）和环联（TransUnion）是三家最大的数据代理公司，每家的年度营收规模都高达数十亿美元。这些数据代理公司的规模非常惊人。2014年，美国联邦贸易委员会（US Federal Trade Commission）发布了一份报告，这份报告调查了九家最大的数据代理公司：

其中，第一家数据代理公司的数据库中有14亿消费者的交易信息和超过7 000亿的聚合数据元素 ；第二家数据代理公司的数据库覆盖了金额高达1万亿美元的消费者交易数据；第三家数据代理公司每月向其数据库添加约30亿条新记录。最重要的是，数据代理公司拥有大量关于个人消费者的信息。例如，九大数据代理商中有一家就针对全美消费者定义了3 000个数据字段。

数据代理商往往行事隐蔽，但2017年9月，艾可飞遭到黑客攻击，1.43亿人的个人信息被泄露，整个行业被推到了聚光灯下。 黑客访问的数据包含极为敏感的信息，如社会安全号、驾驶证号和信用卡号等。然而，尽管艾可飞遭受黑客攻击的事件让人非常震惊，但它所暴露出来的也只是数据代理商所囤积数据的冰山一角。益博睿、环联同样是与艾可飞不相上下的数据巨头，除此之外，还有数千家与三大巨头相比规模较小的数据代理公司，更不用说各类公司所创建的海量数据库了。这些公司按理说并不该将我们的数据卖给第三方。

数据代理商利用所有这些信息将社会划分为多个细分市场。一项对该行业运营状况的调查显示，它们所使用的类别标签可能是冷酷无情的，甚至是残忍可怖的。例如，这些可怕的标签包括“脆弱的家庭”“易受骗的老年人”“可能是躁郁症患者”“强奸受害者”“女儿已在车祸中丧生”等。 在它们从数据中榨取价值的过程中，只要能提高数据代理行业精准定位和剥削人的能力，似乎一切都是可以下手的对象。

数据代理公司也会使用不那么可怕的标签来将我们分类，比如人口统计、消费者决策和政治观点等。如果这些数据不是公开的，那么数据代理商就会声称它们可以利用其他信息来推断我们的身份并预测我们的偏好。例如，假设你居住在某个邮政编码区内，在一家快餐店工作，并且没有汽车，那么数据代理商就使用分析模型或者是伪装成算法的刻板印象来推断你的种族、年龄、教育和社会经济状况。人们以为数据应该是匿名的，但大量研究已经表明，对于那些拥有权限工具和专业知识的人来说，利用少量数据点去弄清楚某人的身份和其他私密信息并不困难。

如果将多个数据库中的信息合并，数据代理商还能提供关于你的身份和行为的更加完整的信息，这些信息会以意料之外甚至令人不安的方式被使用。例如，一些医院和健康保险公司会通过数据代理公司来购买人们的信用卡消费记录。你看到保险公司奖励你购买健身房会员资格（即使你很少再去健身房了）时也许会很高兴，但是你也有可能会惊讶地发现，保险公司决定要惩罚你过于频繁地购买麦当劳的行为了。 （我将在下一章深入探讨保险业对于智能技术的热切拥抱）正是因为这些数据代理公司，使得原本孤立的信息现在被整合起来了，并以令人担忧的新方式被利用。

除了建立个人数据库之外，许多数据代理商还会提供信用评级服务，因此除了对我们进行分类之外，它们还会对我们进行评价和排名。它们所创建的个人档案和信用分数常常被用来做出直接影响我们生活方方面面的决策，例如贷款、租房，或者是找工作等。 它们分配给每个人的“营销评分”是经过精心设计的，目的是规避旨在约束不公正使用数据档案的相关法规。 类似《公平信用报告法》（FairCredit Reporting Act）的立法初衷就是要终结“不相关”信息的收集行为，并为“获得许可”使用这些消费者报告信息的机构制定规则。然而，由于狡猾的法律周旋运作，这项法律并不适用于数据代理商。

实际上，对于数据代理商如何组合与销售它们的数据信息，目前并没有任何限制，也没有任何监管或透明度。这些公司在灰色地带运营。即使是美国参议院委员会出面对数据代理商进行调查，他们也无法获得关于代理商如何收集和使用数据的实质性回应。 这被一个强大的行业所阻挡，这个行业既重视自己的隐私，又从侵犯他人的隐私中获利。这使得那些被分类、被画像、被评分的人们毫无追索权可言，而这些人就是我们每一个人。即使数据代理商关于你的画像资料并不完整甚至是完全错误的，即使它们的评分是基于卑劣的假设，但你也很难去更正这些记录。哪怕你明明知晓这一切，你却无能为力。与此同时，这些不准确的评估仍将对你产生实实在在的影响。

这些公司利用了人们以为数据驱动系统是客观的、中立的看法。它们将系统所输出的结果表述为对世界的准确反映，从而使它们得以逃避任何对于有害的、不公正后果的指责。面对外界对它们所采用的分析方法的质疑，它们可能会这么回应：这些就是事实而已，如果你不喜欢这个世界的运作方式，那也并不是我们的错！但实际上，这些被计算机科学家凯西·奥尼尔（Cathy O'Neil）称为“数学毁灭性武器”的东西，其中包藏了大量刻板印象、偏见和错误。 它们反映并助长了长期存在的社会不平等问题。

“正如社区可以作为种族或族裔身份的代表一样，人们也有新的担忧，即大数据技术可能会被用作‘数字红线’来标记不受欢迎的群体，无论他们是作为客户、雇员、租户还是信贷接受者。”白宫2014年发布的一份报告就大数据的影响提出了上述警告。 “数字红线”这一术语让人想起了这样的日子：银行会用红线将城市地图特定地区圈出来，而这些被红线圈出来的区域通常是社会边缘人群居住的地方，银行不会给圈定区域的人们放贷，至少不会以公平的利率贷款给他们。而数据代理商又将这种人群阶层划分提升到了一个新的高度。这些公司并不会采取公然的歧视做法，而是依据种族、性别以及其他“受保护类别”数据的替代品进行相关性分析，并从中得出具有歧视倾向的结论，同时它们也留有貌似合理的否认余地，以此规避监管部门的回击。

正如法律学者前期研究所表明的那样，数据代理商所使用的技术在2008年金融危机中发挥了至关重要而隐形的作用。这些技术帮助信贷机构找到了脆弱的目标群体，而这些人很可能会受诱导而签署有毒的次级抵押贷款协议。 我曾经与社会活动家、作家阿斯特拉·泰勒（Astra Taylor）合作写过一篇文章。该文章分析了无良的金融机构如何利用脸书通过对个体画像进行分析而制作的定向广告来欺骗单身母亲和负债累累的学生等弱势群体。 金融危机爆发以来，数据代理商不仅逃避了惩罚，而且它们跟踪和锁定人群的能力还变得日臻复杂、精细和有利可图。“现在，这个体系急速发展起来了，你和这个体系中的参与者之间没有任何关系：网络广告商、数据代理商以及正在榨干你信息的各种公司……”美国公共利益研究集团（US Public InterestResearch Group）的埃德蒙·米尔兹温斯基（Edmund Mierzwinski）说道。

想要了解数据是如何推动排挤性和剥削性系统发展的，我们不必费力去找各种例证。赛博朋克先驱威廉·吉布森（William Gibson）有一句名言：“未来已经到来，只是分布不平均而已。” 如果想知道这些数据驱动系统是如何发展起来的，我们也不必盯着预测未来的水晶球看。

二、管理员工：重返“摩登时代”

查理·卓别林（Charlie Chaplin）的经典电影《摩登时代》（1936年）是一部精彩的讽刺作品，开场文字旁白称之为“一个描述工业时代的故事，描述了私营企业与人类追求幸福间的冲突”。 这部电影揭露了工业社会的反人性本质，展现了机械创新如何被用来提高效率和最大限度地实施剥削。尽管这部电影是80多年前拍摄的，但只要对工作和技术等描写稍加更新，这个故事可能也是关于当下的。

这部电影开场展现了由卓别林所饰演的不幸工人的日常工作场景。我们看到了很多他辛苦工作到筋疲力尽的场景。他的老板查看着安装在工厂四处的屏幕，监督着每一个工人。这些屏幕播放着双向可见的视频：老板可以从办公室监视整个工厂，而工人也可以同时看到老板正在监视自己。这种监视的场景可能会让人联想起乔治·奥威尔（George Orwell）的小说《1984》，而该小说是在这部电影公映13年后才出版的。

接着，镜头转向卓别林，他正在流水线上工作着。机器的运转速度常常超过他，迫使他加快工作以跟上流水线的速度。不久，卓别林打卡休息去上厕所，希望能单独歇一会儿。他刚喘过气来，厕所里的监视器就打开了。老板冲卓别林嚷道：“嘿！别再偷懒了，赶紧回去干活吧。

很快，午餐时间的哨声响起。这时，我们看到一群发明家正在向老板推销一种新的节省劳力的技术，称为“巨浪喂食机”。他们只需一只实验小白鼠演示就可以证明这一点。老板选了卓别林来试用新技术。一位工程师这样描述这台机器：“一种实用的设备，它能在工作时自动给你的工人喂饭。不要停下来吃午饭，要领先于你的竞争对手！‘巨浪喂食机’将砍掉午餐时间，增加你的产量，减少你的开销。”卓别林被绑在机器上，他在流水线上工作的同时被强行喂食。然而不一会儿，机器却突然出了故障，不停地用机械臂猛击他，还把食物塞在他的脸上。

让我们快进到下班前。这时，卓别林已经筋疲力尽，但他仍在流水线上工作着。为了跟上传送带的快节奏，卓别林绝望地被拖进了这台巨型机器。在这部电影最著名的一个场景，卓别林被巨大的齿轮压碎了，这些齿轮强推着他在机器内部翻腾，就好像他正在被一个机械怪物咀嚼着，消化着。现在看起来，这台机器上只少了一个“工业资本主义”的标签。卓别林的同事把机器倒过来，他被吐了出来。卓别林身心俱疲，精神崩溃，老板就让警察把他拖到医院去了，资本主义又多了一个牺牲品。

《摩登时代》精妙刻画了工业社会中工作和生活的扭曲状态。即使放在今天来看，它仍然是一部精彩的电影。但如果我们去拍一部《摩登时代》的续集用来反映当前智能社会中的工作主题，那我们应该怎么拍呢？视觉风格又如何呢？电影的主要场景就不是在20世纪30年代的工厂里了，而是在21世纪初进行残酷剥削的工作场所：比如，一间亚马逊仓库。

三、更智能、更努力地工作

这是在亚马逊仓库上班的第一天。亚马逊将仓库称为“运营中心”。该仓库位于市区外，刚刚投入使用约一个小时。 新招聘的员工要赶在天亮之前抵达仓库来接受培训。 这些人中大多数都受到了经济停滞和就业市场低迷的沉重打击，他们渴望拿到薪水。亚马逊非常清楚自己对于这些临时就业大军有着举足轻重的影响力。 或许这些新人也得到了与麦克·麦克利兰（Mac McClelland）相同的建议——麦克利兰是一名记者，目前在仓库工作——一名当地商会的工作人员对他说：“他们（亚马逊）每天都在不断地招聘和解雇员工。你将不断看到周围有人离职或被解雇。当他们对你大喊大叫时，你不要认为是针对个人的，不要崩溃，也别哭。”

亚马逊仓库是一个巨大的、洞穴状的混凝土结构。仓库里面有多个楼层，每一层都堆满了货架。传送带穿过仓库，把箱子运到不同的站点。如果你在其中一个配备有Kiva机器人 的仓库工作，那么你会发现仓库一部分空间属于“人类禁入区域”，在那里，一群机器平台以网络编排的方式来移动货架。这个区域是黑暗的，死寂的，禁止入内的。任何挡道的人都可能会受到严重伤害，也许对亚马逊来说，更重要的是，这会破坏系统的精细协作。对“人类禁入区域”的描述带着一种洛夫克拉夫特式 的氛围：这是一个超现实的恐怖深渊，这里由不可预测的机器人统治着，它们偶尔从黑暗中浮出水面，然后又退回到死寂的机器群当中。

在不同的季节里，这些仓库要么异常闷热，要么冻得要死。 大型装货间的门一直关着，以防止员工偷东西。这意味着，每个员工在去自助餐厅、上厕所或者下班之前都要接受机场式安检，安检排队时间长达30分钟，当然这部分时间是没有报酬的。

数千名工人在仓库里辛苦奔波，从不停歇，就好像鲨鱼停下来可能会死掉一样。一些工人把货品从货架上取下来，而另一些工人把货品装进箱子里。仓库里安静得令人毛骨悚然，分拣工人、包装工人和库存工人都在机械地完成他们的任务。 仓库里并不禁止人们交谈，但与同事交谈需要精力，需要呼吸，需要花费时间。当完成每项任务的速度都以秒为单位来计算时，时间和精力便都是稀缺资源。

所有的分拣工人都配备了一台手持电脑，它向工人发出命令，告诉他们必须取回什么东西，以及货品在庞大的仓库里的位置。然后，设备会开始倒计时，工人必须在限定时间内找到并扫描正确的货品。如果未及时找到货品，那么分拣工人的任务完成率就会下降。如果完成率低于特定标准，那么这名工人就会被解雇，一名新员工将取而代之。接着，循环再次开始。