奎克的藏经阁 · MinerU 解析内容

过度智能

190 个 PDF 物理页 · 本页显示文件第 121–130 页

PDF 物理页索引 120

文件中的第 121 页 · 印刷页码:未识别

(或者也有可能是提示保险拒付)的提醒,甚至可能还有“你家孩子是否按时放学回家”之类的提醒。

一家大型保险公司所使用的广告语是:“就像一个好邻居,美国州立农业保险公司(State Farm)就在你身边。”但有了智能家居,更准确的广告语也许应该是:“就像一个多管闲事的邻居,我们一直在观察和评价你。

“在不久的将来,”科沃尔继续说,“你只需给我们留下一个邮寄地址,我们就会给你寄去一盒子高科技设备。盒子里的东西可以预防索赔,也可以为投保人提供更好的服务。” 按照这个速度来看,智能家居最大的发展动力可能是保险公司的补贴,而不是人们自掏腰包去购买升级电器和新潮玩意儿。

事实上,许多分析师都预测保险将成为支撑智能技术的主要业务模式,这类似于目前许多网络平台依赖于广告资助的商业模式。 谷歌和脸书是世界上最富有的两家公司,也是互联网世界的把关人,它们的收入几乎全部来自广告。众所周知,对用户眼球和广告点击的渴望几乎影响了互联网设计和运营的方方面面。重要的是,我们必须认识到,任何由保险模式所资助的技术,必然被设计为反映保险公司而非广告公司或其他行业的利益,目标是实现它们的价值观、目的和目标。在当前阶段,对于我们和它们而言,关键在于如何将抽象的利益转化为具体的技术现实。结合新兴的行业实践,本节将让我们了解保险技术是如何发展起来的。

科技企业已经从与保险业的合作关系中清晰地看到了商机。戴尔(Dell)计算机公司的咨询部门2015年设立了一个“保险业加速器”项目,微软与美国家庭保险集团(American Family Insurance)合作启动了一个类似的孵化器项目。在一份近期报告中,IBM概述了它将如何使用下一代“认知计算系统”来帮助保险公司“挖掘它们已经拥有的大量隐藏的财富:数据”。 IBM承诺将赋能保险行业价值链的每一个环节,从定位潜在客户到预测性风险评估,再到自动化理赔等。

PDF 物理页索引 121

文件中的第 122 页 · 印刷页码:未识别

一个由效率和信息来增压的保险业并不一定是坏事。保险公司声称智能技术将支持更加精准的保险定价,从而确保人们所支付的保费确实是他们应该支付的金额。它们所举出的假设案例总是关于客户获得惊喜折扣和快速支付的,这对某些人来说确实是有用的。

然而,我们没有任何理由相信整个保险行业不会利用风险评分、个性化定价和其他创新性技术带来的能力去增加它们的营业收入。当一个行业想要急切地拥抱“颠覆性创新”时,这并非意味着它就是那个要被颠覆掉的行业。

但是,当智能技术被用于榨取更多客户价值与规避索赔义务时,问题就来了。打击不公平的(甚至非法的)“价格优化”的操作已经非常困难了。在这种操作当中,保险公司分析非风险相关的数据,例如信用卡消费记录等,同时基于这些数据来锁定人群,并根据他们的支付能力而不是风险性行为来实施个性化定价。现在,类似操作及其所依赖的敏感数据集可以通过不透明的算法来“洗白”。这样一来,即使被揭露出存在偏见和欺骗行为,人类精算师也能推诿脱责。

此外,保险公司一直试图管理风险,而不仅限于评估风险。伴随着精细的数据监控,行为修正的权力也随之而来。保险机构对人们行为方式所产生的巨大影响,从个人到跨国公司和警察部门,都是有据可查的。 法学教授汤姆·贝克(Tom Baker)和乔纳森·西蒙(Jonathan Simon)认为:“保险业是私人生活领域最大的监管性权力机构之一。” 保险行业的记录能力、分析能力、约束能力和惩戒能力往往超越了政府机构的权力。

保险业将这些操作委婉地称为“损失预防和控制”。保险公司必须支付的任何索赔都被视为利润损失,预防这种损失意味着要管理这些索赔的来源——人。通过政策条款和价格激励,保险公司可以确保它们的保单都是稳赚不赔的。人们能够如保险公司定义的那样,被塑造成良好行为规范的模型。

放纵总是要付出代价的。智能技术让保险公司得以跟踪详细的个人数据并做出应对。随着智能家电越来越普及,保险公司拥有了密切监控我们生活更多内容的机会。也许保险公司会与更多的智能家居产品制造商展开合作。它们可以提供返现,作为我们购买智能卧室、智能厨房或其他智能产品的价格补贴。而作为回报,你只需要授予它们收集产品实时数据的权限而已。那么接下来呢,你的冰箱正在偷偷密告你的饮食习惯。晚餐来点甘蓝汁和藜麦豆腐吗?再喝点红酒,来点巧克力蛋糕吗?啧啧!

PDF 物理页索引 122

文件中的第 123 页 · 印刷页码:未识别

有了保险公司给予生活指导,我们也许能过上更加健康、更加安全的生活,但如果服从监管和规训只是为了消除恶习和偏差,那么这听起来就像是一种异常窒息和完全无菌的生活方式了。当然,前提是你确实能根据保险公司的指导来成功调整自己的生活方式。

拿数据监控换取折扣,拿控制换取便利,这种权衡目前看起来也许是没什么害处的。但是,一旦人们对于数据公开的期望成为常态,那么优惠折扣很快就会变成一种惩罚。 从自愿注册到强制注册的转变已经开始了。

2018年3月,西弗吉尼亚州公立学校的教师举行了罢工,这一事件成为这种转变的前兆。他们罢工的主要原因之一是学校医疗保健计划发生了变化:新的计划要求教师去使用一款名为Go365的“健康工具”——由医疗保健公司Humana开发的一款手机应用程序。该校一位教师迈克尔·摩卡迪安(Michael Mochaidean)在播客采访中解释道:

这次罢工最大的导火索就是我们健康保险项目中一个叫做“Go365”的应用程序……从根本上看,它让人们的健康状况变得游戏化。我们必须使用智能手机、苹果手表或其他设备去签到,以此证明我们正在做某种运动。我们每年要累积到3 000分,第二年要累积到5 000分,依此类推,不断增长。可是教师每天要工作约12到15小时……要按这种要求,我们不得不抽出更多时间去健身房。对于许多教师来说,这就是一个转折点,他们觉得这实在是太过分了。

对于教师来说,这并不是因为自己放纵或者懒惰而被指责,而是另一种形式的侮辱和剥削,是对他们本来就很紧张的工资的另一种克扣;是在他们本已劳碌的生活上强加的另一种义务;是评价他们绩效的另一种方式;是对他们医疗保障和生计的另一种威胁。通过组织罢工来抵制保险公司诸如侵入性数据跟踪和行为控制等的做法,是一种不寻常的反应。教师成功地从他们的医疗保险计划中取消了Go365项目。但很现实地看,我们不希望当前和将来所有背负着类似条款的人也以同样的方式来抵制。目前看来,保险公司似乎会不断地推陈出新,用更智能的方式来获取利润与削减成本。大多数人可能会觉得自己别无选择,只能随波逐流,否则后果自负。

PDF 物理页索引 123

文件中的第 124 页 · 印刷页码:未识别

随着保险公司所实施的监控“日益被人们所接受”,法学教授斯科特·佩佩特(Scott Peppet)认为:“它将会导致新的污名:当信息披露变得低成本和常规化时,那些不愿被披露的人就是可疑的。”阻碍数据流动,哪怕是出于隐私保护的原因,也“有可能被人认为在刻意隐瞒信息” 。拒绝让保险机构审计你的日常生活和家庭习惯,是一个危险的信号。也许保险公司会因为你不愿分享而提高保费价格。你的索赔可能会被拒付,因为你没有使用保险公司指定的数据流设备,保险公司会据此假设你试图骗保。又或者,如果你完全不同意佩戴、安装和使用这些由保险公司免费提供的智能设备,那么你的保险计划则有可能会被取消。如果在某个时刻,你决定不再过所谓的智能生活,不再住在智能房屋中,那么保险公司将收到提示,以便它们相应地调整你的保险计划(就像持续气道正压通气系统用户所遇到的那样)。

最后,保险公司就可以用“必须服从,否则后果自负”来取代“信任是必须的,但核实也是必要的”这句老话了。

如果保险确实为智能家居提供了资金支持,那么这对于“这些技术是如何发展的、它们如何影响我们的生活、谁能从中受益等”究竟意味着什么?通过对智能技术的设计和部署施加影响,保险公司能够对人行使广泛的权力。每一台设备都像一扇进入你生活不同部分的窗户,而保险公司想成为窥视者。它们正在努力创造一个没有什么能逃过它们注意的世界。你沉迷的每一种含糖饮料或高脂肪食物都能影响到你的保费。你家Nest Protect烟雾报警器电池没电了一直在响,而你每晚一个小时去更换电池都会增加你的风险评分。

PDF 物理页索引 124

文件中的第 125 页 · 印刷页码:未识别

智能家居为我们提供了一个高效生活的样板,但如果保险公司为所欲为,这个数据工厂也将会被用来培养符合它们利益的人。

事实上,保险公司变成了一个邪恶版的圣诞老人。它们在你睡觉的时候盯着你,知道你在吃什么,来评判你过得是好是坏。所以,按照它们认为你应该表现的样子去做吧。

七、侵扰家庭

说到智能家居,世界上一些大的公司,更不用说许多小型初创企业,现在都是我们的室友,而且这幢房子目前已经非常拥挤了。

2018年,记者克什米尔·希尔(Kashmir Hill)决定在自己家里安装各种智能技术,并跟踪每台设备传输的所有数据。她在同事苏里亚马图(Surya Mattu)的帮助下安装了一个特殊的路由器,用来监控所有进出房屋的数据,例如智能电视播放节目时向Hulu服务器发送的每次请求,或者智能咖啡机连接到服务器以查看是否有更新软件可供下载的每次请求(有一次,由于服务器宕机,智能咖啡机一天内试图连接服务器两千多次,就像这台咖啡机一直在拨打无法被接通的电话一样)。 希尔非常好奇,她想知道住在一个装备齐全的智能房屋里到底是种什么体验。她想知道这些智能装置获得了哪些有关这所房子和住户的信息,以及它们是怎么看这一切的。

希尔发表在科技博客Gizmodo上的完整故事值得一读。在体验了大量的智能家居设备之后,希尔得出了几个结论。这些结论完美地总结了本章关于收集和控制要务如何在家庭空间中发挥作用的观点。首先,希尔写道:“我原本以为房子会来照顾我,但现在房子里的每样东西都有权让我去干活。”第二,她观察总结道:“当你买了一款智能设备时,它可不仅仅属于你。你和它的制造商共享监护权。 ”

PDF 物理页索引 125

文件中的第 126 页 · 印刷页码:未识别

  1. 《杰森一家》是由汉纳·巴伯拉制作的科幻动画情景喜剧,20世纪60年代播出后大受欢迎,之后20多年间不断重播,到80年代又续播了两季,并于1990年推出了首部院线电影。——译者注

Chloe Kent, “11 Reasons ‘Smart House’ Is the Best Disney Channel Original Movie,” Bustle, May 14, 2016, accessed February 21, 2018,https://www.bustle.com/articles/147518-11-reasons-smart-house-is the-best-disney-channel-original-movie.

  1. 《2001太空漫游》(2001: A Space Odyssey)是由斯坦利·库布里克执导,根据科幻小说家亚瑟·克拉克小说改编的美国科幻电影,于1968年上映,被誉为“现代科幻电影技术的里程碑”。影片获得了当年最佳美术指导、最佳导演、最佳编剧等4项奥斯卡奖提名,获最佳视觉效果奖,获1968年英国电影学院最佳摄影、最佳音响、最佳美工奖。——译者注

PDF 物理页索引 126

文件中的第 127 页 · 印刷页码:未识别

PDF 物理页索引 127

文件中的第 128 页 · 印刷页码:未识别

PDF 物理页索引 128

文件中的第 129 页 · 印刷页码:未识别

  1. Fitbit是创立于美国旧金山的一家可穿戴设备公司,后被谷歌以21亿美元收购。Fitbit系列产品可借助追踪用户的活动、运动、食物、体重和睡眠等,帮助用户保持活力并改善健康状况,从而实现健身目标。——译者注

PDF 物理页索引 129

文件中的第 130 页 · 印刷页码:未识别