--- schema_version: "library-reader-v1" source_type: "original_book" title: "技术至死 数字化生存的阴暗面" author: null edition: null publisher: null year: null isbn: "0120136503" library_document_id: "13a8d12f-fb2c-4d05-a501-68bf7c192d34" source_sha256: "7696bfb84b8d7866607dcff800a280621c55e8c1b2ef1e3c4aa05f8f15380f55" pdf_physical_page_count: 396 pdf_physical_page_index_base: 0 range_start: 210 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34?start=210&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=210&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=200&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=220&limit=10" --- # 技术至死 数字化生存的阴暗面 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=210 | PRINTED_PAGE=196 应该属于审慎之举。 审计解决方案的一个优点是，它不要求接受审计的公司公开自己的商业秘密，这一点是提高算法透明度的主要障碍(当然，软件公司是这么说的)。 你被 Facebook 逮捕了 警方还在硅谷找到了强大的盟友。像Facebook这样的公司已经开始使用算法和历史数据来预测哪些用户有可能借助自己的服务从事犯罪活动。运作流程是这样：Facebook自己的预测系统研究特定的行为线索，将某些用户标记为“可疑”：比如，只给18岁以下的人发信息的用户；大部分联系人均为女性的用户；输入“性”或“约会”等关键字的用户。之后，工作人员可以核对各种情况，在必要之时向警方检举用户。Facebook对自身品牌这么看重，道理很浅显：绝不能让人以为这个平台是藏污纳垢之所。 2011年，Facebook开始使用微软提供的服务“PhotoDNA”，可扫描每张上传的图片，并将之与联邦调查局全国犯罪中心提供的儿童色情图像进行对比。自那时起，Facebook又将分析范围扩大到图片之外。2012年中期，路透社报道，Facebook利用预测算法，锁定了一个中年男子，他与13岁女孩谈论性，并安排次日见面。警方联系了这个小姑娘，接管了她的电脑，逮捕了这名男子。Facebook处于算法监控的最前沿：一如警察局参考从前的犯罪统计，而Facebook参考性侵犯罪案发生前进行的实时聊天存档。有趣的是，Facebook声称，自己使用的算法比人类干预程度要少，借此证明算法的正当性。“我们从没想过要建立一个让员工监控私人对话的环境，所以，使用假阳性率非常低的技术，对我们非常重要。”Facebook的安全部门负责人对路透社说。 196 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=211 | PRINTED_PAGE=197 借助这种方法逮捕向儿童下手的性侵害罪犯，我们很难对此质疑（更不必说，Facebook也没太多选择余地，现行美国儿童保护法规定，青少年使用的在线平台必须对恋童癖提高警惕)。但能让Facebook去预测任何其他犯罪吗?毕竟，它很容易就能介入许多类似的警务工作：检测潜在的毒贩，识别有可能侵犯版权的人(Facebook已经不允许用户发布许多文件分享网站的链接了)，预测下一代的捣蛋鬼(尤其是在2011年英国暴动发生之后)。既然有了这些现成的数据，人们几乎无法抵挡使用它的诱惑。2012年6月，一名枪手在科罗拉多州一家电影院大开杀戒，枪杀了12人，这种借助数据的诱惑更是达到了最高点。枪击事件发生后不久，《华尔街日报》的头条新闻标题说明了一切：“数据挖掘能够阻止杀戮吗?”标题句尾的问号，大有随时可以拿掉的势头。 从许多方面看，互联网公司预测犯罪处于比警察更有利的位置。后者需要许可才可获取私人数据，而Facebook这样的公司则可随心所欲地查看用户数据。从警方的角度看，让Facebook来干这些脏活很可能更为有利，因为Facebook自查无需通过法院系统。尽管Facebook兴许会感觉把这事儿变成一档生意从财务上而言太保守(它宁可继续扮演好市民角色)，规模更小的公司恐怕抵挡不住捞快钱的诱惑。2011年，荷兰卫星导航公司TomTom(现将部分卫星导航技术授权给了苹果)爆出了隐私丑闻：它把从客户处收集来的GPS驾驶数据卖给了警方。主张保护隐私的活动家克里斯·索菲安(ChrisSoghoian)同样证明，各互联网和移动公司均为执法机构设立了“付钱就窃听”的易用接口。 公开可用的信息也都待价而沽。因此，警方已经开始研究社会网络网站上的骚动迹象(大多是借助了私人公司的技术力量)。管理咨询公司埃森哲(Accenture)新近发表的一份宣传小册子，就敦促执法机构“借助社会媒体的力量，推动更佳的警务工作。”想要帮忙的公司多着呢。弗吉尼亚州的创业公司ECM Universe吹嘘自已名为“执法专用内容速析”(Rapid Content AnalysisforLawEnforcement)时形容说，“这是一套社会媒体监控解决方案，能实时监控Twitter、Facebook、Google群组，以及其他诸多用户自由表达的网络社区。”ECM的小册子上说，“这一解决方案采用文本分析，将威胁的语言与监控对象关联起来，碰上可疑迹象时会对调查人员加以提醒。”什么样的可疑迹象呢?《华盛顿邮报》最近的一篇文章说，ECMUniverse协助科罗拉多州拉普顿堡警方锁定了一名在twitter上放狠话说要“杀人”、“烧[此处删去脏话学校”的男子。这些话倒是说得挺直白，但要是当事人只不过说了句“害人”、“警察去死”，那该怎么算呢? 更少犯罪，更多惩戒 197 ## PDF_PHYSICAL_PAGE_INDEX=212 | PRINTED_PAGE=198 随着ECMUniverse一类的公司积聚起实际犯罪分子发送的海量推文和Facebook更新存档，他们还能够预测犯罪行为发生之前的非威胁性言语线索。所以，就算你只发了条推文说，你不喜欢酸奶，也可能把警察招到家门口，尤其是如果有人三年前发过同样的推文，结果发完推文的当天就拿枪打死了人。 然而，和Facebook不同，警察和外部公司都不可能看到用户在社会媒体平台上行为的全貌：他们看不到私信和“沉默”行为(如点击链接、打开页面等)。但Facebook、Twitter、google+，以及类似的公司肯定全都知道，所以他们的预测能力比警方强大许多。他们甚至可以根据用户从事特定行为的概率来对其评级。 Google数据挖掘工程师写了一本虚构作品，名叫《硅谷丛林》(TheSiliconJungle)，2010年由普林斯顿大学出版社出版(这可不是一家经常出小说的出版社)。书中提到了一个很合适的例子，说明这种系统有可能遭到怎样的滥用。小说以一家搜索引擎公司尤巴图(Ubatoo，跟Google惊人类似)的数据挖掘业务为背景。一位暑期实习生开发了“恐怖分子量表”(Terroristo-Meter)，这是一种通用的恐怖主义倾向分数，公司可以把它指派给所有的用户。当然，对自己得分不满意的用户，有机会改正为此，需要向尤巴图提交更详尽的资料。这看起来像是个疯狂的点子，但尤巴图的企业文化对创新特别着迷，实习生可以大胆尝试(这或许是对Google的又一次影射)，项目进行了下去。 198 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=213 | PRINTED_PAGE=199 为建立“恐怖分子量表”，这名实习生整理了一份“有趣”图书清单，暗示读者对颠覆活动有着潜在的兴趣，并从尤巴图的一家网上商店里寻找购买了这些图书的客户名字。接着，他又寻找这些客户经常去的网站，利用这些网站找到了更多的人—靠着诸如此类的办法，他掌握了5000人的姓名(这可是个神奇的数字)。实习生很快发现，一家类似基地组织的恐怖分子团体找上了自己，这个团体想借助这5000个名字加快招募成员的活动；此外，各家国防和情报机构也都在找他，迫不及待地想把这5000人送进关塔那摩。 我们不知道Facebook有没有类似的“恋童癖量表”。但鉴于它已经进行了广泛的用户分析，建立类似的量表恐怕不会太困难而且，Facebook不光可以为恋童癖打分呢。“瘾君子量表”怎么样？还有，“共产分子量表”怎么样?——约瑟夫·麦卡锡³(JosephMcCarthy)肯定爱死这个了。只要掌握足够的数据和正确的算法，我们所有人都势必显得可疑。那么，如果，我们根本还没犯下任何罪行，Facebook就把我们交给了警察，那会怎么样?我们会像卡夫卡小说里的人物一样，拼命琢磨自己犯了什么罪，为还自己清白奋斗余生吗?Facebook会不会给我们提供一条脱罪之路，交钱以换回自己名誉的清白？如果它的算法是错的，那会怎样？ 预测警务的前途，尽管有可能是真的，但由此带来的危险性，也丝毫不假。解决方案主义者们有必要克制一下冲动。警方需要把他们的算法交由外部审查，纠正其偏见。社交网站需要建立清晰的标准，说明自己实际上做了多少预测性的自我监管，对用户做了多大程度的性格侧写，提交了多少数据给警方。Facebook也许在预测犯罪上比警察更有效，但不能让它擅自行使这些警务职能，却又不遵循民主制度下限制警察职权的法律法规。我们不能打着追求效率的旗号，规避法律程序，颠覆民主规范。 3美国参议员，曾在任上主持过对进步人士的迫害活动。 更少犯罪，更多惩戒 199 ## PDF_PHYSICAL_PAGE_INDEX=214 | PRINTED_PAGE=200 为什么在柏林你应当搭乘地铁 预测警务的限制性似乎很强，但跟另一些最新的技术相比，它实际上反而显得更人性化、更具有解放意义。知道罪行可能很快发生，巡逻警官可以前往现场，做好日常的警务工作；他们不会把所有犯罪嫌疑人都关起来，也不会在潜在的犯罪区域修起一道高墙来。这么做太严酷，也太昂贵，他们没有足够的资源能做得到。 但并不是所有情况都这么清晰明了。假设说，警察知道每个星期五晚上总会出现大批从夜店里出来的酒鬼司机（但愿他们不用预测软件也想得到这一点)。警方可以加派更多警官到夜店所在区域巡逻。但警察会把所有这些人都抓起来吗？大概不会。或者，他们可以采用其他策略，阻止喝醉了酒的人坐到方向盘后面。比方说，凡是带着车钥匙进入夜店的人，买酒时都得交出钥匙。更实际一些的做法是，为汽车配备最新的呼吸分析仪，如果测出司机喝了酒，就不让汽车启动。这对警察来说岂非更好的安排?这样，他们不必浪费宝贵的资源，执行率能达到100%，甚至歧视和种族定性等间接问题也迎刃而解，因为不再需要拦下车进行临检了(反正，再也用不着怀疑司机是否酒后驾驶)。 200 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=215 | PRINTED_PAGE=201 机会引发犯罪的观点，以及伴随而来的“应当设计环境，灭绝犯罪发生的可能性”之信念，是所谓的“情境犯罪预防”学说(situational crimeprevention，简称SCP)的基础，至少从20世纪80年代初起，就对犯罪学产生了莫大的影响。早期的福利主义法强调改造单个罪犯、改变基本社会条件(也即所谓的犯罪驱动器)。情境犯罪预防与此不同，它主张的方法并不以道德、改造问题为预设条件。它也不追求改造罪犯，告诉他们为什么做错了什么。情境犯罪预防认为，一旦消除了屏障，失去了控制，犯罪就会顺理成章地自然发生，而不是什么异常事件。 犯罪学家大卫·加兰(DavidGarland)在他的开创性著作《控制文化》(The Culture ofControl，和“情境犯罪预防”类似的理论，他自已称之为“日常生活犯罪学”)中假设，“犯罪是一起不需要特别动机或意向，不存在病理或异常的事件，而非大量事件，犯罪是铭刻在当代社会和经济生活中的惯常现象。”因此，依照这套逻辑，若是按照正确的方式设计环境，就有可能彻底消除犯罪，或至少减轻其严重性。“注意力不应该放在个人身上，而应该放在互动习惯、环境设计、控制结构以及附加其中的动机上。新的政策建议会着重强调以预防来取代治疗。”加兰指出。 为说明“情境犯罪预防”逻辑在现实中的应用，让我们来看看各城市地铁系统里旋转门的设计。纽约地铁设有大量等身高的入闸(正式名称也叫高入口/出口入闸)。除非伪造地铁票，人不可能绕得过这些入闸口(事实上，最初安装在纽约的时候，这类高入闸违反了纽约州的防火条例，因为防火条例中规定必须设置允许更大客流量的出口)。因为不能欺骗系统，碰上紧急情况可能导致严重的后果。《反对安保至上》(AgainstSecurity)一书中，社会学家哈维·莫罗什(HarveyMolotch)描述过一起案件：纽约警方因为没有地铁票，没法绕过全身闸口，无法及时应对站台上的枪击事件。受害人不幸送命。 更少犯罪，更多惩戒 201 ## PDF_PHYSICAL_PAGE_INDEX=216 | PRINTED_PAGE=202 柏林的地铁则明显不同：人应该买票并验票乘车，但因为没有入闸口，要是没车票也能搭便车。如果被逮住了，搭便车的人必须支付罚款。纽约的系统让你别无选择，只能遵守；而柏林系统，尽管施以罚款的威胁，但同时也在向公民责任发出呼吁。有两位“情境犯罪预防”的主要理论家在为该理论辩护的时候提到了这个例子，“从道德上看，让社会中人不容易受到犯罪诱惑更可取，比诱惑横生、又在人受了诱惑后施以惩处的做法好。”站在这个角度，纽约系统不光高效，且在道德上比柏林的系统更高明。 司机喝醉酒，汽车就不启动；社区安装门控系统，不容许外人进入；修桥的时候，采用让人无法跳河的设计；公交采用自备零钞系统，司机无需携带现金，从而减少抢劫这些都是“情境犯罪预防”付诸实践的例子。从广义上讲，“情境犯罪预防”采用了五种政策杠杆(也即增加风险，提高努力，减少回报，减少刺激，减少借口)；而人们又通常会把这类杠杆里的一种或几种转变成预防犯罪的物质环境（举例来说，让乘客上车时往金属盒子里投硬币，因为抢劫者必须破坏盒子，或者搬动盒子，这提高了抢劫者要付出的努力；而司机不必再携带找零的现金，没有多余的钱可偷了，这就减少了抢劫者的回报)。“情境犯罪预防”几乎总是涉及到一些技术上的修修补补、工程设计和操作处理；没有呼吸分析器，就不会有“司机喝了酒就不启动”的汽车；没有视频摄像头、智能大门，以及高级生物识别设技术，就不会有门控社区。受技术影响小的活动(比如读一本书)，不像受技术影响多的活动(如乘坐地铁、驾驶汽车等)那么容易受“情境犯罪预防”干预。 但随着我们的所有活动都逐渐开始受这样那样的技术影响，这种局面可能很快就会改变了。如果你放弃实体书，转而阅读电子书，那么“情境犯罪预防”工程师就可能限制你在电子阅读器上的行为，对你加以干预。电子阅读器可以禁止高亮、消除匿名性，或是让行文中所有猥亵内容自动“黑屏”。 202 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=217 | PRINTED_PAGE=203 又比方说，你还是坚持阅读实体书，但把你的传统老花眼镜换成了Google设计的花哨智能眼镜。Google公司还申请了专利技术，能够在无需人工输入的条件下，识别出现在视频里的物体。把智能眼镜和这种新的物体识别技术结合在一起，潜在的干预范围就大大扩展了；喝醉了酒、睾酮高的男性，戴上这种眼镜，说不定会根本看不见异性。又比如说，你想在电脑上读书，因为如今人们吹嘘说，阅读应该是一件跟朋友一起做的社交活动，你把书在Facebook里打开了。万一它正好是帮助设计“恐怖分子量表”里的“有趣书籍”之一，你的恐怖分子得分就会叫你危险地滑向“嫌疑人”的边缘。信奉“情境犯罪预防”理论的好人们，哪个不想禁止你阅读书中内容；或者，趁着你还在读第三章，就把你甩进国土安全部的黑名单里去？ 在通常的“情境犯罪预防”环境下，这种高度个性化、有极强针对性的干预很罕见，因为我们的技术环境是为群体设计的，不是为了单个的人。但最近出现了两种明显的发展趋势。首先，反恐战争，以及其一整套以预防风险为主的措施，让如下的观点变得“正常”了起来（只要看看我们的机场就知道)：与特定描述相吻合的人，有必要跟他人区别对待；只有通过个性化，才能识别这类的人，将之区分出来。换句话说，不光可以预防实际的罪行，甚至可以预防假冒的罪行也即，有些行为成了“罪犯”专用，仅仅是因为与犯罪者的特定描述相吻合（在这一点上，“情境犯罪预防”听起来不像是警务，而像是筛选)。其次，各种商业平台(也即创造或分享观点的平台，如YouTube、iTunes、Kindle Store、GooglePlay等)竞相涌现，让许多个人行动(包括言论)受制于公司，而非政府。如果是山姆大叔让你闭嘴，这是审查；如果是苹果这么做，这就是单纯的服务合同条款（你可从没仔细读过那玩意儿)。警方需要一些涉嫌理由来监控你的Facebook私信，可要是Facebook自已这么做，那完全是因为它有这个能力，也有合适的算法。 更少犯罪，更多惩戒 203 ## PDF_PHYSICAL_PAGE_INDEX=218 | PRINTED_PAGE=204 但对“情境预防犯罪”表示担忧，尚不存在直接而明显的理由，毕竟，(不管依不依靠数字技术)消除犯罪难道不是件好事吗？这个例子说明，只关注效率有可能遮掩了以下观点：或许，执法项目也应当促进其他目标。各位读者可能还记得本书早前讨论过的阿尔伯特·赫希曼简明的“悖谬、无用及危害”理论。这三个主题，曾出现在对“情境犯罪预防”的无数批评当中，且深刻地揭示了它无数的不足之处。在不屑一顾地说这些批评反动和保守之前，我们实在有必要三思。因为，我们很快就会看到，它们所批评的“改革”，本身就有可能跟自由主义相对立。如果连自由主义本身都陷入了险境，那么，抨击一下这些所谓的“改革家”，应该没什么坏处。 “碰碰车”的危害性 对“情境犯罪预防”的一种常见批评论调(基本上是无用论的变体)是，它能利用技术迅速地修复问题，但却并未解决犯罪的根源，从而有可能让事情变得更糟糕。因此，一种类型的犯罪遭到“屏蔽”之后，罪犯会转而去做另一种。又或者，屏蔽常见途径之后，他们会通过不同的途径开展相同的犯罪活动：如果有些房子安装了现金的报警系统，抢匪们只需换到没安装这种系统的邻居家就行了。 还有一些批评提到的人不多，但更耐人寻味：一些学者认为，“情境犯罪预防”计划变得无处不在，这样一来，要在不适合使用“情境犯罪预防”解决方案的情况下执法就更困难了。如果日常生活里的每一样东西都采用纽约地铁入闸口那样的监管方式，那么，来到没有入闸口控制装置的环境，你不觉得有必要做正确的事。比如说，你习惯了充斥着“情境犯罪预防”的环境，突然来到一间小型杂货店，店里没安装闭路电视摄像头，也没有新奇的防盗系统，店主又正在忙活别的事情，看不见你在干嘛，这时候，你会怎么做呢? 204 枝术至死 ## PDF_PHYSICAL_PAGE_INDEX=219 | PRINTED_PAGE=205 危害论的批评提出最发人深省、令人不安的观点，它一方面承认某些“情境犯罪预防”技术确实有效，另一方面却提出了这样的问题：如果这类措施成为我们维持治安的主要方式（考虑到数字新中介机构的大量出现，不难想象这类举措会变得有多么占主流)，我们有可能会失去些什么。这类批评回避了手段和效率的问题，它假设手段正像设计师们想的那样发挥作用，从而对这类项目最终目的是否合乎道德、在政治上是否恰当提出了质疑。一个没有犯罪的世界值得我们去追求吗？让人不可能犯罪(而不是在事后给予惩戒)，我们得到了些什么，又失去些什么呢？这种方法对重要的民主价值观，如团结、异议和审慎有什么影响呢？ 这些问题的答案很不叫人看好。首先，许多评论家认为，究其核心，“情境犯罪预防”培养、并助长了公民之间的不信任情绪；正如一位评论家所说，“情境犯罪预防”的指导精神，是“最佳的政策，就是以适量的良性怀疑态度对待大多数的陌生人，甚至邻居。”大卫·加兰指出，“情境犯罪预防”背后的智性方法，不光“违背了传统的认识，也即认为秩序来自道德自律、服从权威，”也“颠覆了传统的福利国家信念，也即为了社会的有效运作，必须团结社会的所有成员，因为所有人都是包罗万象的公民联盟的一份子。”“情境犯罪预防”培养的世界是原子论的，自私的个体永远只关心安全，不光无法信任他人，更不可能展开道德推理。这样的人极为擅长权衡新报警系统的优缺点，但却难于衡量自身的价值。 另一点得关注的是，我们的个性有可能成为“情境犯罪预防”无情效率下的牺牲品。故此，对追求“实现人类美德的自动化”所固有的危险，加拿大法律哲学家伊恩·克尔(IanKerr)做出了警告。他形容说，那是“通过技术，而非道德或法律，限制、有时候甚至彻底消除道德行为，把人编程去做正确的事’。”克尔关心(他讨论的内容基本上仅限于最近出现的技术，如电子书或DVD上使用的“数字版权保护”，以及无人驾驶汽车)的是，这类计划会带来一种“道德无能”，人类把道德放到自动导航仪上，不再培养诚实的品性。克尔指出，“数字锁确实能保护业主实现特定的结果，但这是以放弃道德诚信工程为代价的。” 更少犯罪，更多惩戒 205 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/13a8d12f-fb2c-4d05-a501-68bf7c192d34.md?start=220&limit=10)