了GDP，也会迷失在未来。
20世纪70年代初期，查尔斯·泰勒等哲学家指出了人工智能和行为主义在目标与方式上存在的弊端，帮助人们改变了以往的错误认知。但随着“大数据”的风靡，这两种思维方式再度被吹捧为了解和控制社会的途径，而对于数据的源头(或思维模式)，人们却不予关注。金融公司可能会做出诸如此类的辩解，“我们之所以对有过违约记录的用户收取更高的利息，是因为以往的数据显示，这些人常常会再次违约”，但在这一过程中，违约者曾经未能及时还款的原因却是未知的，可能他拒绝支付，也可能是因为家里出了紧急事故。
然而，如果是因为对以往违约者收取过高利息的做法或是歧视性的贷款行为而导致了再次违约呢？如果每一项决策都加大了未来违约的可能性呢？那么大数据所承诺的“社会科学”就会演变成对身背污点者进行压迫的工具，而受压迫者却丝毫没有还击之力。用以做出判断的算法程序变得越来越不客观，它们将主观偏见伪造成看似中立的分数，从而逐渐成为分配机遇和施加惩罚的仲裁者。由于技术系统将人看作数据点的集合，所以受此影响的人们将不再被当作个体来对待和理解。
一个人不应该仅仅因为生了病就遭到公司解雇，或无法获得贷款或保险(在这个数据驱动的时代，更有可能的原因是，一些秘密算法所加权的健康指标认为该人“可能生产力低下”或“不稳定”)。为了在保密性和透明性之间取得更好的平衡，本书为相关法律的修订提供了许多建议。本书还是一部探讨社会理论的著述，揭露了金钱、权力和数据交易的基本模式。书中指出有些人在肆无忌惮地监控数百万人，而其他人连自己受到了谁的审查都不知道。监控者和被监控者的划分往往源自旧有的阶级划分，这也在意料之中。
黑箱社会The Black BoxSociety
XVIII