或者设想一下，商品检验基金或者一家相对具有可信度的机构在严格保护私人信息的前提下提供分析顾客特征的服务，从中推导出他们的典型错误。或者这家基金设计了一种“游击一算法”，它能够据此模拟银行和信用卡公司如何评价他们的顾客。在此基础上，它可以提供很多有效的警告和建议。
重要的是要认识到我们会与丰富的评价模式格格不入。目前还没有证据显示，这些评价模式是被统一控制或者认证的；也没有事实证明它们是否有意义，或者它们到底有多危险。我们可能会在一种重叠而又矛盾的评级网络中活动。控制社会的一大特点就是：使人迷惑。
所有评级都将充满偏见。这是不可避免的。这些评级从来都不是中立的，总会掺杂可疑的、决定越过数据筛选和程序算法的逻辑。虽然一些程序算法的拥护者辩称他们的分析软件的确有上帝一般的客观性，并且强调它们会还原现实，“就像现实原来的样子一样”，但这只不过是欺骗而已。每一款软件都会体现编程者的意志。
比如脸谱网正在根据某个用户与其所有朋友交流的频繁度不断评估朋友的价值和意义。朋友因此不再是同样的朋友，而是有极大的差异性。脸谱网将亲戚的评级提得更高，甚至会在用户主页显示亲戚发布的、与他并无关系的状态更新。血浓于水—脸谱网正是通过代码下意识地强调了这个准则，而许多用户可能并没有意识到这一点。
我们或许要在这些影响下生活，至少要在那些特别关注生活方式和理念的非国家机构带来的影响下生活。这也意味着算法不会一直歧视同样的社会群体而优待其他的社会群体。在微粒社会中，优势与劣势转变得非常迅速。
113
第三章控制革命