例如，信用卡公司会将婚姻咨询视为逾期还款的前兆（并相应地提高持卡人的利率)。寻求专业医疗方案的行为不应当影响到信贷决策。在法律体系中，追求过失责任的做法有时会反过来伤及效能。例如，当有人在楼梯处安装了护栏之后发现，一名提起诉讼的原告(之前曾经摔下楼梯）将安装护栏的决策当成了他摔倒时楼梯并不安全的证据。针对“事后补救措施”的有关证据问题的规定认为，“如果采取的措施可以使之前的损害和伤害不容易再次发生，那么这些事后措施就不能够成为证明过失责任的证据”。司法系统中负责对算法评分进行处罚的监管机构应当注意这点，以确保那些以助人和提高生产率为目的的行为不会受到惩罚。
此外，因为某人患病就提升其利息率的做法显然是火上浇油、有失公正的行为。我们已经禁止在就业决策中使用遗传信息，因为人无法控制他们与生俱来的基因。然而我们注意到，许多普通的疾病（从癌症到骨折，再到焦虑和抑郁）都会给人们带来影响。疾病不应该是信贷决策的判断标准。
无论健康信息对于数据经理人有多么诱人，老板们都不应予以采纳。凯斯西储大学卫生法专家沙罗纳·霍夫曼(SharonaHoffman)曾经提出“通过基于电子健康信息的复杂评分算法来确定哪些人有可能是高风险、高成本员工”的可能性。虽然聪明的雇主从来不会告诉员工“我解雇你是因为你有糖尿病”，但在大数据的支持下他们也许很快就能根据数据集(包括饮食习惯、药品购买记录、杂志订阅等）来预测员工有没有糖尿病（就像塔吉特公司预测孕期一样)。(公司内部和外部的)分析师们可以很容易对诊断数据进行完全不同的解读。在暗箱分析的推动下，公司可能会做出以下行为：
第五章监督者由谁来监督?
207