“代码”这一术语既可以出现在法律当中(如《国内税收法》)，也可以指代软件(将“编码”指令转换成机器可读格式），而且还有故意隐藏的意思。有人为了保密会发送“编码信息”，让第三方不知所云。在通过算法程序进行决策时，代码的第三种含义往往会神秘登场。例如，信誉决策中包含很多模糊或矛盾的原因“代码”，它们可以让任何决策变得合理。可能你的账户开设得过多，也可能开设过少在某一特定时间，哪一种情况都有可能导致信用分数的降低或信贷被拒。
但我们真正关心的是关键决策数据的正确性，希望其中不包含非法或不公平的成分。仅靠原因“代码”做出决策还远远不够，不公平现象在不同情况下有不同的体现。举例来说，现在有许多企业拒绝雇用失业6个月以上的求职者。立法者们正针对这一问题着手提出议案，禁止将长期失业列入不予雇用的理由中。但数字操纵者可能只是在招聘模型中输入“距离上一个工作的时间间隔”项，如果这一项的权重较大，就有可能起到决定性的作用。未来的立法者需要考虑到，大数据商可能会轻松地绕行于法律之外，使信息时代的法律形同虚设。例如，他们可以让“距离上一个工作的时间间隔”占据“招聘成绩”的15%。正如账目规则必须适应公司日益复杂和分化的利益一样，关于信贷和雇佣决策的法律需要包含更加具体的规定，说明应该在何种程度上禁止某一决策项进入计分系统并影响决策。
第五章
监督者由谁来监督?
209