在这里，我们碰到了算法上的一个老问题：它们的客观性来自一种假设，极度缺乏透明性。我们无法检验亚马逊的算法；它们完全不透明，从不受外界审查。亚马逊称，保密有助于他们维持竞争力。当然，这么说也许是有道理的。但同样的逻辑能应用到治安领域吗？如果没人能检验算法(如果预测警务软件来自私人企业，那很有可能是这样)，我们就不知道算法里预设了什么样的偏见和歧视性做法。此外，算法还逐渐主导了我们法律制度的其他许多领域；比如，人们还用它们来预测某个罪犯获得假释或缓刑后，有多大的杀人(或被杀)概率。宾夕法尼亚大学的一位教授开发了这种算法，并已经在巴尔的摩、费城和华盛顿特区进行过测试。这种概率信息能够影响量刑建议和保释金额，所以绝不是什么微不足道的小事。
但我们又怎么能知道用来预测的算法并未反映创作者的偏见呢？举例来说，犯罪往往发生在贫困和种族多元化的地区。算法，还有它们假定的客观性，会不会带来更大的种族定性？如今，在大多数民主地区，警察要拦下街上的行人并进行搜查，是得有原因的(不能光是猜测，还需要证据)。但配备了这类软件之后，警察能够单纯地说，是算法叫他们这么做的吗？如果是这样，算法又该怎样出庭作证呢？技术中立主义者很可能会忽视这类问题，侧重于算法警务带来的抽象利益；反过来说，技术构造主义者对现代警务工作中普遍存在的问题、限制条件和偏见已经有了若干基本的了解，可能是更为关键的人物。法律学者安德鲁·格思里·弗格森(AndrewGuthrieFerguson)对预测警务做了详尽研究。他并不否认预测警务可以用到更多的地方，但同时也警告说，不要对算法抱持太大的信心，屈从于信息简化论。他指出，“预测算法不是预测未来犯罪的魔法盒子，恰恰相反，未来事件的概率模型，是建立在当前环境的脆弱性上的。”
194
枝术至死