训练，有一个算法就是知道一些东西。算法是确定的程序，会导致可预测的结果。算法操作的结果是已知的和确定的”(2016:7)。另一方面，机器学习技术产生了未知数：
当我的信用卡公司认为特定的购买或购买流“可疑”并对我的卡进行安全保留时，公司无法确切地解释什么是可疑的-他们知道有一些奇怪的东西，但他们不知道它是什么。(2016:7)
的确，在机器学习的背景下，决策规则“从被分析的具体数据中，以人类无法解释的方式出现”(Kroll et al.，2016):6)虽然这种根本的不确定性可能会让那些对了解算法感兴趣的人感到不满，但它也可以用来恢复McGoey所说的“知识托词”，即“通过调动高级专家的无知来捍卫自己无知的能力”(2012:563-564)。正如McGoey所写：
知识托辞的一个奇特特征是，应该知道某件事的专家在不知道这件事的时候特别有用。这是因为他们的专业知识有助于证明一种现象是不可能知道的，而不是无知的人根本不知道的说法。如果专家们都不知道，那就没有人能知道了。(2012:564，原文强调)
人们例行公事地为自己缺乏算法知识辩护，暗指自己不可能知道，因为其他人也不知道。正如《大西洋月刊》(theAtlantic)最近一篇文章的标题所言：“其至连编写算法的人都不知道算法是如何工作的”(LaFrance,2015)。这种不可知的概念在多大程度上是正确的?虽然可能确实很难解释数据中的哪些模式被机器学习算法的模型捕获，就像上面的陈述似乎表明的那样，但这些系统的一般原理和操作逻辑是非常众所周知的。这就是为什么首先要使用它们的原因。声称没有人能真正解释算法的工作原理或模式识别中出现的决策规则，可能更多的是关于软件的组织结构，而不是算法本身。正如前一章所讨论的，大规模的机器学习系统实际上是机器学习算法的网络集，这些算法连接在一起计算一些紧急属性(例如，搜索)。当我们处理新闻源或搜索引擎时，我们从不处理从数据表中训练单一模型的单一算法。它们是像乐高积木一样拼凑和分层的机器学习系统。通常，几个机器学习系统在做同样的任务，但用户只会看到表现最好的三个系统汇总的结果。如果前三名中的任何一个开始表现不佳，它们将被淘汰并被自动替换。
Neither Black nor Box
57