我们需要记住的是，所有这些层次和结构都是由团队中的人构建的，所以一个人理解一切的能力和理解哥本哈根大学的运作方式是同样的挑战。然而，与此同时，团队可以对他们的算法系统建立启发式的理解，对可能导致它崩溃的原因或导致瓶颈的原因的感觉，这使他们能够工作并完成他们的工作
然而，高级专家的无知不应该影响我们对不同事物的了解。现在，如果算法逻辑的确切配置不能轻易追踪一一例如，通过检查机器在神经网络的不同层学习到的东西，它不应该阻止我们对奇怪本身的质疑特别是因为对无知的暗示往往对平台本身很有用。正如ChristianSandvig(2015)所建议的那样，“平台提供商经常鼓励这样一种观念，即他们的算法在没有任何人为干预的情况下运行，并且它们不是设计的，而是作为该领域科学和工程研究的逻辑顶峰而被发现’或发明的。”当事情没有完全按照计划进行，平台被指责为审查、歧视或偏见时，算法通常会被方便地列为战略未知数。当然，正如卡伦和拉图尔恰当地提醒我们的那样，“黑匣子永远不会保持完全封闭或适当紧固的状态…但宏观行为者可以像他们是封闭的和黑暗的一样去做”(1981:285)。一笔特定的购买被认为是可疑的，或者一家信用卡公司无法解释为什么算法会得出这样或那样的结论，这当然是奇怪的。然而，对算法事件的了解与其说取决于其原因，不如说是取决于产生某些“有序和无序”的能力(Michael,2004)。作为一个同一性不确定的事件，有机会提出新的问题。在信用卡公司的案例中，这个问题的措辞可能不一定是算法为什么会得出某个结论，而是这个结论暗示了正在出现的各种现实一一因为人们正在使用算法，以及这些算法的实践对——不同的人做了什么。
在透明度方面，也需要对功能和期望提出问题。2016年9月，挪威《晚报》(Aftenposten)和挪威首相埃尔娜·索尔伯格(Erna Solberg)指责脸书的算法审查了普利策奖的标志性图片《战争恐怖》(Terror of War)，他们这样做是因为他们希望算法以特定的方式行事。他们认为，算法应该能够区分获奖的标志性图像和“正常的裸体”。这一事件(我将在后面的第6章中回到这一事件)不仅是另一个代理机构差别制定的例子，在错误是算法还是人类的问题上得到了例证:它还表明，有时候，关于算法需要了解的可能不是算法本身，而是我们自己的理解极限。也许，我们不仅应该担心算法出错，还应该问它们是否做了它们应该做的事情?为什么脸书被要求审查一张裸体女孩的照片
58
IF . . . THEN