2.秘密——商业秘密、国家秘密和军事秘密(加利森，2004:231)黑盒子是一种无法知道其内部功能的物体一一至少不能通过观察，因为盒子的黑色遮蔽了视觉。从历史上看，“黑匣子”是指二战期间装着战争机器和雷达设备的物理黑匣子。在追踪黑匣子的谱系时，冯·希尔格斯(2011)描述了黑匣子最初是如何指一个“黑色”盒子的，这个盒子是作为所谓的蒂泽德任务的一部分，从英国寄给美国人的，该任务旨在寻求技术援助，为战争努力开发新技术。这个黑盒子被送往麻省理工学院的辐射实验室，里面装着另一个黑盒子一一磁控管。在战时，关键技术必须做到不透明，以防落入敌人之手。相反，如果面对敌人的黑盒子，人们就不得不假设盒子里可能装有自毁装置，打开就很危险。因此，出现了一种保密文化，或者被加利森(1994)称为“雷达哲学”，这种思想模式为控制论和复杂“人机”系统的分析和设计的出现铺平了道路。黑盒子很容易成为秘密、隐藏和未知的隐喻。在日常用语中，从大脑到市场再到民族国家的一切，现在都被概念化为一个黑盒子。算法也不例外。
当算法被概念化为黑盒子时，它们同时被呈现为一个未知的问题作为未知数，算法并不仅仅意味着缺乏知识或信息。黑箱概念指向了一种更具体的未知类型。关于算法和商业保密的透明度和问责制的普遍论述表明，算法被认为是可知的已知未知数(Roberts,2012)——也就是说，如果有合适的资源，原则上可能是可知的。根据流行的话语，所需要的就是找到一种打开黑盒子的方法。事实上，科学技术研究中的一个关键口头禅，“打开黑盒子”，意味着要解开使一种技术装置看起来稳定而奇异的复杂性和工作打开黑盒子的动力也可以从对“审计社会”特征的更大透明度和问责制的呼吁中看到(Power,1999)。在审计的氛围下，越来越多的组织被要求对其交易和运作方式保持透明。例如，大学被要求提供越来越多的书面记录，包括评估记录、研究产出的数量和收到的资金清单。正如Marilyn Strathern (2000a)所言，增加的信息被赋予了公理化的价值。今天，学者们已经将审计的概念扩展到算法领域，认为有必要对算法进行审计研究，以发现和打击各种形式的算法歧视(Sandvig et al.，2014)。虽然这样的努力当然令人钦佩，但作为本章的一部分，我想批判性地考察的恰恰是对要求提高透明度的呼吁所附带的可理解性的希望。除了打开黑盒和，还有很多了解算法(被广泛理解)的方法
Neither Black nor Box
43