对大部分代码进行模糊处理是软件开发的必要特征。正如Galloway所指出的，“使用混淆或信息隐藏’是为了使代码更加模块化和抽象，从而更容易维护”(2006a:323)。换句话说，黑盒代码既减少了程序员的认知负荷，又使他们能够编写新的代码部分，或者设计新的特性或功能，而不必考虑系统如何工作的每一个小细节。
当算法在当前话语中被定位为黑盒时，通常是为了将许多算法具有有害或歧视性影响的事实问题化。特别是在法律界，多次有人呼吁打开算法的黑盒子。正如Pasquale所言，“在不知道谷歌对网站进行排名时的实际做法的情况下，我们无法评估它什么时候是在善意地帮助用户，什么时候是为了自己的商业利益而偏袒结果”(2015:9)对于Pasquale来说，令人担忧的是黑箱社会固有的知识不对称，或者他所说的知识的“单向镜子”：“重要的企业行为者对我们日常生活的细枝末节有着前所未有的了解，而我们对他们如何利用这些知识来影响我们和他们做出的重要决策却知之甚少，甚至一无所知”(2015:9)这种知识不对称影响了新的权力关系一—不仅在越来越了解其监控的人的公司之间，而且在公司本身之间，最终破坏了强劲的竞争(Pasquale,2015:83)。因此，法律学者(特别是在美国的背景下)现在正在加强对更大透明度的呼吁，要求公司使其运作更加透明(例如，参见Balkin，2016;Benjamin, 2013;Citron & Pasquale, 2014;Cohen, 2016;Mehra, 2015).6正如Pasquale挑衅性地指出的那样，“你无法与一个黑匣子建立信任关系”(2015:83)。
那么，对于“算法社会”中普遍存在的技术细节黑箱，有哪些建议的解决方案呢(Balkin,2016)?对于Pasquale来说，必须揭示黑箱，以抵消这些系统可能包含的任何错误、歧视或偏见：“算法应该开放供检查——如果不是由公众检查，至少由一些值得信赖的审计员检查”(2015:141)。在这里，开放可能只涉及使源代码可访问。正如Citron和Pasquale在信用评分系统中检测偏见的背景下所指出的那样，“为了确切地知道，我们需要访问信用评分系统核心的源代码、程序员笔记和算法来测试人类偏见，当然我们没有”(2014:14)。其他人则对透明源代码的要求持怀疑态度，指出这种调用没有考虑到没有使每个细节完全透明的许多充分理由(Kroll等人，2016)。然而，打开算法的黑箱也可能意味着开放算法可以从外部合法审计的条件。正如研究人员Sandvig及其同事最近在美国联邦法院提起的诉讼所证明的那样，法律可能会构成额外的访问障碍一—在这种情况下，“阻止”
Neither Black nor Box
45