隐形权力
算法机构的出现引发了广泛的忧虑。哲学家休伯特·德雷福斯(Hubert L.Dreyfus)在1972年写过一篇题为“计算机无法做到的事情”(WhatComputersCan't Do)的论文，该论文的长度相当于一本书。计算先驱约瑟夫·魏泽鲍姆(Joseph Weizenbaum)曾经担心没有经验的管理者会让软件去做那些“需要智慧的任务”。最初，管理者们会通过强调透明度和客观性来消除人们的忧虑。一台由算法驱动的计算机可以不受情感左右，并且对谁都一视同仁。先锋学者们甚至提倡将计算模式推行到法律体系当中，以取代常被人们称为“黑箱”的陪审团，因为陪审员们常常关起门来谈问题。然而，随着算法的推行，那些对结果抱有怀疑的人可以掀开“引擎盖子”看个究竟。专利法对于信息披露做出了要求，从而为知识产权保护设定了条件，使其受到公众审查与监督。
然而，随着时间的推移，这种相对公开的做法已被忽略；狡猾的无耻之徒学会了如何与各种系统进行周旋，信息排他性的利润优势越发凸显。垃圾邮件发送者、黑客、骗子、操纵者、竞争对手或公众对于算法了解得越少，新的理由就越容易编造。无论是从现实角度还是从法律角度来看，透明度已经被密不透风的保密性所包围。法律的合规性已被搁置。
黑箱社会The Black BoxSociety
262