--- schema_version: "library-reader-v1" source_type: "original_book" title: "算法权力与政治" author: null edition: null publisher: null year: null isbn: "9780190493042" library_document_id: "00b53386-166c-4d03-bcf3-987d55c93423" source_sha256: "693660f347146f5b6285c809cbebcbf0e0ffb4e420778a05937e327003964be1" pdf_physical_page_count: 200 pdf_physical_page_index_base: 0 range_start: 60 range_count: 10 html_url: "https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423?start=60&limit=10" markdown_url: "https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423.md?start=60&limit=10" previous_url: "https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423.md?start=50&limit=10" next_url: "https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423.md?start=70&limit=10" --- # 算法权力与政治 > 页码规则：PDF_PHYSICAL_PAGE_INDEX 是从 0 开始的权威文件物理页索引；PRINTED_PAGE 是页面中识别出的印刷页码，可能为空，二者不得混用。 ## PDF_PHYSICAL_PAGE_INDEX=60 | PRINTED_PAGE=50 (见第5章)。正如Introna所建议的那样，“算法的行为不仅仅是执行指令(由程序员决定)”算法“还制定了它们应该反映或表达的对象”(2016:《Introna》在这里引用的表演性概念认为，算法通过表达某些东西，也有能力对那个世界采取行动当算法成为人们日常生活的一部分，被纳入金融市场或与知识生产纠缠在一起时，它们就会对这些领域产生一些影响。 然而，算法在这些情况下所做的事情，并不能简单地通过打开黑盒子来理解。这并不是因为，正如Winner(1993)所指出的那样，当我们打开黑盒子时，我们可能会发现它是空的;但是，更确切地说，正如拉图尔(1999)提醒我们的那样，所有的黑盒子都是黑盒子，因为它们掩盖了它们假设和构成它们的网络和组合。对拉图尔来说，所有的科学技术工作都是通过黑盒的过程，通过自身的成功而隐形的。在一个经常被引用的投影仪坏掉的例子中，拉图尔认为黑盒子揭示了它的真实面目一一不是一个稳定的东西，而是许多相互关联的部件的组合(1999:183)。当一台机器平稳运行时，没有人会注意到它，使它平稳运行所需的演员和工作从视野中消失了(拉图尔，1999:34)。对于拉图尔来说，黑箱最终隐藏了它作为一个网络的构成和特征，而黑箱则是指实践具体化的过程。如果黑箱的比喻太容易被用来作为批评算法的一种方式，那么拉图尔的黑箱概念提醒我们，我们可能想要批判性地审视算法的方式。 关系本体论的一个核心原则是关系唯物主义原则，即“对象不仅仅是表演的道具，而是被赋予了扩散人格和关系代理的混合组合的重要组成部分”(Vannini,2015):5)社会技术(sociotechnical)和社会物质(sociomaterality)等概念经常被用来表达人类和非人类行动者之间激进对称的观点根据这一观点，社会和技术并没有被看作是相互独立的实体。社会和技术总是已经处于以网络、组合或混合形式组织起来的共生关系中从关系的角度来看，重要的是，新组合或复合实体的行动能力不能仅仅归结为其组成部分。相反，这些新的复合实体能够“产生新的领土组织、新的行为、新的表达、新的行动者和新的现实”(mller,2015: 29)。这种代理力量也许最明确地表达在集合(assembly)的概念中，或者更具体地说，是法语术语“协议”(agence)。正如卡伦所指出的那样，“协议与代理具有相同的根源:协议是被赋予了根据其配置以不同方式行动能力的安排”(2007:320)。 当然，这些讨论提出了一个棘手的问题，即我们首先应该如何看待代理。毕竟，代理的存在并非毫无意义 50 IF . . . THEN ## PDF_PHYSICAL_PAGE_INDEX=61 | PRINTED_PAGE=51 被称为“哲学中最困难的问题”(拉图尔，2005:51)。如果算法是多重的，并且是混合组合的一部分，甚至是混合组合本身，那么代理位于哪里?当我们说算法做这个或做那个时，是谁或什么在起作用?虽然致力于关系本体论的学者们在赋予实体和关系的本体论地位方面可能会有所不同，但一般的答案是将代理视为分布式的对于算法的代理能力理论，采用关系观点意味着抛弃任何“整齐有序的代理流”(Introna,2016:9)。正如Karen巴拉德所说，代理不是某人或某事可能拥有的属性，而是对世界正在进行的重新配置过程的称呼(2003:818)。类似地，行动者网络理论将代理视为一种中介成就，通过锻造关联而实现(mller,2015:30)。任何事物——无论是人类还是非人类——都有可能形成一种联系。正如巴拉德所强调的，“能动性与人类的意向性或主观性并不一致”(2003:826)。根据拉图尔的说法：“任何通过产生影响而改变事态的事物都是行动者”;人们只需要问，某物是否“在其他一些行为人的行动过程中产生了差异”(2005:71)。关系本体论的核心在于承认非人类的关系和代理能力的重要性。也许比任何其他概念更重要的是，组合的概念已经成为解释关系为不同目的而组合的方式的一种方式。德勒兹和帕内特将集合视为“由许多异质术语组成的多样性，并在它们之间建立联系和关系”，其中唯一的统一“是协同作用”(2007:69)。这种协同功能的概念有效地描述了“组合中的不同主体如何拥有不同的资源和行动能力”(Anderson et al.，2012: 181)。从这些角度来看，算法的代理不能位于算法本身，而是位于“其制定的不断变化的结果”中(Passoth et al.，2012: 4)。 将代理视为分布式的含义远非微不足道。当我们听到“算法歧视”(Miller,2015)或“歧视被纳入算法”(Kirchner,2015)时，很容易理解为说算法拥有歧视的代理。虽然b谷歌“大猩猩”事件(见第二章)、亚马逊在当日送达服务中排除黑人占主要地位的邮政编码，或者谷歌在搜索明显的黑人名字时显示逮捕记录广告(Sweeney,2013)等案例在算法公平性和性能方面还有很多需要改进的地方。在这些案例中，究竟是谁或什么构成了真正的歧视，这个问题并不像媒体标题所暗示的那样直截了当。 以脸书趋势功能引发的争议为例。2016年5月，脸书(再次)上了新闻，因为很明显，他们的趋势功能实际上并不是“中立、客观算法的结果”，而是在一定程度上是人类管理和监督的成果脸书雇佣新闻专业毕业生来检查算法生成的热门话题，批准这些话题 Neither Black nor Box 51 ## PDF_PHYSICAL_PAGE_INDEX=62 | PRINTED_PAGE=52 撰写标题来描述它们。问题是，被雇佣来监督热门话题的人类编辑碰巧倾向于政治左派，而这一点，从新闻报道来看，可以从那些被制作成“趋势”的报道中看出来。正如Gizmodo文章首先报道的那样，“换句话说，脸书的新闻部门就像一个传统的新闻编辑室，反映了员工的偏见和公司的制度要求”(努涅斯，2016)。故事爆发后不久，脸书高管汤姆斯托基(Tom Stocky)写道，“审查团队有严格的指导方针，以确保一致性和中立性”(Stocky,2016)。这一事件还促使美国参议院致信马克·扎克伯格，要求脸书的运营方式更加透明。这封由共和党参议员约翰·图恩(JohnThune)签署的信要求脸书详细说明一些问题，比如：“脸书的新闻管理者实际上是否操纵了热门话题部分的内容？”以及“脸书将采取什么措施来追究责任人的责任？”正如图恩后来告诉记者的那样，与热门话题相关的任何程度的主观性都确实会“误导美国公众”(Corasaniti&Isaac, 2016)。 在整个考验过程中，令人困惑的是，显然缺乏可用的词汇来谈论算法能做什么，甚至能做什么，正如反复将偏见归咎于算法或相关的人类所证明的那样。诸如偏见、中立、操纵和主观性等词汇比比皆是，这使得争议成为将机构定位在正确位置的争议之一。围绕这一事件的讨论中，普遍的感觉似乎是，Facebook不应该声称使用算法来做决定，事实上，是人类在做决定。当然，在这一切中被略微忽视的是，算法总是已经由人类制造、维护和维持的事实。然而，如果只有负责任的人能够被问责，故事是这样的，这将使未来更容易控制或规范这种“操纵”和“主观命令”。然而，从关系的角度来看，把行动的起源当作只属于一个来源来确定，会产生误导。毕竟，正如拉图尔所说，“使用演员’这个词意味着，当我们表演时，永远不清楚是谁和什么在表演，因为舞台上的演员从来都不是一个人在表演”(2005:46)。在这个案例中，舞台显然是由无数参与者组成的，包括新闻专业毕业生、专业文化、政治信仰、工作指南、热门产品团队、Facebook高管和管理层、算法、用户、新闻机构等等。 那么，算法过程中所谓的偏见又如何呢?正如公众对技术的理解教授约翰·诺顿(John Naughton)在《卫报》(Guardian)的一篇专栏文章中所写的那样，偏见或人类价值观从一开始就根植于算法中，仅仅因为工程师也是人类: 任何必须做出选择的算法，都有其设计者指定的标准。而这些标准是人类价值观的表达。工程师 52 IF . . . THEN ## PDF_PHYSICAL_PAGE_INDEX=63 | PRINTED_PAGE=53 可能认为他们是“中立的”，但长期的经验告诉我们，他们在政治、经济和意识形态的森林里是婴儿。(诺顿，2016) 当然，有了机器学习算法，也许有人会忍不住争辩说，因为系统的工程师或设计师不一定是人类，所以对人类价值观或偏见影响的担忧就不那么成问题了。然而，正如算法可能“继承了先前决策者的偏见”一样，它们可能“反映了整个社会中持续存在的广泛偏见”(Barocas & Selbst,2016):1).要了解在Facebook热门话题争议的情况下，偏见可能存在于哪里，了解热门话题算法是如何工作的肯定会有所帮助。例如，它有助于知道，在争议发生时，Facebook依靠一些新闻媒体来确定“一个主题是否有新闻价值”(Statt,2016)。这意味着，像《纽约时报》和cnn这样的重量级媒体——传统媒体机构——在确定某件事是否真的会被认为是一种趋势方面发挥了重要作用。正如Facebook用来指导其热门话题编辑工作的泄露的内部文件所表明的那样，“该文件指定了10家特别中心的媒体，并指示编辑根据这些媒体将新闻放在头版的数量，只将一个话题标记为国家新闻’或‘重大新闻’”(Brandom,2016)。这些指导方针和关于编辑工作实践的信息，以及他们在面临将某件事标记为特别有新闻价值或没有新闻价值时必须做出的决定类型，为在看似中立和客观的决策过程中发挥作用的不同价值观、机制和意识形态提供了重要的启示。此外，它有助于了解用户在塑造算法结果方面的核心作用。正如记者EzraKlein所说，用户是“Facebook最具偏见的策展人”(Klein,2016)。用户很重要，因为是他们的数据、他们的点击行为、偏好、网络关系和交流行为为算法提供了行动的数据。 尽管Facebook的动态消息常常被誉为算法巧妙的典范，但这种动态消息远非简单的自动或没有人为干预。与趋势部分一样，Facebook也对新闻动态进行了人工干预。2014年夏天，Facebook成立了一个“feed质量小组”，由几百人组成，位于田纳西州的诺克斯维尔，公司付钱让他们提供详细的反馈，告诉他们在信息流中看到了什么(Oremus,2016)。后来，Facebook在全国范围内设立了这个小组，付钱给有代表性的用户样本，让他们每天对他们的推送进行评分和评论。他们甚至把这个小组扩展到了海外。最近，Facebook进行了一项调查，要求一部分用户在并排显示的两篇帖子中选择最吸引他们的那篇。Facebook并不是唯一一个将其算法系统“人性化”的平台。例如，Netflix就雇佣了大量的“标签员”，他们的职责是评估电影内容的类型、基调和风格，以帮助确定用户接下来可能想看什么。人类也参与了这个循环 Neither Black nor Box 53 ## PDF_PHYSICAL_PAGE_INDEX=64 | PRINTED_PAGE=54 当涉及到音乐推荐时，音乐通常被呈现为属于计算机不一定能“理解”的特殊内容类别。苹果于2015年夏天推出的音乐流媒体服务苹果音乐(AppleMusic)的卖点之一是，它在很大程度上依赖于人类策展人和电台主持人来提供推荐，而不仅仅是算法。在接受《华尔街日报》采访时，苹果首席执行官蒂姆·库克(TimCook)声称，流媒体服务的“人们喜欢人类策展”方面(WSJ,2015)。同样，Spotify Taste Profiles的产品主管阿贾吉·卡利亚(AjajKalia)认为，对于“像音乐这样感性的东西……至关重要的是要让人类参与其中”(Popper，2015)。由于计算机“不能真正欣赏音乐”，Spotify聘请了一个由32名全球音乐专家组成的团队来策划每周更新的播放列表(Knight,2015)。大约在苹果音乐发布的同一时间，Spotify推出了发现周刊，这是一个算法生成的播放列表，将更接近于突破人类品味的情感标准。《发现周刊》背后的算法每周一根据用户的独特口味为用户提供推荐的播放列表，通过将用户的口味与其他用户的播放列表进行比较，这些用户的播放列表包含了她喜欢的相同歌曲和艺术家(希思,2015;帕西克，2015)。然后，算法遍历相关人员添加到他们的播放列表中，但目标用户尚未听过的其他歌曲，基于假设她很有可能也喜欢这些歌曲(Popper,2015)。《发现周刊》的负责人马修·奥格尔将这一过程描述为一种“魔法过滤”(帕西克，2015)。然而，算法只是这一魔法的一个方面。正如《发现周刊》上的大多数媒体报道所强调的那样，主要因素是其他人和他们精心策划的播放列表。奥格尔认为，从算法的角度来思考《发现周刊》，并没有抓住要点，因为“整个事情都是建立在人类创造的数据之上的——只是算法在大规模地将这些点连接起来……”《发现周刊》一直都是人类”(希思，2015年，我强调)。这些例子不仅表明人类如何总是已经与算法有牵连，无论是作为提供数据输入的最终用户，算法从中学习，还是受雇帮助算法计算音乐品味或电影基调等事物的人类专家，它们还旨在说明将代理归因于算法或人类的坑坑洼洼。这里的重点不是我们需要选择最明显属于谁或什么代理。这并不是说代理与设计师、用户或算法在一起。关系视角恰恰“否定了对人类或非人类代理的任何本质主义或孤立的解释”(Schubert,2012:126)。更确切地说，这是一个对实体的组合或聚集在一起变得或多或少具有人性，或多或少具有非人性的方式的解释问题。正如前一章所建议的那样，算法具有可变的本体，这意味着代理在哪里操作的问题无法得到最终的回答。那么，需要解释的是 54 IF . . . THEN ## PDF_PHYSICAL_PAGE_INDEX=65 | PRINTED_PAGE=55 连续的变异。在下文中，我想提出一种方法，可以通过将注意力从代理位于何处的问题转移到代理何时被动员以及代表谁的问题上来回答是什么使算法或多或少地具有技术性/非人类或或多或少地具有社会性/人类。 什么时候是算法? Facebook的热门争议案例和其他“人性化算法”的例子不仅让人质疑代理的来源，而且表明，更尖锐的政治问题是，代理是什么时候设立的，代表谁，出于什么目的?真正的争议不在于Facebook雇佣新闻专业毕业生，通过将他们对新闻价值的编辑判断加入其中，来干预算法决策过程。争议在于选择性的人类和非人类代理。在公众对Facebook趋势争议的反应中，一个显而易见的事实是，算法只是有时起作用。我想提出的是，这构成了围绕算法政治思考的一个重要维度——政治不是算法本身做什么，而是算法和算法的不同方面如何以及在什么情况下，在特定的环境下，对特定的行动者可用——或不可用通过将注意力从适当的行动来源转移到在特定情况下动员行动来源的实践上，我们可能能够理解算法如何以及何时变得重要(算法的重要性将在第6章中再次讨论)为什么有时候，在类似但不同的场合，一个人被“指责”有偏见，而一个算法却被指责为歧视?为什么Facebook在策划趋势功能的过程中雇佣新闻专业毕业生会引起争议，而在新闻机构的背景下，相反的做法似乎被认为是有问题的?换句话说，为什么Facebook可以使用算法，而对新闻机构来说，做同样的事情被认为是有问题的?这些和类似的问题不能简单地通过坚持一个本质的词汇表来回答。没有给出算法;它们既不是数学表达式，也不是人类意图的表达，而是作为定位的、持续的成就出现的。也就是说，由于与它们相关的其他东西，它们或多或少地以技术/非人类或或多或少地以社会/人类的形式出现。在Facebook热门话题事件中，算法由于争议而改变了配置。面对对人类编辑主观偏见的广泛指责，Facebook决定解雇26名签约为热门话题模块编辑和撰写简短描述的新闻专业毕业生。为了减少偏见，Facebook宣布，他们将用机器人取代他们。根据Facebook的说法，在保持人类参与循环的同时，“一个更由算法驱动的过程”将“允许我们的团队在主题上做出更少的个人决定”(Facebook,2016)。什么是of? Neither Black nor Box 55 ## PDF_PHYSICAL_PAGE_INDEX=66 | PRINTED_PAGE=56 在这个案例中，人们感兴趣的不是算法还是人类控制着Facebook的热门话题，而是不同的类别是如何被纳入并在争议的背景下产生关联的。也就是说，“算法”是客观和中立的，而人类则被视为主观和有偏见的。关键是，算法本身并没有什么中立之处，对人类也没有偏见，这些描述性的标记是从特定的语境和实践中产生的。情况可能不是这样的 从关系唯物主义的角度来看，最重要的问题“在性质上不是哲学的，而是政治的”(Mol,2013:381)。回到上一章末尾介绍的本体论政治的概念，参与算法如何在当代社会中发挥作用的问题并不是试图定义它们是什么或在什么点上起作用，而是，而是关于质疑它们被制定的方式，以及它们聚集在一起创造不同版本的现实的方式。我认为，涉及算法-人类连续体的许多对比鲜明的争议例子表明，算法本身并不是好或坏、中立或有偏见的，而是根据一系列不同的因素、利益、利益相关者、战略，甚至政治，以一种或另一种方式出现。“本体论政治”(ontologicalpolitics)一词正是为了强调现实是如何从来不是给定的，而是通过互动来塑造和出现的与其决定谁在行动(或就此而言是歧视)，有趣的问题是，在实体活跃的特定方式中，一个行动者变成了什么，什么时候变成了什么(Passoth et al.，2012: 4)。 通过将注意力从追问代理是什么，在哪里，转移到代理是什么，以及在特定情况下代理属于谁，我们可能会开始看到，算法作为黑盒子的概念可能不仅是一个本体论和认识论的主张，而且最终也是一个政治主张。正如我在本章开头所说，将某物定位为黑盒子有不同的功能。算法的黑箱不仅仅是一个未知，而且在许多情况下，构成了LinseyMcGoey(2012)所说的战略未知，被理解为对无知的战略利用。正如McGoey所断言的那样，战略未知强调了“培养无知往往比培养知识更有利，无论是在制度上还是在个人上”(2012:555)。例如，在灾难管理的案例中，专家声称的无知软化了对有关灾难或丑闻的任何所谓责任。通过战略性地调动未知因素，组织和个人可以坚持认为不可能发现或事先知道。这些形式的无知也经常在关于算法和软件的论述中被调动起来。 事实上，机器学习和人工智能领域似乎经常作为战略未知的整个领域出现。在最基本的层面上，机器学习算法的操作似乎排除了任何形式的确定性。因为机器在没有被明确编程的情况下“自行”学习，所以没有办法知道究竟是什么导致了某种结果。正如Dourish对机器学习出现的反思。“在我从事计算机科学的这些年里 56 IF . . . THEN ## PDF_PHYSICAL_PAGE_INDEX=67 | PRINTED_PAGE=57 训练，有一个算法就是知道一些东西。算法是确定的程序，会导致可预测的结果。算法操作的结果是已知的和确定的”(2016:7)。另一方面，机器学习技术产生了未知数： 当我的信用卡公司认为特定的购买或购买流“可疑”并对我的卡进行安全保留时，公司无法确切地解释什么是可疑的-他们知道有一些奇怪的东西，但他们不知道它是什么。(2016:7) 的确，在机器学习的背景下，决策规则“从被分析的具体数据中，以人类无法解释的方式出现”(Kroll et al.，2016):6)虽然这种根本的不确定性可能会让那些对了解算法感兴趣的人感到不满，但它也可以用来恢复McGoey所说的“知识托词”，即“通过调动高级专家的无知来捍卫自己无知的能力”(2012:563-564)。正如McGoey所写： 知识托辞的一个奇特特征是，应该知道某件事的专家在不知道这件事的时候特别有用。这是因为他们的专业知识有助于证明一种现象是不可能知道的，而不是无知的人根本不知道的说法。如果专家们都不知道，那就没有人能知道了。(2012:564，原文强调) 人们例行公事地为自己缺乏算法知识辩护，暗指自己不可能知道，因为其他人也不知道。正如《大西洋月刊》(theAtlantic)最近一篇文章的标题所言：“其至连编写算法的人都不知道算法是如何工作的”(LaFrance,2015)。这种不可知的概念在多大程度上是正确的?虽然可能确实很难解释数据中的哪些模式被机器学习算法的模型捕获，就像上面的陈述似乎表明的那样，但这些系统的一般原理和操作逻辑是非常众所周知的。这就是为什么首先要使用它们的原因。声称没有人能真正解释算法的工作原理或模式识别中出现的决策规则，可能更多的是关于软件的组织结构，而不是算法本身。正如前一章所讨论的，大规模的机器学习系统实际上是机器学习算法的网络集，这些算法连接在一起计算一些紧急属性(例如，搜索)。当我们处理新闻源或搜索引擎时，我们从不处理从数据表中训练单一模型的单一算法。它们是像乐高积木一样拼凑和分层的机器学习系统。通常，几个机器学习系统在做同样的任务，但用户只会看到表现最好的三个系统汇总的结果。如果前三名中的任何一个开始表现不佳，它们将被淘汰并被自动替换。 Neither Black nor Box 57 ## PDF_PHYSICAL_PAGE_INDEX=68 | PRINTED_PAGE=58 我们需要记住的是，所有这些层次和结构都是由团队中的人构建的，所以一个人理解一切的能力和理解哥本哈根大学的运作方式是同样的挑战。然而，与此同时，团队可以对他们的算法系统建立启发式的理解，对可能导致它崩溃的原因或导致瓶颈的原因的感觉，这使他们能够工作并完成他们的工作 然而，高级专家的无知不应该影响我们对不同事物的了解。现在，如果算法逻辑的确切配置不能轻易追踪一一例如，通过检查机器在神经网络的不同层学习到的东西，它不应该阻止我们对奇怪本身的质疑特别是因为对无知的暗示往往对平台本身很有用。正如ChristianSandvig(2015)所建议的那样，“平台提供商经常鼓励这样一种观念，即他们的算法在没有任何人为干预的情况下运行，并且它们不是设计的，而是作为该领域科学和工程研究的逻辑顶峰而被发现’或发明的。”当事情没有完全按照计划进行，平台被指责为审查、歧视或偏见时，算法通常会被方便地列为战略未知数。当然，正如卡伦和拉图尔恰当地提醒我们的那样，“黑匣子永远不会保持完全封闭或适当紧固的状态…但宏观行为者可以像他们是封闭的和黑暗的一样去做”(1981:285)。一笔特定的购买被认为是可疑的，或者一家信用卡公司无法解释为什么算法会得出这样或那样的结论，这当然是奇怪的。然而，对算法事件的了解与其说取决于其原因，不如说是取决于产生某些“有序和无序”的能力(Michael,2004)。作为一个同一性不确定的事件，有机会提出新的问题。在信用卡公司的案例中，这个问题的措辞可能不一定是算法为什么会得出某个结论，而是这个结论暗示了正在出现的各种现实一一因为人们正在使用算法，以及这些算法的实践对——不同的人做了什么。 在透明度方面，也需要对功能和期望提出问题。2016年9月，挪威《晚报》(Aftenposten)和挪威首相埃尔娜·索尔伯格(Erna Solberg)指责脸书的算法审查了普利策奖的标志性图片《战争恐怖》(Terror of War)，他们这样做是因为他们希望算法以特定的方式行事。他们认为，算法应该能够区分获奖的标志性图像和“正常的裸体”。这一事件(我将在后面的第6章中回到这一事件)不仅是另一个代理机构差别制定的例子，在错误是算法还是人类的问题上得到了例证:它还表明，有时候，关于算法需要了解的可能不是算法本身，而是我们自己的理解极限。也许，我们不仅应该担心算法出错，还应该问它们是否做了它们应该做的事情?为什么脸书被要求审查一张裸体女孩的照片 58 IF . . . THEN ## PDF_PHYSICAL_PAGE_INDEX=69 | PRINTED_PAGE=59 而事实上，这才是人们对他们的期望?我想说的是，了解算法，可能和追问Knorr-Cetina意义上的“负面知识”一样重要，也和试图剥去神经网络的层层结构或获取实际的源代码一样重要。换句话说，在试图了解算法时，我们也必须考虑到哪些事情会干扰我们的认知，哪些是我们不感兴趣的，哪些是我们不想知道的，以及为什么。 黑箱图所隐藏的不仅仅是算法的内部工作原理，还包括在某些情况下，将未知作为一种资源策略性地使用，以保持控制或否认责任的方式。正如我所做的那样，在暗示黑箱隐喻构成了各种转移注意力的东西时，隐喻本身就变成了一种战略上的未知，使知识能够被偏转和模糊。因此，需要严格审查的，不一定是盒子里隐藏的内容，而是那些帮助维持算法是黑盒子概念的政治和社会实践。问题不仅仅是我们是否能够了解算法，而是何时使算法的可理解性领域变得更有可能或更不可能。也就是说，什么时候算法被框定为未知数，为了谁，为了什么目的? 三种方法论策略 尽管到目前为止已经讨论了明显的认识论限制，但我想通过提供三种(不)认识算法的方法策略来结束本章。广义地解释，这些策略对应于本章中讨论的不同类型的无知，并专注于解决算法看似黑盒子的本质。这些策略并不是一个详尽的列表，而是学者们在将算法作为文化分析对象进行研究时可能采取的一些可能的方法路线。 “逆向工程”已知的未知 与其追随启蒙运动寻求揭示“行动”起源的推动力，一种方法是追随控制论的引领。控制论是动物和机器控制和交流的科学(Wiener,1948)。它关注的是理解系统与其环境之间的关系和反馈机制。正如神经精神病学家罗斯·阿什比(Ross Ashby)在《控制论导论》(a Introduction toCybernetics)中所说的那样，控制论关注的不是事物是什么，而是它们做什么(1999[1956]:1)。在书中，阿什比用了整整一章来讨论黑匣子的问题，作为对工程师的挑战，他必须“推断出他所能推断出的内容”(1999[1956]:86)。对阿什比来说，黑匣子不一定是障碍，而只是日常生活的一部分。黑盒子不是例外，而是常态。很多东西看起来都是隐藏的 Neither Black nor Box 59 下一段：[继续读取](https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423.md?start=70&limit=10)