{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"00b53386-166c-4d03-bcf3-987d55c93423","title":"算法权力与政治","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9780190493042","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"00b53386-166c-4d03-bcf3-987d55c93423","id":"00b53386-166c-4d03-bcf3-987d55c93423","uuid":"00b53386-166c-4d03-bcf3-987d55c93423","title":"算法权力与政治","normalized_title":"算法权力与政治","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9780190493042","isbns":["9780190493042","9780190493059"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":200,"navigation_url":"https://workshop.closeclaw.top/ai/book/00b53386-166c-4d03-bcf3-987d55c93423","title_url":"https://workshop.closeclaw.top/ai/title/%E7%AE%97%E6%B3%95%E6%9D%83%E5%8A%9B%E4%B8%8E%E6%94%BF%E6%B2%BB","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/00b53386-166c-4d03-bcf3-987d55c93423/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/00b53386-166c-4d03-bcf3-987d55c93423/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/00b53386-166c-4d03-bcf3-987d55c93423","page_url":"https://workshop.closeclaw.top/api/ai/books/00b53386-166c-4d03-bcf3-987d55c93423/page","search_url":"https://workshop.closeclaw.top/api/ai/books/00b53386-166c-4d03-bcf3-987d55c93423/search"},"page":{"printed_page":36,"pdf_page":46,"physical_index":46,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"d7bf88096d15f48918246f1c5fbcfd9d762ecb3e0f2d2bcae7a1b88b4a9414c0"},"chapter":"牛津数字政治研究","content":"(Surden,2014:93)无需明确编程即可实现。当系统的设计是由系统本身持续执行时，我们应该如何思考人工制品的政治?回到谷歌的Photos应用中失败的图像识别的例子，训练数据的性质可能和算法本身一样重要，需要考虑。正如Gillespie所指出的：\n\n算法设计中最常见的问题是，新数据在某些结果上与训练数据不匹配[…]训练数据根本不包括也无法预测的现象出现了[…]一些重要的东西被忽视为不相关，或者从训练数据中剔除，为算法的开发做准备。(2016a:21)\n\n事实上，正如Introna和Wood所主张的那样，“我们无法以任何程度的确定性将纯粹的社交与纯粹的技术、原因与结果、设计师与用户、赢家与输家等等区分开来”(2004:180)。然而，这并不意味着在机器学习算法的研究中采取“设计中的价值”的方法不是一个可行的选择。在某种程度上，算法实际上能够将黑人标记为“大猩猩”，或者将黑人列为未来犯罪的主要高风险(Angwin et al.，2016)，它们应该被仔细审查其功能背后的各种价值观和假设。虽然许多学者和政策制定者担心算法的歧视性能力，但呼吁部分相关公司提高透明度只是解决方案的一部分。许多“算法出了问题”的案例表明，将结果视为更根本的社会偏见和偏见的反映非常重要。也就是说，如果本应计算未来犯罪可能性的机器，被警察报告、逮捕、城市规划和司法政治体系中体现出来的、被几个世纪以来种族偏见污染的统计数据所填充，仅仅谈论算法在产生这种风险评估方面的力量，就会产生误导。与其将预测能力定位在算法(狭义定义)中，我们可以将算法视为福柯所说的政府技术(Lemke, 2001;Miller & Rose, 1990)。\n\n福柯利用政府和治理的概念来分析权力和政治的形式，这些形式涉及到人们可能性领域的塑造和结构。虽然福柯在使用政府和治理这两个术语时，尤其是在他后来的著作中，两者有些互换，但“政府”广义上指的是“行为的行为”，而治理则指的是行为行为背后的思维模式或理性(福柯，1982;2007;2010;莱姆克，2001;罗斯，1999).25正如莱姆克所说，“政府的问题重新引导了福柯对权力的分析”(2012:17)。它是一种超越同意和强制关系的权力概念，相反，它以双重视角看待权力关系\n\n36\n\nIF . . . THEN","previous_page":35,"next_page":37}