{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"56fa816e-042b-40dd-9a08-6bc236c079d8","title":"人工智能政治哲学","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787208189485","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"56fa816e-042b-40dd-9a08-6bc236c079d8","id":"56fa816e-042b-40dd-9a08-6bc236c079d8","uuid":"56fa816e-042b-40dd-9a08-6bc236c079d8","title":"人工智能政治哲学","normalized_title":"人工智能政治哲学","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787208189485","isbns":["9787208189485"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":261,"navigation_url":"https://workshop.closeclaw.top/ai/book/56fa816e-042b-40dd-9a08-6bc236c079d8","title_url":"https://workshop.closeclaw.top/ai/title/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%94%BF%E6%B2%BB%E5%93%B2%E5%AD%A6","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/56fa816e-042b-40dd-9a08-6bc236c079d8/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/56fa816e-042b-40dd-9a08-6bc236c079d8/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/56fa816e-042b-40dd-9a08-6bc236c079d8","page_url":"https://workshop.closeclaw.top/api/ai/books/56fa816e-042b-40dd-9a08-6bc236c079d8/page","search_url":"https://workshop.closeclaw.top/api/ai/books/56fa816e-042b-40dd-9a08-6bc236c079d8/search"},"page":{"printed_page":48,"pdf_page":64,"physical_index":64,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"dd56b1d3b1d0fedba5f828cb5db83af624fda8aefa198ba6bfbc43d3860e2ad6"},"chapter":"第三章 平等与公正：人工智能的偏见与歧视","content":"一个经常与人工智能具体相关并引发平等和公正议题的问题是偏见。与所有技术一样，人工智能也会产生开发者无意造成的后果。其中一个后果是，机器学习形式的人工智能可能会引人、保持和加剧偏见，从而使特定个人或群体处于不利地位并受到歧视，例如以种族或性别界定的人。偏见可能以各种方式产生：训练数据、算法、算法应用的数据以及技术编程团队都可能存在偏见。\n\n一个著名的案例是COMPAS算法，这是美国威斯康星州在决定缓刑时使用的一种风险评估算法：用计算机程序预测再犯风险（再犯倾向）。一项研究（Larson et al. 2016）发现，COMPAS 对黑人被告的再犯风险预估高于实际情况，而对白人被告的再犯风险预估则低于实际情况。据推测，该算法是根据过去的判决数据进行训练的，因此再现了历史上的人为偏见，甚至加剧了这种偏见。此外，尤班克斯（Eubanks2018）认为，人工智能等信息科技和“新数据机制”对经济平等和公正产生了不良影响，因为它们往往不能使穷人和工人阶级受益或增强他们的能力，反而使他们的处境更加艰难。新技术被用于操纵、监控和惩罚穷人以及弱势群体，例如以自动决策的形式决定领取福利的资格及其后果，从而导致“数字济贫院”(digital poorhouse)。通过自动化决策和数据预测分析，穷人被管理、被道德化，甚至受到惩罚：“数字济贫院阻止穷人获得公共资源；对他们的劳动、消费、性行为和养育子女进行管理；试图预测他们未来的行为；并对不遵守其规定的人进行惩罚和定罪。”正如尤班克斯认为，这不仅破坏了自由，还造成并维持了不平等。一些人—穷人—被认为经济或政治价值较低。除了这些问题之外，在获取和使用网络信息方面也普遍存在不平等现象（即所谓的“数字鸿沟”）。例如，较少的互联网接入导致“较少的政治、经济和社会机会”(Segev 2010，8)，这也可以被视为一个偏见问题。尤班克斯（2018）的分析还表明，数字技术的使用与特定的文化有关，在这个案例中体现了美国文化中“对贫困的惩罚性和道德化的观念”。而在政府使用人工智能中实行，则助长了偏见的持续。\n\n人工智能政治哲学\n\n048","previous_page":47,"next_page":49}