{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787313310330","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","uuid":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","normalized_title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787313310330","isbns":["9787313310330"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":266,"navigation_url":"https://workshop.closeclaw.top/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title_url":"https://workshop.closeclaw.top/ai/title/%E6%9D%83%E5%8A%9B%E7%9A%84%E6%95%B0%E6%8D%AE%E4%BC%A6%E7%90%86%E5%AD%A6%E5%A4%A7%E6%95%B0%E6%8D%AE%E4%B8%8E%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%97%B6%E4%BB%A3%E7%9A%84%E4%BA%BA%E6%9C%AC%E6%96%B9%E6%B3%95%E6%96%B0%E8%A7%A3","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","page_url":"https://workshop.closeclaw.top/api/ai/books/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page","search_url":"https://workshop.closeclaw.top/api/ai/books/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/search"},"page":{"printed_page":105,"pdf_page":119,"physical_index":119,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"4554240351701508c8b25bfecb78e2af5dc4386044b0ab48f61b4890531147e5"},"chapter":"第3章","content":"在价值敏感设计框架当中，在计算机技术的设计和实际应用中一个技术的内在价值被视为伦理困境或道德问题来解决。因此，计算机技术的伦理影响可以通过检查其技术设计而完成分析，即检验技术的设计方式是否“符合伦理”或“有伦理问题”。例如、巴焦·弗莱德曼与另一位信息科学学者海伦·尼森鲍姆(HelenNissenbaum)在1996年发现，当时用于机票预订、医学毕业生初次就业分配等任务的电脑系统存在不同类型的偏见，并提出了一个在计算机系统设计之中解决这一问题的框架。\n\n与之类似，价值敏感设计方法还被用于研究嵌人人工智能系统设计当中的价值、并将分析扩展到人工智能的整个生命周期(Friedman and Hendry, 2019; Umbrello and Yampolskiy, 2020).人们发现：人工智能的数据系统与数学设计算法并非对世界客观公正的再现。自然而然。其所带来的结果与社会影响(决策和建议)并不具备“伦理中立性”(Mittelstadt et al.、2016：4)。\n\n21世纪10年代末的一个研究方向专门讨论了人工智能系统的“非中立性”，其中特别提到了公私部门采用并实施人工智能与大数据系统的权力机制、其中一些与人工智能系统社会伦理影响相关的具体案例研究被用来强调以下观点——在人工智能的研发与社会应用当中，社会权力关系与利益也在发挥作用。\n\n例如、凯西·奥尼尔(2016)描述了大数据系统的黑暗面、或者用她的话说是“数学毁火武器(WMI)s)”。这一“武器”被美国教育与公共就业系统用于信用评分以及保险评估当中。她主要关注的是·这些大数据系统在部署之时，个人或政府主体并没有质疑其社会影响的评估·认为它们是能够取代人类决策与评估的客观公正的系统。她举例说明了这些系统有时会对公民造成恶劣的影响。例如，机器不会考虑社会背景与人为因素的影响，基于僵化的机器绩效评估·很多优秀的老师惨遭解雇(()'Neil，2016：5)。此外，基于计算机的IP地址信息，社会底层群体的获得的信用评分往往偏低(()'Neil，2016：144)。\n\n第3章大数据人工智能社会技术基础设施\n\n105","previous_page":104,"next_page":106}