{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787313310330","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","id":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","uuid":"1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","normalized_title":"权力的数据伦理学大数据与人工智能时代的人本方法新解","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787313310330","isbns":["9787313310330"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":266,"navigation_url":"https://workshop.closeclaw.top/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","title_url":"https://workshop.closeclaw.top/ai/title/%E6%9D%83%E5%8A%9B%E7%9A%84%E6%95%B0%E6%8D%AE%E4%BC%A6%E7%90%86%E5%AD%A6%E5%A4%A7%E6%95%B0%E6%8D%AE%E4%B8%8E%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E6%97%B6%E4%BB%A3%E7%9A%84%E4%BA%BA%E6%9C%AC%E6%96%B9%E6%B3%95%E6%96%B0%E8%A7%A3","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed","page_url":"https://workshop.closeclaw.top/api/ai/books/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/page","search_url":"https://workshop.closeclaw.top/api/ai/books/1794a2f7-7f5b-4e9a-ab89-fc95e5b474ed/search"},"page":{"printed_page":102,"pdf_page":116,"physical_index":116,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"f7325b0d790b56f9d55f626fc45ade1095c824000a220c9f5d9b5ff96563167d"},"chapter":"第3章","content":"如果我们将人工智能决策系统视为分布式道德能动者的社会技术架构组件，其中人类能动者与非人类能动者在塑造道德体验方面你中有我、我中有你，那么关于非人类能动者道德地位的问题将不再止于对其存在性的质询，而是与其在实践中的具体应用休戚相关。在这种情况下，我们甚至不再需要质疑：机器是否应该或能够具备人类水平的伦理能动性，抑或是机器是否具有伦理责任。相反，我们应当试图找到一种方法，确保人类能继续以有意义——最重要的是负责任——的方式对机器进行干预。\n\n这里·我们可以采用布鲁诺·拉托尔(BrunoLatour)对于技术人工制品“道德能动性”的描述，他将其看作是执行人类法律、价值与伦理的非人类行动者(Latour，1992；Latour and Venn、2002)。他认为，技术人工制品确实有着“强烈的社会性与高度的道德性”(Iatour。1992：152)。它们按照法律规定与“刻在或编码在机器中”的命令进行运作(1atour，1992：177)。正如拉托尔所说，像安全带这样的人工制品可以将我们的身体固定在我们本不希望的位置。这就是它的设计初衷，而且它的确是在执行汽车安全法规。如果我们不遵守这些要求，它指定会用持续的蜂鸣声做出提醒。\n\n然而，技术并非只是道德意向的被动表征。相反，它们是拉托尔所说的“技术中介”(Latour and Venn，2002：252)。道德意向与行为在技术设计当中会被积极转化，并与其应用、法律、文化以及我们所处的社会交织在一起，从而产生各种可能性。这里，我们举一个“词汇嵌人”机器学习方法的例子·它通常被用于网络搜索引擎的语言处理。通过针对常用模型进行研究、伯吕克巴舍(Bolukbasi)等人(2016)发现：在创建的词集当中·诸如建筑师、哲学家、金融家等头衔类词汇在语义上被归为“典型男性”词语，而诸如接待员、管家和保姆等词汇则会被归为“典型女性”词语(Bolukbasi et al.、2016：2)。因此、他们得出结论：盲目地应用这些模型可能会助长社会上的性别歧视。这类机器学习模型的开发者的工作显然构成了一种道德行为。他们需要将道德价值与选择委托给一个技术道德能动者，进而塑造社会环境中的道德因素。正如鲍克与斯塔尔(2000)所认为的那样。信息分类从来都不是中立性的，而是立场分明。信息系统开发者的工作总是隐含一个“道德”维度(Bowker and Star，2000：5).例如搜索引擎的词汇嵌入模型。因此·在关于技术道德能动者编程语言的编写当中，人类行动者发挥着关键作用(Latour，1992)。然而，将这种类型的技术道德能动者转化为道德行为或道德影响并非一个简单的过程。如果我们试图追溯上面例子中导致歧视的道德能动者，我们就会发现许多行为并非仅仅是机器学习模型的人类开发者的主动行为，同样它们也不仅仅是“机器”的主动行为。机器学习模型(非人类行动者)只是极大地放大了其训练数据当中现有的人类偏见(人类行动者)。换育之，该模型从谷歌新闻文章当中自主学习与进化升级，并通过创建“有性别偏见的词汇集”的方式极大地放大了这种偏见。然而、它也是被“盲目”开发并被社会采用、因此它只是对人类行动者(使用者与研发人员)所提供信息的客观映射罢了。\n\n权力的数据伦理学：大数据与人工智能时代的人本方法新解\n\n102","previous_page":101,"next_page":103}