实验当中提出的自动驾驶汽车的伦理困境。该实验探讨了自动驾驶汽车在不可避免会撞到行人的事故当中所面临的道德决策困境。在该情景之中，如果只有两种选择，你作为司机，要么选择让车撞向两个老年人、要么选择让车撞向一个年轻人，做出什么样的决定才符合道德正义性呢?阿瓦德等人开发了一款在线“严肃”游戏，其中有与这样的场景相关的伦理困境：一方面用于研究人们的道德选择：另一方面，据他们介绍，用于创建“一个全球对话语境，向设计道德算法的公司以及负责监管的政策制定者来表达自身道德偏好”(Awad et al..2018：63)。在该实验中，他们关注人工智能系统决策过程的“运行模式”(Lehr and Ohm，2017)——系统的调用时刻以及没有人类干预情况下系统的完全自主决策情况。通过这种方式，他们构想了未来的日常生活场景——机器将取代人类进行决策并能自主运行：
在人类历史上，我们从未允许一台机器在没有实时监督的情况之下，在几分之一秒的时间内自主决定人类生死大事。现如今，我们随时会逾越这条边界。这样荒诞的事情并非发生在遥不可及的军事行动当中，实际上它将发生在我们日常生活中最为稀松平常的领域—日常交通场景中。(Awadet al.,2018:63)
“逍德机器”实验是著名“电车问题”的重新演绎，以测试不同情景与伦理困境。该实验现在已经成为人工智能伦理研究领域最为常用的例子。然而，我不认为它是对人工智能“人本方法”具体实施的最佳诠释。事实上，机器程序化选择本身并不是我们首先要考虑的伦理困境问题。我想，在讨论这个问题之前，思考一个没有我们就不会自主决定的机器的伦理问题。我们想问的是：我们希望让机器如何帮助我们做出人类想要的决定？如何让机器作为人类环境的有益补充？通过这种方式，我们可以思考一个未来的替代方案——机器不需要在没有人类干预的情况下做出某些关键决策。例如，欧盟法律(《通用数据保护条例》，[EU]2016/679)规定：在没有人类干预的情况下，严禁仅仅基于自动数据处理做出与人相关的决策(特别是当这些决策会对个人造成重大影响的情况下)《通用数据保护条例》。[EU]2016/679，第22条)。
权力的数据伦理学：大数据与人工智能时代的人本方法新解
98