这些问题中没有一个是不能解决的。但这个实验非常清楚地表明,如果我们要将法律条文编程输入智能机器,我们的制度会碰到一种巨大的对于决断的需求。因为影响可能会非常重大,所以必须顾及每一个微小的细节。此外,对机器的预先设定还必须不断地与技术的进步相适应。
而且这个罚单实验只涉及了可以做决定的问题。伦理上的进退维谷被绕开了。但是别忘了:一辆无人驾驶汽车需要在交通事故无法避免的情况下决定是撞向5个小孩还是一个退休者。一位汽车驾驶员或许会凭直觉决定,而无人驾驶汽车依凭的则是一种做决定的程序—这套程序或许也是在随机地进行决断。然而问题在于,我们会不会接受这样一种“可疑的道德”。我们需要更加明确的规则。而我在此感兴趣的,不是这些规则长什么样,而是达成一个决定需要经由怎样的制度之路。
这样一个根本的伦理选择或许只有联邦议会才能做出。但想象一下与此相关的辩论场面:议员们在制定生或死的标准!民众代表在议论人的相对价值!
这样的讨论或许会使参与者在价值观上的根本不同得以体现。一群议员会以康德的义务伦理学为证,根据这种理论,每个人的尊严都是不可伤害的。另外一群议员会从功利主义的角度加以辩论,将5个孩子的生命看得比一个退休者的更重。还有一些人将会提出亚里士多德式的问题,即我们想借由规则实现和提倡怎样的公民道德。数千年来,人类一直在争论这些问题,却没有得到一个具有普遍约束力的答案。数字化社会的粒度要求的正是这样的答案。
微粒社会 The Granular Society
140