我们每天都要艰难地做出各种各样具有伦理影响的人类决策，而且不止一次地自我意识到或被他人告知：我们做得不好或是存在伦理问题。然而，人类有意识的自我批评是数据过程所不具备的[正如路易丝·阿穆尔(2020)所说，算法并不会进行自我怀疑].这也是我们需要自己不断做出这些决策的根本原因。思考一下你能想象得到的最危急情况之下的伦理评判，比如在战争期间投掷一枚炸弹，然后将它转换为一个没有批判能动性的数据过程。这简直可怕！然而，实际上正是由于这种减少伦理决策的复杂程度与解决人类困境的美好憧憬促成了如今我们对于BDSTIs与AISTIls的研发应用。
实际上，如果我们不停下来重新调整目前BDSTIs与AISTls的发展方向，我最为担忧的这种人类批判能动性丧失将成为我们的社会技术现实。然而，我们似乎并没有意识到这一点，因为将人类排除在外并不意味着将道德能动性也置之不顾[确切来说，制定决策(即便是道德决策)总是可以通过针对数据过程进行设计来得以实现]。然而，正如我在本书当中试图说明的那样，在这一过程之中，我们将针对自身民主社会及其体制至关重要的人类批判伦理能动性丢掉了。人类的批判能动性似乎不再是我们社会技术空间架构的组成部分，也从我们的社会想象、规范与文化当中逐渐消失殆尽。
现在，我们面临着一系列核心任务，以此引导我们所需要的变革。总体而言，这些任务将会全部致力于发展并巩固一个高度复杂的社会技术系统，其将由诸多文化、经济与社会因素共同塑造。我只能在这里提到其中的几个任务。
在建立并采用AISTIs与BDSTIs之时，我们首先需要的是一种想象力，想象一种不同的技术文化或人类权力的“数据文化”。我们必须针对完美社会、高效社会甚至是公平社会的不切实际的愿望提出挑战，这些都可以在设计文化当中得以实现。要知道，人类、生物与社会本质上具有无序性与难测性。它们从来都不完美，同时往往有违公平，因此绝对值得我们赋予一定伦理关注与批判。然而，大数据系统或人工智能并不能改变这一现状。唯有人类才能通过保障创造人类批判能动性所需的条件与权力结构做出真正的变革。然而。我们所能做的仅仅是将BDSTIs与AISTIs想象成为潜在的顺手工具，可以为人类的关键伦理决策提供证据支持。例如，可以加强科学分析的装置，或是的确可以帮助我们提高效率的仪器。
权力的数据伦理学：大数据与人工智能时代的人本方法新解
210