表现。
就分类而言，鲍克与斯塔尔将其描述为“一组用于放置事物的箱子(比喻意义上或字面意义上)，用于机械性生产或知识生产”(Bowker and Star，2000：10)。分类具有一致性、唯一性以及排他性。这就意味着在对信息进行分类之时，只能遵循一种分类系统。也就是说，分类系统不存在“例外”：“系统具有完整性”(同上：11)。当然，实践当中并不存在完美的分类系统，因为在关于一个对象是否属于某个特定类别的问题上，总会存在模糊或者分歧。此外，用于将对象归入特定类别的信息实际上从来都不完整。例如，人的生命似乎并不能轻易纳入某个分类系统当中。就算我们非要将它简化为一套类别，也不能体现出它的全貌。在上一章中，我引用了阿尔帕伊登关于人类年龄的例子。在这个例子当中，专家系统就无法轻易将人的年龄放在某个“箱子”之中。因为我们不止有“年老”或“年轻”这两种类别，而是一个逐渐变老的连续过程(Alpaydin，2016：51)。就AISTIs而言，正如我们在第3章看到的那样，从20世纪70年代的专家系统到21世纪10年代越来越自主的大数据机器学习系统，人工智能进化的核心动力之一就是通过建立能够动态感知环境中细微变化的系统来克服专家系统在表征实际环境方面的局限性。正是计算机算法分类.工作的完整性理想在应用于人类生活之时产生了社会伦理影响。计算机算法被设计成一个完整的分类系统、并且在其运作过程当中严格执行这种理念。然而，这个系统从来都不具有完整性。正是基于这一原因，如果它在人类生活中被理想化地使用、那么很有可能造成严重的社会伦理后果[这也是凯西·奥尼尔(2016)的主要关切之一]。
例如，一个对于个人未来潜在犯罪行为进行风险评估的预测性计算机算法(如C(MPAS算法)可能基于针对各种类型个人数据的处理来进行风险评估。其中可能包括个人定位数据，而这些位置信息可能会关联到城市不同地区的犯罪率数据。如果一个人生活在高犯罪率地区.计算机算法就极有可能将其归为高风险人群。因为计算机算法的分类原则在理论上始终都以完整性为前提。因此，在把一个人放入“高风险”类别之时，个人其他数据当中的任何细微差别都不会被予以考虑。假如该算法被作为一个“完整的系统”部署在司法系统当中，可能就会对生活在高犯罪率地区的个人产生严重的社会影响。
第4章数据利益与数据文化
155