一个经常与人工智能具体相关并引发平等和公正议题的问题是偏见。与所有技术一样，人工智能也会产生开发者无意造成的后果。其中一个后果是，机器学习形式的人工智能可能会引人、保持和加剧偏见，从而使特定个人或群体处于不利地位并受到歧视，例如以种族或性别界定的人。偏见可能以各种方式产生：训练数据、算法、算法应用的数据以及技术编程团队都可能存在偏见。
一个著名的案例是COMPAS算法，这是美国威斯康星州在决定缓刑时使用的一种风险评估算法：用计算机程序预测再犯风险（再犯倾向）。一项研究（Larson et al. 2016）发现，COMPAS 对黑人被告的再犯风险预估高于实际情况，而对白人被告的再犯风险预估则低于实际情况。据推测，该算法是根据过去的判决数据进行训练的，因此再现了历史上的人为偏见，甚至加剧了这种偏见。此外，尤班克斯（Eubanks2018）认为，人工智能等信息科技和“新数据机制”对经济平等和公正产生了不良影响，因为它们往往不能使穷人和工人阶级受益或增强他们的能力，反而使他们的处境更加艰难。新技术被用于操纵、监控和惩罚穷人以及弱势群体，例如以自动决策的形式决定领取福利的资格及其后果，从而导致“数字济贫院”(digital poorhouse)。通过自动化决策和数据预测分析，穷人被管理、被道德化，甚至受到惩罚：“数字济贫院阻止穷人获得公共资源；对他们的劳动、消费、性行为和养育子女进行管理；试图预测他们未来的行为；并对不遵守其规定的人进行惩罚和定罪。”正如尤班克斯认为，这不仅破坏了自由，还造成并维持了不平等。一些人—穷人—被认为经济或政治价值较低。除了这些问题之外，在获取和使用网络信息方面也普遍存在不平等现象（即所谓的“数字鸿沟”）。例如，较少的互联网接入导致“较少的政治、经济和社会机会”(Segev 2010，8)，这也可以被视为一个偏见问题。尤班克斯（2018）的分析还表明，数字技术的使用与特定的文化有关，在这个案例中体现了美国文化中“对贫困的惩罚性和道德化的观念”。而在政府使用人工智能中实行，则助长了偏见的持续。
人工智能政治哲学
048