即使是对我们大多数人来说非常普通的事情，比如使用基于人工智能的搜索引擎，也可能存在问题。诺布尔（2018）认为，谷歌等搜索引擎强化了种族主义和性别歧视，这应被视为“算法压迫”(algorithmic oppression)，它源于人类作出的决定，并由企业控制。她声称，算法和分类系统“嵌入”并影响着社会关系，包括地方和全球的种族权力关系。她指出，企业从种族主义和性别歧视中赚钱，并提请人们注意非裔美国人在身份、不平等和不公正方面受到的影响。例如，谷歌的搜索算法曾将非裔美国人自动标记为“猿”，并将米歇尔·奥巴马（Michelle Obama）与“猿”一词联系在一起。诺布尔认为，这些案例不仅具有侮辱性和攻击性，还“展示了种族主义和性别歧视是如何成为技术架构和语言的一部分”。问题的关键并不在于程序员有意使用这种偏见编码。问题在于，他们（以及算法的使用者）假定算法和数据是中立的，而各种形式的偏见却可能存在于其中。诺布尔警告说，不要将技术过程视为是非语境化的（decontextualized）和非政治化的(apolitical)，这种观点只符合一种个人在自由市场中作出自己选择的社会观念。
人工智能政治哲学
050