这对于思考权力和人工智能意味着什么呢？
第一，人工智能可以引诱、胁迫或操纵，例如通过社交媒体和推荐系统。与一般算法一样（Sattarov 2019)，人工智能可以被设计用来改变用户的态度和行为。在不使用强制手段的情况下，人工智能可以通过引诱和操纵人们，发挥“说服技术”（persuasivetechnology)(Fogg 2003）的作用。声破天等音乐推荐系统或亚马逊等网站旨在通过改变决策环境来引导人们的收听或购买行为（另见前述章节），例如暗示其他有类似阅读品味的人购买了x和y书籍。脸书帖子的顺序由算法决定，例如算法可以通过“传染”（contagion）过程影响用户的感受（Papacharissi 2015）。个人根据相似的兴趣和行为被归类，这可能会复制社会偏见并重申旧有的权力结构（Bartoletti 2020)。人们还被动态定价和其他“个性化”技术操纵，其利用了个人决策的弱点，包括众所周知的偏见(Susser，Roessler，and Nissenbaum 2019，12)。与所有形式的操纵一样，人们在不知不觉中受到影响而以某种方式行事。正如我们所看到的，这种对个人决策的隐蔽影响威胁到了自由，即个人自主。只要出现这种情况，我们就不再能控制自己的选择了，甚至不了解这种情况是如何发生的。根据自主的现代观念，我们是或应该是原子化的和理性的个体，虽然这一观念并不充分并受到了西方主流哲学的批评（参见，例如 Christman 2004 和 Westlund2009关于关系性自主的讨论)，但即使作为社会人和关系人，我们也希望对自己的决定和生活有一定的控制权，我们不希望被操纵。就权力而言，上述人工智能的引诱和操纵形式（甚至更多地）将权力平衡转移给了那些收集、拥有我们数据并将其货币化的人。此外，社会中的特殊群体（如种族主义群体）可能会试图通过操纵社交媒体上的人们来获得权力。
人工智能政治哲学
124