香农解释道。香农请她举例说明自己被算法分析的经历,她说:
本周早些时候,我在Facebook上发表了一篇博客文章,之后我注意到,突然之间,Facebook为我“选择”的广告往往是关于泰勒·斯威夫特(Taylor Swift)的演唱会门票和她代言的产品(比如美国运通(American Express)),而不是通常中年女性会想到的抗皱霜和减肥广告
虽然香农认为泰勒·斯威夫特事件很有趣,但她经常发现定向广告“有点冒犯,因为它们对我做出了假设,我不喜欢这样认为。”这就是“分析机器”(Elmer,2004)的工作,它试图通过详细的消费者档案来产生一种同一性,这些档案旨在预测未来的需求。基于统计推断和归纳推理,分析算法“不一定有任何合理的依据,可能导致非理性的刻板印象和歧视”(deVries,2010:80)。尽管如此,是否正在构建“正确的”识别的问题可能已经无关紧要了。正如德Vries(2010)所说,错误识别不仅仅是一种不匹配或应该被认为是不合适的事情。错误识别也可能给思考如何体验同一性构建提供一些余地。
体验算法景观不仅是关于人们的个人参与,也是关于算法在绘制和建立某些联系方面所做的事情。用Ingold(1993)的话来说,一个特定的景观的特征取决于它为在那里度过时间的人提供的体验一一取决于他们的观察和期望。对罗宾来说,亚马逊似乎总是被她的性别所迷惑,这不仅有趣和令人困惑,而且似乎使她的跨性别主体地位同时更加真实和不真实。她是这样解释的:
我是跨性别者,刚刚开始过渡。这似乎让亚马逊非常困惑。它试图提出建议,却经常出错。有时,这很明显但很有趣:“我看到你刚买了化妆品,但你不想要一些电动工具吗?”(我从来没有订购过电动工具)。
罗宾一直在思考“一家公司愿意在这样的事情上冒多大的风险”,像亚马逊这样的公司是否真的愿意尝试根据所有可能的人口统计分类,而不仅仅是那些似乎不会危及其利润的人:
如果让我检查一下自己的购买历史,然后想一个叙述,我几乎肯定会把它当成一个跨性别者,而不是碰巧穿同样尺码的衣服和鞋子的异性恋夫妇。但是,
102
IF .. . THEN