第三章 算法的残酷与幽灵工作的隐藏成本
冷漠的设计与意外后果
大多数按需工人都接受API环境中不规律的工作流程，而软件错误会使工作变得更加不稳定。2013年，系统出现的一个小故障导致琼的MTurk账户突然被冻结——这是按需工人最可怕的噩梦。“没有一封电子邮件通知我软件出了问题；我只知道自己不能再登录了，”她说，“我给客服打电话，他们告诉我必须等网站修复这个问题。账户冻结让我损失了近200美元。我失去了高薪工作，原因是平台自己出了问题，而不是我的工作质量有问题。”事情出错的时候，琼这样的按需工人根本不知道发生了什么，更别提追索补偿了。限制登录40个小时后，琼的账户恢复了。但这段经历让她很谨慎。“我等了40个小时，不知道自己还能不能继续工作，能不能维持收入，也完全不知道原因。”
2014年，网页设计顾问兼作家埃里克·梅尔（Eric Meyer）创造了“无意的算法残酷”（inadvertent algerithmic cruelty）这一短语，用来描述计算机设计中的一个缺陷——缺乏共情能力。1这个术语敏锐地体现了琼在幽灵工作中的经历。梅尔在一篇博客文章中首次使用这个短语，目的是回应Facebook推出的“年度回顾”（Year in Review）功能，该功能以图片形式展示了人们一年中的高光时刻。在梅尔的例子中，应用程序按照设计的那样正确运行——向他展示了过去一年的照片。但问题在于，他5岁的女儿丽贝卡那一年死于脑癌。后来，在Slate.com的一篇文章中，梅尔写道：“有一张我女儿的照片，她已经去世了。她在今年去世了。的确，我这一年就是这样度过，我已经受够了。我这一年就像我的小女儿永远不会再出现的那张脸。”他承认这不是恶意攻击，只是代码造成的不幸意外。“算法本质上是考虑不周的，”他写道，“它们为特定的决策流程建模，可一旦运行，它们就不会再思考。”
当算法、平台或API的设计缺乏思考，并且出现在毫无戒备的消费者眼前，埃里克·梅尔这样的人就会承受意想不到的后果。如果工作场所出现“考虑不周的流程”，尤其是那些低收入者几乎没有议价能力、往往损失惨重的工作场所，那么意外的经济后果和社会后果会更加严重。 2
70