越来越明显的是，这一系统的规模与逻辑与这些产品的出品脱不了干系，这也迫使我们思考它们的深层含义。正如前文所举的例子，这些结果中承载的社会影响更为广泛，比如大数据和机器智能驱动系统中的种族歧视、性别偏见，而且也同样无法轻易找到解决方式，甚至连差强人意的都没有。
怎么理解一个标题为《错头迪斯尼错耳朵错腿儿童颜色学习手指家庭2017儿歌》的视频?光是看这个标题就可以确定它是自动化的产物。“错头”（WrongHeads)最初指代的是什么？现在仍然是个谜。但很容易想象，就像手指家庭歌一样，某个地方肯定出现过一个无害的原创版本，让很多孩子看得哈哈大笑，从而开始在算法排序中爬升，直到进入词语大杂烩的候选清单中。在那儿，它和“颜色学习”“手指家庭”“儿歌”等标题结合在一起——不仅仅是词语，还包括图像、情节和动作——混搭成这个特定组合。
视频中一边播放着手指家庭歌，一边播放着迪斯尼《阿拉丁》中的角色们头与身体轮换配对的动画。开始时还没什么问题，如果出现了错配，怪事就开始了，视频中出现了《阿拉丁》中没有的角色——阿格蕾丝(Agnes),即环球影业《神偷奶爸DespicableMe)中的小女孩。阿格蕾丝在情景中扮演着裁判的角色：当头和身子搭配正确时，她会欢呼；而搭配错误时，她会号啕大哭。机制很清晰，结果也很乏味：最有限的努力，制造出最少的意义。
这个视频的制作者“宝宝乐电视”（BABYFUNTV)已经制作了许多类似的视频，几乎全部都是按照同样的套路。迪斯尼动画《头脑特工队》中的角色霍普在《蓝精灵》和《魔发精灵》换头时痛哭，神奇女侠在《X战警》中抽泣，诸如此类。宝宝乐电视只有170个订阅者，点击率也很少，但还有成千上万个与此类似的频道。YouTube和其他内容整合平台上的观看量从摘选结果来看都不大，但累计起来就非常可观。“错头”背后的运行机制非常清晰，但对不同主题的不断堆叠混搭却开始对成人的感知造成困扰：我们越来越感到有某种非人的东西，感到我们与生产这类内容的系统间出现了“恐怖谷效应”[1]。在表面的内容背后更深的地方，似乎出了错。
225
第九章并发
245