我在一系列不同的物种身上都观察了社会反馈导致动物做出愚蠢行为的现象。我的合作者，悉尼大学的阿什利·沃德（AshleyWard）发现，如果棘背鱼认为其他鱼先从捕食者身旁游过，那么它们也会做同样的事。在与牛津大学的多拉·比罗（DoraBiro）一起进行鸽群导航实验时，我们研究了一只被多拉称为“疯狂鸟”的鸽子。这只领头鸽带着其他鸽子选择了一条迂回曲折的远路回家，即使它后面的鸽子知道有一条更短的路径，大家也还是跟着它飞。所有这些都是社会反馈的例子，在这种反馈中，群体会因互动影响法则而产生困惑，从而做出一些愚蠢的事情。
问题的关键在于，作为科学家的我们看到社会反馈会导致群体愚昧行为时，能得出什么结论。我们可能会认为“模仿或跟随其他同伴行动不利于动物生存”。我们可能禁不住想要构建一个叫作“反馈气泡”的理论，以指代所有动物群体做出傻事的例子。我们还可能认为它们正生活在一个“后生存”的世界里，没有意识到自己会无尽地绕圈，直到死亡。
但是上述理论未能形成，原因很简单：我们看到动物群体也一起做了很多非常聪明的事。奈杰尔·弗兰克斯做“水桶实验”是为了更好地了解行军蚁如何进行大规模的群体行动，将森林地面上所有可以获取的食物一扫而空。在阿什利·沃德操控一只假鱼游过捕食者以误导棘背鱼的实验中，他还发现（当我们不试图欺骗它们的时候)，鱼群在发现和避开捕食者方面做得比单只鱼要出色得多。朵拉·比罗已经证明，她实验中的鸽子其实会一起认路，而且群体也通常比个体更快地找到回家的路。当群体行动时，蚂蚁、鸟和鱼都是聪明的。
70News事件证明，谷歌和脸书陷入了反馈循环。谷歌和脸书发现某件事的搜索次数和分享次数在增长时，其算法就会把它列为重要事件。但这样的错误为数不多，因为这两家公司都有阻止它们出现的动机。正是由于公众的负面评论，这两家公司都在极力避免把有助于传播攻击性观点的反馈循环带到主流社会。一位为脸书主页“威尔·B.坎迪德”工作的极右翼人士在分享70News假新闻的过程中起到了重要作用，于是我在脸书的私人聊天对话框中与他谈话。当我询问这个主页具体都做什么时，他并不是特别坦率，但愿意告诉我一件事：“在我看来，脸书使用的算法是罪恶的，它带有倾向性且可以被操控，而且这种倾向和操控并非总是出于正当理由或为用户的利益考虑。”显然，在社交媒体上传播种族主义、憎恨女性和不宽容思想，并不像过去那么容易。
第二部分 算法想能控制我们我们的情绪和行为吗？
159