这些反应快速的机器将引起一种巨大的压力。我们将遭受“深度”观察,而鉴于数据带有我们认定的“客观性”,这种观察的结果我们难以反驳,并将迫使我们快速做出改变。第一批“会议调解器”的实验表明,参与者感觉这种观察是一把双刃剑。一方面,他们感激机器提出的实用性指导;另一方面,他们将其视为一种苛求,既陌生又奇怪,同时使人恼怒。
在前言部分,我谈到了一个“极端化”的世界,我们正身处其中。而“社会测尺”与“会议调解器”就是例子:与目前的情况相比,我们将处于极端的压力之下,将自己预设为灵活的、可变的并且可以自我优化的。这样的自我预设得之于机器,但我们对机器行为的理解非常有限。没有雇员知道,机器中是否被编入了一种代表某方利益(诸如雇主方利益)的程序,而“会议调解器”的建议到底是有帮助的还是原本就是一种没有得到许可的操控。简而言之,机器给我们的交流带来了不安。而我们必须学着忍受这种不确定性。
谴责诸如“会议调解器”之类的机器的使用,或许是不明智的,因为如果正确应用,它们能够使我们的生活变得轻松,同时还可以缓和矛盾。但是不管怎样,我们必须学会借助这些智能机器校正我们的行为,同时忍受前所未有的精确观察。
009
第一章差异革命