警惕软件
为什么这个问题如此重要？因为越来越多的软件算法在权威领域中得到应用。我们以前都是通过人工判断做出决策，而现在却是以自动化的方式得出结论。软件可以在几分之一秒内对数千条规则和指令进行编码。这类自动化程序已经被用来指引飞机航向，建设网络物理中枢，并读取我们的全球定位系统（GPS）定位信息。总之，在经意或不经意间，这些软件程序在提升着我们的生活品质。
可是我们应该让其在哪儿止步呢？当我们想去一家新餐厅时，该类程序不但会在无形之中影响着我们的路线选择，而且决定着Google、Yelp、OpenTable或Siri会向我们推荐哪家餐厅。另外，这些程序还可以让我们看到自己的爱车受到怎样的评论。然而，选择一辆车或者一家餐厅并不是通过优化引擎或规划驾车路线就能简单解决的事情。推荐引擎是否会考虑到这家餐厅或者汽车公司为员工发放保健福利或规定产假的情况？我们是否可以推动这一进程？在以最大现实利益为目标的行业竞争中，硅谷和华尔街的数据专家们倾向于把推荐项目视为一个纯技术问题。编码规则中的价值观和特权问题都被藏进了黑箱。
最显著的一个问题是：这些运算程序是否公平？举例来说，为什么YouTube在Google的视频搜索结果中总是能够击败其他的视频网站？为什么某家餐厅或汽车股票可以排在列表的顶端？
第一章我们需要知情
013