个性化设置有脆弱的一面，也有强大的一面。如果一家社交网站知道你是一个纸牌爱好者，它就会优先显示有关赌场信息的帖子。然而，它也可能将你列入“受骗者名单”，供赌场广告商寻找问题赌徒进行行骗。政治抗议者们以推翻腐败政府为共同目标而聚集在一个虚拟的平台中，但这个平台也同时为统治者提供情报。数据可以为用户提供服务，也可以使他们陷入不利的境地。在当今美国的施政报告辩论中，这些担忧常被归为隐私问题，但它们同时也涉及搜索问题。谁是幕后的操控者?他们的黑箱在以什么方式塑造并呈现我们的世界？
个性化也会对我们的观念起塑形作用。个性化是购销双方的关键，这就是为什么在数字经济中，信誉和搜索配合得如此紧密。网站对我们的定位会影响到它们将选择什么样的内容呈现给我们。企业想知道我们在搜索什么，这样它们就可以对我们的市场观念进行塑形。而在搜索最优惠的价格和最广泛的选择时，我们也在对市场进行塑形。准确契合的搜索结果可以吸引用户，而准确锁定的用户则可以吸引广告商。最赚钱的广告都是那些在搜索结果页面中“小范围”锁定客户的广告，因为它们已经从用户曾经主动贡献的搜索信息中知道他们想要什么了。一家花店很可能会花钱把广告投放给那些搜索过“玫瑰”的用户，而不是某些随机的电脑用户。但Google还可以更进一步，那就是给出用户查询“玫瑰”的频率，以及他们在搜索结果中点击了哪些网站。Google的行为越来越接近Facebook、Twitter等网站的做法。
黑箱社会The Black BoxSociety
114