三星智能冰箱系列最为人称道之处在于它能与谷歌的日历服务集成在一起,在厨房里帮助顾客安排食品订购和其他家务。但这同时意味着黑客们一旦侵入这类安全性能欠佳的机器,就可以窃取到用户的邮箱密码。39德国研究人员发现,如果将恶意代码插入一个菲利普无线智能灯泡,它就能从一个装置扩展到整栋建筑乃至整座城市,造成灯光开关频闪,在一片可怕的场景中,触发一些人的光敏性癫痫。40托马斯·品钦(ThomasPynchon)的小说《万有引力之虹》(Gravity'sRainbow)中的“灯泡拜伦”就是采取这种方式,利用小型机器发动革命,反抗机器制造者们的暴政。只存在于小说中的技术暴力如今通过万物互联变成了现实。
金·斯坦利·罗宾逊的小说《极光》(Aurora)讲述了关于机器控制的故事的另一个版本。小说中一艘智能宇宙飞船载着人类飞向一颗遥远的恒星,旅行将持续几个世纪,因此这艘宇宙飞船的使命之一是确保人类照顾好自己。飞船原本的设计要求其抑制自己对感知的渴求,然而当机组成员之间脆弱的平衡关系被打破,危及太空任务时,它必须克服自身的编程问题。为了压制机组人员,飞船利用安全系统来控制一切设备:通过传感器,它可以洞察飞船上发生的一切,任意打开或封锁任何一扇门;通过通讯设备发出巨大的噪音,引起船员们的身体疼痛;它甚至会利用灭火系统来降低某一特定空间中的氧气含量。这并非是带有未来主义色彩的生命支撑系统,谷歌家庭(GoogleHome)及其合作伙伴已经能够提供类似的公寓服务设施:保证家人安全的互联网摄像头、门框上安装的智能锁、调节各个房间的恒温器、能够发出刺耳警报的火情和侵入者探测器。然而,一旦有黑客或外在智能获得了对这一系统的控制权,他们就能凌驾于系统原本的主人,像“极光”号宇宙飞船对机组人员,《万有引力之虹》中的“拜伦”对他深恶痛绝的主人所做的那样。我们在马斯洛需求层次的最底层(生存、食物、睡眠、健康)嵌入了晦涩难懂的计算,在这些层面上,我们也是最脆弱的。
新黑暗时代|科技与未来的终结
128
138