“我们一出生，人工智能系统就会根据我们的基因选择最优的成长路径。我们会阅读最合适的读物、观看最合适的娱乐作品。衣食住行也都不用操心，全被安排妥当。到了适婚的年龄，智能系统会推荐最匹配的情侣，无论怎么算，我们的性格和其他个人条件都跟对方最搭。智能系统知道怎样让每个人开心，它会定时定量地给我们一些刺激。有时候是直接吃药，有时候是看一段有趣的视频，有时候是给我们推荐几个好玩的朋友。所有的痛苦都被抹杀。在这个乌托邦里我们只享受快乐。总之，每个人的一生都会高高兴兴地度过。根据智能系统的测算，这个时代的人类，在整个历史上都是最幸福的……”
这样的未来并不全是凭空臆想出来的，在《必然》（The Inevitable）里，凯文·凯利（Kevin Kelly，1952—）提到，所有的集体智能和机器都会融合为一个被他命名为“Holos”的整体，Holos 包括了所有人的集体心智、所有机器的集体行为、自然界的智能相结合形成的整体，以及出现在这个整体中的任何行为。这个整体目前尚属不完美的初级阶段，以互联网的形态覆盖着 510 亿公顷的土地，触及 150 亿台计算机，占据 40 亿人类的心智，消耗地球 5% 的电能，它就是未来智能乌托邦的载体。
不知道会不会有人真的向往这样的生活，但是在笔者脑海中闪现出来的画面是图 9-17 这样的，即在电影《机器人总动员》中被人工智能和机器人抚养得极为妥帖的人类。笔者没有从画面中感受到幸福，反而有一种隐隐的不安。
令人感到更不安的是当前已存在的直接风险，即人工智能控制我们看到的数据，本身是没有目的性的，但其背后的人是有目的性的：你随手点了一家看似不错的餐厅的外卖时，也许不会意识到它是花了钱后才被系统推送到你的面前的；当你津津有味地阅读新闻客户端的推荐文章时，也不知道有些文章其实是软文或者公关文章。由于信息的垄断控制，商品和信息流转过程中增加了额外的隐性环节和成本，轻则会损害最终用户利益，这些成本最终都要转嫁到用户身上；重则会干扰最终用户的判断。在信息社会，人控制了人工智能作恶，比人工智能自己学会作恶的可能性要大得多。这种威胁与原始社会的火、封建社会的刀、现代社会的核能并无不同，它确实会给我们带来伤害，但也是机遇所在，具体取决于我们如何使用这项工具。
第 9 章 与机器共生
389