斯特罗斯的《加速度》(2005)，在这本书中，最初看似轻松的数字创业故事变成了一个悲惨的故事，讲述了人工智能如何继续拆除太阳系，将其作为其不断扩大的计算化、市场化网络的原材料。在一场竞争激烈的竞赛中吞噬宇宙，随意抛弃原始人作为次优、表现不佳的代理。加速度提出的是，与库兹韦尔和其他关于奇点的乌托邦先知的狂喜愿景相反，这样一个事件的真正意义可能是“使用生命的智能工具的命运将成为企业工具进化的垫脚石”(斯特罗斯2005:240;参见Shaviro2009)。最近，计算机科学家和人工智能研究员ZacharyMason(他曾参与亚马逊机器学习推荐系统的研究)也提出了类似的观点(Locke 2017)。在他的《虚空之星》(2017)中，旧金山的主人公们被不平等和气候变化所困扰，他们的个人生活被难以理解的超级智能人工智能的活动所吞没和同化。这些人工智能“与人类交往只是作为受人类行为影响的副产品，而他们计算符号操纵的其他世界问题”(Locke2017)。当一个亿万富豪试图以工具的方式调动这种人工智能时，个人同一性就会出现大规模而怪异的混乱。然而，真正伟大的人工智能科幻小说，也许是我们已经粗略地回顾过的那些可能性。在这方面仍然无与伦比的是肯·麦克劳德(KenMacLeod)非凡的《秋季革命》四重奏(2008;2009)，通过采用“分支未来”的自负，它理解了一系列AI的社会结果，从人类控制的AI计划经济到蜂群思维的数字吸收，再到AI的去增长放弃。彼得·沃茨(PeterWatts)最近的《向日葵》(Sunflowers)短篇小说和中篇小说(2018)系列的顺序也达到了相当类似的效果。在这个序列中，主人公早期与AI的欣喜若狂的联系变成了玩世不恭，然后变成了恐惧，因为她被招募到一个狭窄的AI——“黑猩猩”(沃茨2018)的指导下进行无休止的星际探索之旅，因为这个殖民之旅的公司董事不敢实例化可能逃脱他们控制的AGI。出于这个原因，每当需要横向思考的紧急情况发生时，货物中包括一个低温冷冻的船员，他们每隔一个世纪就会从睡梦中被召唤出来。然而，尽管有这样的功能，从严格的成本效益角度来看，宇航员也是可以牺牲的。本系列最新的故事以
introduction: ai-capital .
27