与一些关于机器道德地位的论点一样，一些关于政治地位的论点也可能受到人工智能最近成功超越人类（如国际象棋和围棋）的鼓舞，并可能假定未来人类可能发展出通用人工智能（AGI）或超级智能（ASI）。博斯特罗姆（2014）、库兹韦尔（2005）和莫拉维克（Moravec1988）等超人类主义者认真考虑了这种可能性，并讨论了超人类智能出现、殖民地球然后扩散到宇宙的情景。在这种情况下，政治问题不仅涉及这些超级智能实体的政治地位（作为政治能动者或承受者)，而且还涉及人类的政治地位：超级智能的人工智能是否会从人类手中接管政治权力，这对人类的政治地位意味着什么？人类是否会成为人工智能主人的奴隶，就像某些动物现在成为人类的奴隶一样？人类是否会被用作生物材料或能源（就像我们现在对某些植物或动物所做的那样——参见电影《黑客帝国》[ The Matrix])，或者被上载到数字领域？人类还会存在吗？人类面临着哪些（可能被毁灭）的“生存”风险（Bostrom2014)？我们能否赋予人工智能与人类目标相一致的目标，或者人工智能是否会改变这些目标，追求它自身而不是人类的利益？休斯（Hughes 2004）等超人类主义者倾向于第一种选择，他们（相对于后人类主义者）的目标不仅是延续和激化启蒙运动，而且是延续和激化人类主义和民主，即使人类将被彻底改变（Ferrando2019，33)。另一些人则认为，人类必须被彻底征服，我们最好为比我们更聪明的生物留出空间。无论如何，超人类主义者都同意，人工智能等技术———而不是教育和人类文化——将会而且应该创造出更好的人类和超人类，这将对整个人类产生政治影响。从这个意义上说，这很可能会改变人类（如果还存在的话）和他们的强化了的人工智能或超级智能主人之间的力量平衡。正如赫拉利（2015）所言，届时可能不再需要民主和其他旧制度。虽然大多数超人类主义者较少花时间去思考对具体人类和人类社会更直接的政治影响，但超人类主义也有一些分支，他们拥有明确的政治性，关注当下，包括自由主义[佐尔坦·伊斯特万（ZoltanIstvan)，他曾在2016年竞选过美国总统]、民主主义和左派，呼吁关注社会问题(James Hughes)。
人工智能政治哲学
182